LLM (velký jazykový model): co to je a k čemu je firmě
LLM (large language model, velký jazykový model) je typ umělé inteligence, který se naučil jazyk na obrovském množství textů a umí pokračovat v textu: odpovídat na otázky, shrnovat, překládat, psát i programovat. Na LLM stojí chatboti jako ChatGPT, Claude nebo Gemini. Pro firmu je důležité vědět, co LLM umí dobře, kde chybuje a jak ho bezpečně používat.
Aktualizováno
Jak LLM funguje (zjednodušeně)
Model rozloží text na kousky (tokeny) a na základě všeho, co viděl při trénování, odhaduje, jaký kousek má následovat. Opakováním vznikne odpověď. Nemá databázi faktů, ve které by vyhledával – jeho „znalosti“ jsou zakódované ve vzorcích jazyka. Proto umí skvěle formulovat, ale může se mýlit v číslech a faktech.
Kde LLM firmě pomůže
| Úloha | Jak dobře | Na co pozor |
|---|---|---|
| Koncepty textů, e-mailů, popisků | Velmi dobře | Upravit tón, ověřit fakta |
| Shrnutí dokumentů a schůzek | Dobře | U smluv kontrolovat originál |
| Překlady | Dobře | Odborné termíny a právní texty zkontrolovat |
| Odpovědi zákazníkům | S vlastními daty dobře | Bez dat si vymýšlí |
| Výpočty a přesná čísla | Nespolehlivě | Počítat jinak nebo ověřit |
LLM ve firemních aplikacích
Přes API se LLM dá zapojit do webu nebo interních systémů: AI chatbot nad vašimi dokumenty, třídění poptávek, vytěžování faktur. Aby model odpovídal podle vašich dat, používá se RAG; aby mohl sám provádět kroky, AI agent. Jak se zeptat správně, popisuje heslo prompt.
Kolik to stojí
Používání LLM přes API se platí podle objemu textu (tokenů). Aplikaci nebo chatbota nad vašimi daty stavíme jako řešení na míru – rozsah a cenu řekneme předem, konzultace hodinovou sazbou 1 000 Kč/hod.
Časté otázky
Proč si LLM vymýšlí?
Model generuje pravděpodobný text, ne ověřená fakta. Když nemá informaci, často vytvoří věrohodně znějící odpověď – tomu se říká halucinace. Proto se pro firemní použití model kombinuje s vlastními dokumenty (RAG) a důležité výstupy kontroluje člověk.
Ví LLM, co se stalo včera?
Samotný model zná jen data do určitého data, kdy skončilo trénování. Aktuální informace dostane, jen když mu je aplikace předá – vyhledáváním na webu, napojením na databázi nebo vložením dokumentu.
Mohu do LLM vkládat firemní data?
Záleží na službě a tarifu. U spotřebitelských verzí si v podmínkách ověřte, jestli se vaše vstupy používají k tréninku a jak to vypnout. Firemní tarify a přístup přes API to obvykle řeší smluvně. Osobní údaje zákazníků bez právního základu do AI nevkládejte.