Velké jazykové modely (LLM)
Velké jazykové modely (LLM) jsou systémy AI natrénované na obrovském množství textu, které dokážou rozumět lidskému jazyku, generovat ho a pracovat s ním v mnoha různých úlohách.
Velký jazykový model, neboli LLM, je umělá neuronová síť natrénovaná na obrovském množství textu, často stovkách miliard až bilionech slov z knih, webových stránek a dokumentů. Podkladová transformerová architektura se učí předvídat, jaké slovo bude ve větě s největší pravděpodobností následovat. Z tohoto jednoduchého principu se při dostatečném rozsahu a množství trénovacích dat vynořují překvapivě složité schopnosti: gramatika, faktické znalosti, shrnování a dokonce i základní uvažování. Mezi známé příklady patří modely z rodin GPT, Claude, Gemini a Llama, které pohánějí dnešní chatboty a nástroje pro psaní.
V každodenním firemním provozu se LLM uplatňují hlavně v textové práci: při psaní e-mailů a nabídek, shrnování dlouhých dokumentů, překladu textu nebo odpovídání na otázky k interním firemním materiálům. Na rozdíl od klasického vyhledávače, který v databázi najde přesnou shodu, LLM text generuje na základě naučených vzorů. Díky tomu je flexibilní, ale nese to i riziko, že odpověď zní věrohodně, přestože je nesprávná, tento jev se označuje jako halucinace. Výstupy byste proto měli před použitím vždy zkontrolovat, zejména čísla, jména a cokoli s právní vahou.
Firmy se s LLM obvykle setkávají dvěma způsoby: přes chatovací rozhraní pro přímou komunikaci, nebo přes API, které model napojí na existující software, jako jsou e-mailové nástroje nebo interní systémy. U citlivých dat některé firmy provozují lokální modely s otevřeným kódem, které udrží informace uvnitř vlastní sítě místo odesílání na externí server. Ochrana dat záleží v obou případech: u osobních údajů je třeba ověřit, zda a jak poskytovatel požadavky ukládá nebo je používá k dalšímu trénování. Chcete-li dosáhnout dobrých výsledků, pomůže formulovat jasné, konkrétní požadavky, dovednost známá jako prompting.
Prakticky priklad
Řemeslná firma s 18 zaměstnanci používá LLM k předtřídění příchozích e-mailů od zákazníků a k návrhu odpovědí. Zaměstnankyně, která má na starosti korespondenci, jen upraví návrh místo psaní každého e-mailu od začátku. Průměrná doba zpracování jednoho dotazu klesne z 12 minut na 4. Při zhruba 40 dotazech týdně to znamená víc než pět ušetřených hodin psaní.
Jak pomaha Leanshift
Z pohledu Kaizen není LLM náhradou za přemýšlení, je to nástroj, který zkracuje rutinní textovou a znalostní práci, takže vám zbývá víc času na skutečnou zlepšovací práci. Když delegujete standardní formulace, shrnutí nebo rešerše na jazykový model, uvolníte kapacitu na kroky, které si opravdu žádají pozornost: rozhovor s týmem, pozorování na gemba, další malý zlepšovací krok. Tím se čistě otázka efektivity znovu mění v otázku, aby víc lidí mohlo aktivně utvářet zlepšování.
Casto kladene otazky
Jaký je rozdíl mezi LLM a běžným vyhledávačem?
Vyhledávač najde a odkáže na existující dokumenty. LLM naopak generuje nový text na základě naučených jazykových vzorů, což znamená, že může produkovat i nesprávné nebo vymyšlené informace. Výstup z LLM byste měli vždy zkontrolovat.
Jsou firemní data při používání LLM v bezpečí?
Záleží na poskytovateli a způsobu provozu. Cloudové služby mohou požadavky ukládat nebo zpracovávat, někdy i pro trénování, pokud to nevypnete. Lokální modely s otevřeným kódem naopak udrží data uvnitř vaší sítě. U osobních údajů je v obou případech potřeba kontrola GDPR.
Potřebujete pro používání LLM programátorské dovednosti?
Ne. Základní použití probíhá přes chatovací rozhraní v běžném jazyce. Programátorské dovednosti jsou potřeba až tehdy, když chcete LLM napojit na vlastní systémy, například CRM nebo e-mailový nástroj, přes API.