Suured keelemudelid (LLM)
Suured keelemudelid (LLM-id) on tehisintellektisüsteemid, mida on treenitud tohutul hulgal tekstil ning mis suudavad mõista, genereerida ja töödelda inimkeelt paljude erinevate ülesannete puhul.
Suur keelemudel ehk LLM on tehisnärvivõrk, mida on treenitud tohutul hulgal tekstil, sageli miljardite kuni triljonite sõnadega raamatutest, veebilehtedelt ja dokumentidest. Aluseks olev transformer-arhitektuur õpib ennustama, milline sõna tuleb lauses kõige tõenäolisemalt järgmisena. Sellest lihtsast põhimõttest, piisava mahu ja treeningandmete korral, tekivad üllatavalt keerukad võimed: grammatika, faktide meeldetuletamine, kokkuvõtete tegemine ja isegi elementaarne arutlemine. Tuntud näited on GPT, Claude, Gemini ja Llama perekondade mudelid, mis on tänaste vestlusrobotite ja kirjutamisvahendite aluseks.
Igapäevases äritegevuses rakendatakse LLM-e peamiselt tekstitöös: e-kirjade ja pakkumiste koostamisel, pikkade dokumentide kokkuvõtmisel, tekstide tõlkimisel või ettevõttesisese materjali kohta küsimustele vastamisel. Erinevalt traditsioonilisest otsingumootorist, mis leiab andmebaasist täpse vaste, genereerib LLM teksti õpitud mustrite põhjal. See teeb selle paindlikuks, kuid toob kaasa ka riski, et vastus kõlab usutavalt, olles samas vale, seda nähtust nimetatakse hallutsinatsiooniks. Seetõttu tuleks väljundeid enne kasutamist kontrollida, eriti arve, nimesid ja õigusliku kaaluga sisu.
Ettevõtted puutuvad LLM-idega tavaliselt kokku kahel viisil: vestlusliidese kaudu otseseks suhtluseks või API kaudu, mis ühendab mudeli olemasoleva tarkvaraga, näiteks e-posti tööriistade või sisemiste süsteemidega. Tundlike andmete puhul käitavad mõned ettevõtted kohalikke, avatud lähtekoodiga mudeleid, mis hoiavad info oma võrgu sees, saatmata seda välisele serverile. Andmekaitse on oluline mõlemal juhul: isikuandmete puhul tuleb kontrollida, kas ja kuidas pakkuja päringuid salvestab või neid edasiseks treenimiseks kasutab. Heade tulemuste saamiseks aitab selgete, konkreetsete päringute kirjutamine, oskus, mida nimetatakse promptimiseks.
Praktiline näide
18 töötajaga käsitööettevõte kasutab LLM-i, et eelsorteerida saabuvaid kliendi e-kirju ja koostada vastuste mustandeid. Kirjavahetusega tegelev töötaja peab mustandit ainult kohandama, selle asemel et kirjutada iga e-kiri nullist. Keskmine päringu käsitlemise aeg langeb 12 minutilt 4 minutini. Umbes 40 päringu juures nädalas annab see kokku üle viie tunni kirjutamisaja kokkuhoidu.
Kuidas Leanshift aitab
Kaizen vaatenurgast ei asenda LLM mõtlemist, vaid on tööriist, mis lühendab rutiinset teksti- ja teadmustööd, jättes rohkem aega tegelikuks parendustööks. Kui delegeerid standardsõnastuse, kokkuvõtted või uurimistöö keelemudelile, vabastad võimekuse sammude jaoks, mis tegelikult tähelepanu vajavad: vestlus meeskonnaga, vaatlus Gembal, järgmise väikese parendussammu tegemine. See muudab puhta tõhususe küsimuse tagasi küsimuseks sellest, kas üha rohkem inimesi saab parendust aktiivselt kujundada.
Korduma kippuvad küsimused
Mis vahe on LLM-il ja tavalisel otsingumootoril?
Otsingumootor leiab ja lingib olemasolevaid dokumente. LLM aga genereerib uut teksti õpitud keelemustrite põhjal, mis tähendab, et see võib toota ka valet või väljamõeldud infot. LLM-i väljundit tuleks alati kontrollida.
Kas ettevõtte andmed on LLM-i kasutamisel turvalised?
See sõltub pakkujast ja käitusviisist. Pilveteenused võivad päringuid salvestada või töödelda, mõnikord treenimiseks, kui sa sellest loobumist ei vali. Kohalikud, avatud lähtekoodiga mudelid hoiavad andmed selle asemel sinu enda võrgus. Isikuandmete puhul on igal juhul vajalik GDPR-kontroll.
Kas LLM-i kasutamiseks on vaja programmeerimisoskusi?
Ei. Põhikasutus toimub vestlusliidese kaudu tavakeeles. Programmeerimisoskused muutuvad vajalikuks alles siis, kui soovid LLM-i ühendada oma süsteemidega, näiteks CRM-i või e-posti tööriistaga API kaudu.