Wat is een large language model (LLM)? En hoe werkt een chatbot als ChatGPT?
β± 8 min. leestijd
Een large language model (LLM) is een deep learning-model dat getraind is op enorme hoeveelheden tekst, met als kerntaak: voorspel het volgende woord (of woorddeel) in een zin. Dat klinkt simpel, maar op voldoende schaal β miljarden parameters, biljoenen woorden aan trainingsdata β levert die simpele taak systemen op die coherente, contextbewuste tekst kunnen genereren, vragen beantwoorden en zelfs code schrijven.
Transformers: de architectuur achter moderne LLM's
Vrijwel alle huidige LLM's zijn gebouwd op de transformer-architectuur, geΓ―ntroduceerd in 2017. Het kernidee is "attention": het model leert voor elk woord in te schatten welke andere woorden in de zin (of het hele gesprek) relevant zijn voor de betekenis, ongeacht hoe ver ze uit elkaar staan. Dat is waarom een LLM een verwijzing zoals "hij" correct kan koppelen aan een naam die tien zinnen eerder viel.
Waarom een LLM soms dingen verzint (hallucinatie)
Een LLM heeft geen ingebouwde "waarheidsdatabase" β het genereert de statistisch meest waarschijnlijke voortzetting van tekst. Meestal komt dat overeen met feitelijk correcte informatie, omdat correcte informatie vaker in de trainingsdata voorkwam. Maar het model kan net zo vloeiend en zelfverzekerd een compleet verzonnen feit, bron of citaat produceren. Dit heet hallucinatie, en het is een van de belangrijkste redenen waarom LLM-output in professionele context altijd gecontroleerd moet worden.
Wat is retrieval-augmented generation (RAG)?
Om hallucinatie te beperken, koppelen veel toepassingen een LLM aan een externe kennisbron: het systeem zoekt eerst relevante documenten op (bijvoorbeeld in een interne bedrijfsdatabase), en geeft die als context mee aan het model voordat het een antwoord genereert. Dit heet RAG en is de standaardaanpak om een LLM feitelijk betrouwbaarder te maken zonder het volledig opnieuw te trainen.
Waarom dit relevant is voor certificering
Certificeringen zoals CT-AI (testen van AI-systemen) en AIGP (AI-governance) besteden expliciet aandacht aan generatieve AI en LLM-specifieke risico's zoals hallucinatie, omdat die risico's wezenlijk anders zijn dan bij klassieke, deterministische software.