Een large language model is een AI-model dat op enorme hoeveelheden tekst is getraind en daardoor taal begrijpt en zelf tekst schrijft.
Een large language model, afgekort LLM, is het type AI-model dat achter vrijwel elke moderne chatbot zit. Het is getraind op zeer grote hoeveelheden tekst en heeft daaruit geleerd hoe taal in elkaar zit. Daardoor kan het een vraag begrijpen, verbanden leggen en een antwoord formuleren dat op menselijke tekst lijkt.
Een LLM voorspelt telkens het volgende stukje tekst, op basis van alles wat ervoor kwam. Dat klinkt simpel, maar op deze schaal levert het verrassend goed taalbegrip op. Het model heeft geen database met feiten die het opzoekt. Het stelt zijn antwoord op het moment zelf samen.
Dat verklaart ook de bekendste zwakte. Vraag je iets waar het model geen goede basis voor heeft, dan kan het een antwoord geven dat overtuigend klinkt maar niet klopt. Dat heet hallucineren.
Een LLM weet niets over jouw klanten, je voorraad of je openingstijden. Die kennis zit niet in het model. Daarom koppelen we het model aan je eigen bronnen met een techniek die RAG heet. Het model levert het taalvermogen, jouw systemen leveren de feiten.
Die combinatie maakt het verschil tussen een chatbot die algemeenheden uitkraamt en een assistent die zegt waar pakket 48291 op dit moment is.