"Moet de AI dan getraind worden op onze documenten?" is een van de meest gestelde vragen zodra het gesprek over bedrijfseigen AI gaat. Meestal is dat niet nodig. Drie begrippen worden hier vaak door elkaar gehaald: trainen, finetunen en het ophalen van informatie op het moment dat een vraag gesteld wordt.
Trainen bouwt een model vanaf nul op
Trainen is het proces waarmee een taalmodel oorspronkelijk ontstaat. Een model wordt blootgesteld aan enorme hoeveelheden tekst, vaak een groot deel van het openbare internet, en leert daaruit taalpatronen en redeneervermogen. Dit kost miljoenen euro's aan rekenkracht en duurt weken tot maanden. Alleen een handvol grote AI-bedrijven heeft de middelen om dit te doen. Geen enkele organisatie die AI wil inzetten voor eigen werk is hiermee bezig, en dat hoeft ook niet.
Finetunen stuurt een bestaand model bij
Finetunen begint met een al getraind model en stuurt dat verder bij met een kleinere, specifieke dataset. Een voorbeeld: een model moet consequent in een vaste schrijfstijl antwoorden, of vaktaal uit een specifieke sector vloeiend gebruiken. Finetunen past de interne parameters van het model aan op basis van voorbeelden uit die dataset.
Dit is een veel kleinere ingreep dan trainen, maar nog steeds geen lichte operatie. Het vraagt technische kennis en rekenkracht, en de dataset moet zorgvuldig samengesteld zijn. Een bekend risico is "catastrophic forgetting": het model kan een deel van zijn algemene kennis verliezen terwijl het de nieuwe, specifieke kennis aanleert. Finetunen is ook een momentopname. Verandert er iets in de documenten, dan is opnieuw finetunen nodig om dat bij te werken.
De meeste organisaties hebben geen van beide nodig
Voor het overgrote deel van de zakelijke toepassingen, zoals vragen beantwoorden op basis van eigen documenten of dossiers samenvatten, is geen van bovenstaande nodig. Wel nodig is dat het model op het moment van de vraag de juiste informatie meekrijgt, zonder die informatie permanent in het model te verankeren. Dit heet retrieval augmented generation, kortweg RAG.
Het verschil zit in wat er verandert. Bij finetunen verandert het model zelf, permanent, en blijft die kennis daarin verankerd. Bij RAG blijft het model ongewijzigd; relevante informatie wordt alleen tijdelijk meegegeven op het moment dat een vraag gesteld wordt. Nieuwe documenten gaan de doorzoekbare database in en zijn direct vindbaar, zonder dat er iets opnieuw getraind hoeft te worden.
Praktisch verschil in drie punten
RAG is sneller in te richten, want er is geen trainingsproces nodig dat dagen of weken duurt.
Onderhoud is eenvoudiger, want nieuwe of gewijzigde documenten zijn direct beschikbaar, zonder hertraining.
Voor vertrouwelijke informatie is RAG veiliger, want de data wordt niet permanent in het model ingebakken. Stopt een medewerker of verandert een contract, dan volstaat het aanpassen van de documenten. Er hoeft geen model herzien te worden dat die informatie al heeft opgenomen.
Wanneer finetunen alsnog zin heeft
Finetunen heeft voor een bedrijf wel degelijk waarde, alleen niet als vervanging voor RAG. Drie voordelen die er echt toe doen.
Een klein model dat is afgestemd op precies het type vragen en documenten van een organisatie, kan op die specifieke taak net zo goed presteren als een veel groter algemeen model, met een fractie van de rekenkracht. Voor een clouddienst is dat verschil minder relevant: die kan gewoon een groter model inzetten. Op eigen hardware met een vast geheugenbudget is het wel het verschil tussen wat past en wat niet past.
Een standaardmodel gebruikt aangereikte documenten niet automatisch goed. Het kan alsnog naast de bron gokken, of juist te snel weigeren zodra het antwoord er net iets anders staat dan verwacht. Finetunen op precies dat gedrag, gegrond antwoorden binnen een RAG-opzet en scherp aanvoelen wanneer wél en wanneer niet te weigeren, verbetert de betrouwbaarheid van elk antwoord dat het systeem geeft.
Vakjargon is hierbij een precisiekwestie. Een model dat een specifieke sectorterm correct en foutloos gebruikt in plaats van er losjes omheen te formuleren, levert bruikbare output op in plaats van een concept dat alsnog helemaal herschreven moet worden.
Een veelgehoorde tegenwerping is dat een archief dat toch niet meer verandert, juist geschikt zou zijn om in te finetunen. Of de brondata verandert, is echter geen argument vóór finetunen; het is hooguit een argument tegen vaak herhalen. RAG werkt voor stabiele documenten net zo goed als voor documenten die wekelijks wijzigen, met hetzelfde voordeel: elk antwoord blijft te herleiden tot de exacte passage. Finetunen op archiefinhoud verliest die herleidbaarheid, ook als de inhoud nooit meer verandert.
KennisKluis combineert RAG met gerichte finetuning
KennisKluis draait primair op RAG. De KennisVerwerker leest documenten in en maakt ze doorzoekbaar; de KennisKern beantwoordt vragen daarover met bronvermelding. Nieuwe documenten zijn direct vindbaar, zonder hertraining. Voor de gevallen waarin finetunen wel meerwaarde heeft, bevat de suite de KennisTrainer: die stuurt AI-modellen lokaal bij met bedrijfsdata, voor gedrag en vakjargon. Ook dat gebeurt volledig binnen het pand; data verlaat de eigen omgeving niet.
KennisKluis adviseert per toepassing of RAG volstaat of dat finetuning iets toevoegt. Plan een gesprek van 30 minuten.