RAG staat voor Retrieval Augmented Generation. In gewoon Nederlands: het systeem zoekt eerst relevante informatie op in de eigen documenten en gebruikt die om een antwoord te formuleren. Zonder RAG antwoordt een taalmodel alleen op basis van wat het tijdens training heeft geleerd. Met RAG antwoordt het op basis van wat er daadwerkelijk in de dossiers, rapporten en kennisbank van de organisatie staat.
RAG neemt de belangrijkste reden voor wantrouwen weg
Een standaard taalmodel zoals ChatGPT heeft geen toegang tot interne documenten. Bij een vraag over een specifiek dossier kan het model alleen gokken op basis van algemene patronen, of het verzint een antwoord dat overtuigend klinkt maar feitelijk onjuist is. Dat tweede verschijnsel heet een hallucinatie.
RAG pakt dit anders aan. Voordat het model een antwoord formuleert, doorzoekt het systeem eerst de relevante documenten en geeft de gevonden passages mee als context. Het model krijgt dus de opdracht: beantwoord deze vraag en gebruik hierbij specifiek deze tekstfragmenten. Het antwoord is daardoor gegrond in iets dat bestaat, in plaats van volledig gegenereerd uit het geheugen van het model.
Zo werkt RAG stap voor stap
Eerst worden documenten verwerkt en opgesplitst in behapbare stukken tekst. PDF's, Word-bestanden, spreadsheets en presentaties worden omgezet naar een vorm die een AI-systeem kan doorzoeken.
Die stukken tekst gaan in een gespecialiseerde database die zoekt op betekenis in plaats van op exacte woorden. Wie zoekt naar "ontslag wegens disfunctioneren" vindt ook relevante passages die dat woord niet letterlijk gebruiken maar wel over hetzelfde onderwerp gaan.
Bij een vraag zoekt het systeem eerst de meest relevante fragmenten op. Die gaan samen met de vraag naar het taalmodel, dat op basis daarvan een antwoord formuleert. Het antwoord bevat een verwijzing naar de bron, zodat te controleren is of het klopt.
Binnen KennisKluis is dit de taakverdeling tussen twee onderdelen: de KennisVerwerker leest documenten in en maakt ze doorzoekbaar, de KennisKern doorzoekt de kennisbank en beantwoordt vragen met bronvermelding.
Bronvermelding maakt antwoorden controleerbaar
Een AI-antwoord zonder bron is niet te controleren. Bij vertrouwelijke dossiers, juridische stukken of medische informatie is dat geen optie. Een goed ingericht RAG-systeem toont bij elk antwoord uit welk document en welke passage de informatie komt, zodat de controle seconden kost in plaats van een zoektocht door het archief.
RAG houdt documenten buiten het model
Een belangrijk neveneffect van RAG, vooral in combinatie met lokale AI: het taalmodel hoeft niet getraind te worden op de documenten. Die blijven in een doorzoekbare database staan en worden alleen tijdens het beantwoorden van een vraag tijdelijk gebruikt. Er is dus geen risico dat vertrouwelijke informatie in het model terechtkomt en later in een ander antwoord opduikt.
Fine-tuning bestaat bij KennisKluis wel, maar als aanvulling: de KennisTrainer stemt modellen af op vakgebied en terminologie, terwijl klantdata in de RAG-database blijft en nooit in het model wordt getraind.
RAG zorgt ervoor dat een AI-antwoord klopt met wat er binnen de organisatie is vastgelegd. Bij KennisKluis is dit het fundament: elk antwoord is herleidbaar tot een aangeleverd document, verwerkt op infrastructuur die geen verbinding maakt met de buitenwereld.
Plan een gesprek van 30 minuten om te zien hoe RAG met de eigen documenten werkt.