Een AI-hallucinatie is een antwoord dat overtuigend klinkt maar feitelijk onjuist is. Het model twijfelt niet hoorbaar wanneer het iets verzint. Een fout antwoord krijgt dezelfde zelfverzekerde toon als een juist antwoord, en precies dat maakt het gevaarlijk.
Voor veel organisaties is dit de belangrijkste reden om AI niet in te zetten bij vertrouwelijk of juridisch gevoelig werk. Dat is terecht zolang onduidelijk is hoe het probleem ontstaat en hoe het te beperken valt.
Waarom een taalmodel dingen verzint
Een taalmodel voorspelt het meest waarschijnlijke volgende woord, op basis van patronen uit grote hoeveelheden tekst. Het heeft geen ingebouwd besef van "dit weet ik niet zeker". Gaat de vraag over een feit dat slecht vertegenwoordigd is in de trainingsdata, dan vult het model het gat met iets dat taalkundig klopt, ook als de inhoud niet klopt.
Dit gedrag volgt rechtstreeks uit hoe deze modellen werken: ze genereren de meest waarschijnlijke tekst en hebben geen mechanisme dat de juistheid daarvan controleert. Een volgende modelversie lost dat niet op. Hoe specifieker of obscuurder de vraag, hoe groter de kans op een verzinsel in plaats van een eerlijk "weet ik niet".
Het risico weegt zwaarder in professioneel werk
Bij een vraag over een willekeurig onderwerp is een hallucinatie vervelend maar zelden schadelijk. Bij een specifiek dossier, een contractclausule of een medische situatie ligt dat anders. Een fout antwoord dat overtuigend klinkt wordt makkelijker voor waar aangenomen dan een antwoord dat zichtbaar onzeker is. Juist die zelfverzekerdheid maakt hallucinaties riskant voor organisaties die met vertrouwelijke informatie werken, zoals advocatuur, zorg en financiële dienstverlening.
Antwoorden gegrond in echte documenten
Het probleem zit in hoe het model aan informatie komt. Een model dat vrij associeert vanuit zijn training levert een gok. Krijgt het model de juiste documenten expliciet mee, dan is het antwoord gegrond in iets dat daadwerkelijk bestaat. Dat principe heet retrieval augmented generation: relevante documentfragmenten worden eerst opgezocht, pas daarna formuleert het model een antwoord.
Dit lost het probleem niet voor honderd procent op, maar verandert de aard van eventuele fouten. In plaats van een volledig verzonnen antwoord staat er in het slechtste geval een verkeerde interpretatie van een bestaand document. Die fout is te controleren, want de bron staat erbij.
Bronvermelding maakt controle een kwestie van seconden
Een antwoord zonder bron vraagt om blind vertrouwen. Staat bij elk antwoord de bron, dan kan de gebruiker controleren of het antwoord overeenkomt met wat in die bron staat. Die check kost een paar seconden.
Zo levert AI snelheid zonder dat de verantwoordelijkheid voor juistheid uit handen gaat. Een systeem zonder bronvermelding legt die verantwoordelijkheid volledig bij de AI. Bij vertrouwelijk werk is dat onwenselijk.
KennisKluis werkt daarom uitsluitend zo. De KennisKern doorzoekt de eigen kennisbank en herleidt elk antwoord tot een document dat de organisatie zelf heeft aangeleverd. Fouten blijven mogelijk, maar zijn altijd te controleren voordat iemand erop vertrouwt.
Wil je AI inzetten zonder de controle over juistheid uit handen te geven? Plan een gesprek van 30 minuten.