Wat is Hallucinatie?

Een hallucinatie is een fout waarbij een AI-systeem iets verzint dat niet klopt, maar wel overtuigend klinkt. Het kan gaan om een verkeerd feit, een bron die niet bestaat of een citaat dat nooit is gezegd. De AI doet dit niet met opzet. Het systeem weet simpelweg niet wat waar is.

Hoe werkt het?

Een taalmodel voorspelt welke woorden goed passen bij je vraag. Het zoekt geen feiten op in een boek. Als het model iets niet goed weet, vult het de ruimte toch op met tekst die plausibel klinkt. Daardoor ontstaan antwoorden die kloppen in vorm, maar niet in inhoud.

Hallucinaties komen vaker voor in deze situaties:

• Je vraagt naar zeer specifieke details, zoals jaartallen, namen of wetsartikelen.
• Het onderwerp komt weinig voor in de trainingsdata.
• Je vraag bevat een verkeerde aanname en de AI gaat daarin mee.

Ontwikkelaars werken aan manieren om dit te verminderen, bijvoorbeeld door het model te laten opzoeken in betrouwbare documenten. Helemaal weg is het probleem nog niet.

Een voorbeeld uit de praktijk

Je vraagt een chatbot om bronnen voor een rapport over duurzaam bouwen. De chatbot geeft een mooie lijst met titels, auteurs en jaartallen. Je zoekt ze op en een deel blijkt niet te bestaan. Dat is een hallucinatie. Het systeem heeft titels bedacht die logisch klinken.

Waarom is dit belangrijk voor jou?

Als je een verzonnen antwoord zonder controle gebruikt, kan dat gevolgen hebben. Denk aan een fout in een offerte, een verkeerd advies of een onjuist bericht aan klanten. Zo ga je er verstandig mee om:

• Controleer feiten, cijfers en bronnen bij een betrouwbare bron.
• Vraag de AI om aan te geven als hij iets niet zeker weet.
• Wees extra voorzichtig bij onderwerpen als gezondheid, geld en recht.

Vertrouw dus nooit blind op een antwoord, hoe zeker het ook klinkt.