Wat is RAG?

RAG staat voor retrieval-augmented generation. Dat betekent: een AI zoekt eerst informatie op in een bron en schrijft daarna pas een antwoord. Zo gebruikt de AI actuele of eigen informatie, en niet alleen wat hij tijdens de training leerde.

Hoe werkt het?

Een taalmodel weet alleen wat in zijn trainingsdata zat. Dat is een vaste hoeveelheid kennis. Over jouw bedrijf of over nieuwe feiten weet het model dus niets. RAG lost dat op in drie stappen:

• Je stelt een vraag.
• Het systeem zoekt in een eigen collectie documenten naar stukken tekst die passen bij je vraag.
• Het model krijgt je vraag samen met die tekststukken en schrijft een antwoord op basis daarvan.

Het zoeken gebeurt vaak met embeddings. Dat zijn getallen die de betekenis van een tekst weergeven, zodat het systeem teksten met een vergelijkbare inhoud kan vinden. Het model hoeft dus niet opnieuw getraind te worden. Je past alleen de collectie documenten aan.

Een voorbeeld uit de praktijk

Een gemeente wil dat inwoners vragen kunnen stellen over afval en vergunningen. De gemeente zet haar eigen webpagina’s en regels in een collectie. Vraagt iemand: Mag ik een dakkapel plaatsen zonder vergunning? Dan zoekt het systeem de juiste regels op. Het model schrijft daarna een duidelijk antwoord en kan de bron noemen.

Waarom is dit belangrijk voor jou?

RAG maakt AI bruikbaarder en betrouwbaarder voor werk. Het verkleint de kans op hallucinaties, dus verzonnen antwoorden. Je kunt ook de bron controleren. Er blijven aandachtspunten:

• Een antwoord is zo goed als je documenten. Verouderde stukken geven verouderde antwoorden.
• Het zoeken kan het verkeerde stuk vinden.
• Zorg dat vertrouwelijke documenten alleen zichtbaar zijn voor mensen die ze mogen zien.

Controleer dus altijd belangrijke antwoorden aan de hand van de bron.