Wat is Uitlegbare AI?

Uitlegbare AI is AI waarvan je kunt begrijpen waarom het een bepaalde uitkomst geeft. Het tegenovergestelde is een black box: een systeem waarvan niemand goed kan zien hoe het tot een antwoord komt.

Hoe werkt het?

Sommige AI-modellen zijn eenvoudig. Een beslisboom bijvoorbeeld werkt met duidelijke ja-nee-vragen. Je kunt de stappen nalopen. Moderne modellen, zoals grote neurale netwerken, hebben miljarden getallen. Daardoor is het bijna onmogelijk om na te gaan waarom ze precies tot een antwoord komen.

Onderzoekers hebben daarom technieken bedacht om toch inzicht te geven. Voorbeelden:

• Laten zien welke gegevens het zwaarst meewogen in een beslissing.
• Een eenvoudiger model naast het ingewikkelde model leggen om het gedrag uit te leggen.
• Bij een beeld laten zien welk deel van de foto het model bekeek.

Zo’n uitleg is vaak een benadering. Ze helpt, maar is niet altijd een volledig antwoord.

Een voorbeeld uit de praktijk

Een bank gebruikt AI om te bepalen of iemand een lening krijgt. Een klant wordt afgewezen en vraagt waarom. Als het systeem uitlegbaar is, kan de bank zeggen: ‘Het inkomen was te laag in verhouding tot de andere lasten.’ Bij een black box kan niemand een goede reden noemen. Dat is lastig, voor de klant én voor de bank.

Waarom is dit belangrijk voor jou?

Als AI invloed heeft op beslissingen over mensen, moet je kunnen uitleggen hoe die beslissing tot stand kwam. Denk aan zorg, werk, onderwijs en geld.

• Uitleg helpt om fouten en oneerlijke uitkomsten (bias) te ontdekken.
• Het bouwt vertrouwen op bij gebruikers.
• Voor sommige toepassingen gelden regels over transparantie.

Vraag dus bij een AI-systeem op je werk: kunnen we uitleggen waarom het dit antwoord geeft? Als het antwoord nee is, wees dan extra voorzichtig.