Wat is Bias?

Bias in AI betekent dat een AI-systeem scheve of oneerlijke uitkomsten geeft. Het systeem behandelt bepaalde groepen mensen dan anders, zonder dat daar een goede reden voor is. In het Nederlands spreken we ook wel van vooringenomenheid.

Hoe werkt het?

Een AI leert van data. Als die data een scheef beeld van de wereld geven, neemt de AI dat beeld over. Bias kan op meerdere plekken binnenkomen:

• In de data: bepaalde groepen komen weinig voor of worden stereotiep weergegeven.
• In de keuzes van makers: wat meet je en wat vind je belangrijk?
• In het gebruik: een systeem wordt gebruikt voor een doel waarvoor het niet is gemaakt.

De AI bedoelt het niet kwaad. Het herhaalt alleen patronen uit het verleden. Als die patronen oneerlijk waren, wordt de uitkomst dat ook.

Een voorbeeld uit de praktijk

Stel, een bedrijf gebruikt AI om sollicitaties te sorteren. Het systeem is getraind op cv’s van mensen die de afgelopen tien jaar zijn aangenomen. Waren dat vooral mannen? Dan kan het systeem leren dat mannelijke kandidaten beter passen. Vrouwen vallen dan vaker af, ook al zijn ze even geschikt. Een ander voorbeeld is een beeldgenerator die bij het woord ‘directeur’ bijna altijd dezelfde soort persoon laat zien.

Waarom is dit belangrijk voor jou?

AI wordt gebruikt bij beslissingen over banen, leningen, zorg en veiligheid. Bias kan dan echte gevolgen hebben voor mensen. Daarom is het slim om een paar dingen te onthouden:

• Neem een uitkomst van AI nooit blind over.
• Vraag je af waarop het systeem is getraind.
• Laat bij belangrijke beslissingen altijd een mens meekijken.
• Meld het als je oneerlijke uitkomsten ziet.

Bias is niet helemaal weg te halen, maar je kunt het wel verkleinen. Dat begint met erover nadenken en het testen van het systeem op verschillende groepen.