Doorgaan naar inhoud

Nieuw: gratis e-mailcursus AI onder de knie in 7 dagen. Start vandaag

AI-woordenlijst

Wat is Black box?

In één zin

Een black box is een AI-systeem waarvan je niet kunt nagaan hoe het tot een bepaalde uitkomst komt, omdat de interne werking te complex of verborgen is.

Ook wel: black box-model, zwarte doos

Een black box is een AI-systeem waarvan je niet kunt zien hoe het tot een uitkomst komt. Je ziet wat erin gaat en wat eruit komt, maar de stappen ertussen blijven verborgen.

Hoe werkt het?

Moderne AI-modellen, zoals neurale netwerken, bestaan uit miljoenen of zelfs miljarden getallen. Die getallen heten parameters. Ze worden tijdens de training aangepast. Geen mens kan nog overzien hoe al die getallen samen tot een antwoord leiden.

Het model werkt dus wel, maar de redenering is niet makkelijk uit te leggen. Het is niet zoals bij een simpele regel, bijvoorbeeld: als het inkomen lager is dan een bepaald bedrag, dan krijg je toeslag. Daar kun je precies zien waarom een besluit is genomen. Bij een black box kan dat niet. Onderzoekers werken aan methoden om meer inzicht te krijgen. Dat heet uitlegbare AI.

Een voorbeeld uit de praktijk

Een bank gebruikt een AI-model om te beoordelen of iemand een lening krijgt. Een klant wordt afgewezen en vraagt waarom. Als het model een black box is, kan de medewerker alleen zeggen dat de uitkomst van het systeem komt. Dat is onbevredigend. De klant kan ook niet controleren of er een fout of een vooroordeel in het spel was.

Waarom is dit belangrijk voor jou?

AI beslist steeds vaker mee over zaken die jou raken, zoals werk, geld en zorg. Een gebrek aan uitleg brengt risico’s mee:

  • Fouten en vooroordelen zijn lastig te ontdekken.
  • Het is moeilijk om een besluit aan te vechten.
  • Vertrouwen in de technologie neemt af.

Vraag daarom bij belangrijke beslissingen om uitleg en om menselijke controle. Je hebt hier soms ook wettelijk recht op.

Lees meer over Black box

Bekijk alle begrippen