Wat is Alignment?
In één zin
Alignment is het afstemmen van een AI-systeem op menselijke bedoelingen en waarden, zodat het doet wat we echt willen en geen schade veroorzaakt.
Ook wel: AI-alignment, afstemming van AI
Alignment gaat over de vraag hoe je ervoor zorgt dat een AI-systeem doet wat mensen echt willen en past bij onze waarden. Het systeem moet nuttig, veilig en eerlijk zijn.
Hoe werkt het?
Een AI-model doet precies wat het geleerd heeft, en niet altijd wat je bedoelt. Een simpel voorbeeld: je vraagt een model om een tekst korter te maken. Het laat daarbij een belangrijk feit weg. Het deed wat je vroeg, maar niet wat je wilde.
Om dit te verbeteren gebruiken onderzoekers verschillende methoden. Een bekende methode is dat mensen antwoorden van het model beoordelen. Het model leert dan welke antwoorden mensen beter vinden. Ook zijn er regels en filters die schadelijke antwoorden tegengaan, zoals guardrails.
Alignment is moeilijk. Mensen zijn het niet altijd eens over wat goed is. Waarden verschillen tussen culturen en situaties. Het is dus een doorlopend onderzoeksgebied en geen opgelost probleem.
Een voorbeeld uit de praktijk
Je vraagt een chatbot hoe je een lastige collega moet aanpakken. Een goed afgestemd model geeft een beleefd en bruikbaar advies. Het helpt je niet om iemand te pesten of te bedriegen. Het geeft ook toe als het iets niet weet, in plaats van iets te verzinnen.
Waarom is dit belangrijk voor jou?
Hoe beter AI is afgestemd, hoe meer je erop kunt vertrouwen. Toch blijft voorzichtigheid nodig:
- Ook een goed afgestemd model kan fouten maken of vooroordelen hebben.
- Controleer belangrijke antwoorden zelf.
- Het begrip komt vaak voor in nieuws over AI-veiligheid. Nu weet je wat het betekent.
