AI-systemen nemen besluiten die het leven van mensen direct raken: wie in aanmerking komt voor een baan, een lening of een visum. Wanneer die besluiten systematisch ongunstig uitvallen voor bepaalde groepen, is er sprake van algoritmische bias. Bias is geen onvermijdelijk technisch resteffect, maar een risico dat organisaties wettelijk verplicht zijn te herkennen en te beheersen. De EU AI-verordening (Verordening (EU) 2024/1689) stelt hiervoor concrete eisen, en de FAST-principes, Fairness, Accountability, Safety en Transparency, bieden een praktisch kader om aan die eisen invulling te geven.

Wat is algoritmische bias?

Bias in AI-systemen ontstaat wanneer een model systematisch bepaalde groepen bevoordeelt of benadeelt. De meest voorkomende oorzaak is scheefgetrokken trainingsdata: historische data spiegelt bestaande ongelijkheden in de samenleving en brengt die ongelijkheden over op het model. Een model dat is getraind op jaren aan sollicitaties uit een mangedomineerde sector, leert dat mannelijke kandidaten de norm zijn. Vrouwen worden benadeeld, niet omdat het systeem dat zo bedoeld heeft, maar omdat de data het zo heeft aangeleerd.

Een bekend voorbeeld is het CV-selectiesysteem dat Amazon tussen 2014 en 2017 intern testte. Het systeem was getraind op historische aanstellingsdata, waarvan het overgrote deel van mannelijke sollicitanten afkomstig was. Het algoritme leerde vrouwelijke kenmerken als negatief signaal te behandelen: cv's met het woord "women's" werden lager gerangschikt, net als diploma's van vrouwencolleges. Amazon stopte het project toen duidelijk werd dat de bias structureel was en niet eenvoudig te corrigeren viel.

Bias hoeft niet direct te zijn. Indirecte discriminatie treedt op wanneer een model geen beschermd kenmerk zoals geslacht of etniciteit als invoer gebruikt, maar kenmerken hanteert die daar sterk mee correleren, zogeheten proxy's. Een selectiecriterium als "onafgebroken dienstjaren" benadeelt statistisch gezien vrouwen en mensen met een beperking, die vaker een carrièreonderbreking hebben.

De FAST-principes als handelingskader

De FAST-principes bieden een praktisch handelingskader voor organisaties die AI verantwoord willen inzetten.

Fairness betekent dat AI-systemen eerlijk en niet-discriminerend zijn voor alle groepen die erdoor worden geraakt. Dat vereist representatieve trainingsdata, structurele biastoetsing en concrete mitigatiemaatregelen. Fairness is geen statische eigenschap: modellen driften in de tijd naarmate de wereld verandert en de data die als invoer dient, meeschuift.

Accountability verwijst naar de eis dat voor elk AI-systeem duidelijk is wie verantwoordelijk is voor de uitkomsten, hoe toezicht is georganiseerd, en hoe burgers en medewerkers bezwaar kunnen maken wanneer een besluit onjuist of onrechtmatig is. Verantwoording gaat verder dan technische logging: het vergt ook een governance-structuur die aantoonbaar functioneert.

Safety betreft de technische robuustheid van het systeem: betrouwbare werking onder variërende omstandigheden, weerbaarheid tegen manipulatie en onbedoeld gebruik, en correcte werking voor alle relevante subgroepen.

Transparency houdt in dat de werking van een AI-systeem begrijpelijk en navolgbaar is voor de personen die ermee werken en voor degenen die erdoor worden beïnvloed. Transparantie is een voorwaarde voor zinvol menselijk toezicht: wie niet begrijpt hoe een systeem tot een uitkomst komt, kan die uitkomst niet beoordelen.

Wettelijke verankering in de EU AI-verordening

De FAST-principes zijn geen vrijblijvende leidraad. Ze zijn in grote mate wettelijk verankerd in de EU AI-verordening, die op 1 augustus 2024 in werking is getreden.

Overweging 27 van de verordening herinnert aan de zeven ethische beginselen voor betrouwbare AI, waaronder "diversiteit, non-discriminatie en rechtvaardigheid": AI-systemen worden ontwikkeld en gebruikt op een manier die gelijke toegang bevordert en discriminerende effecten die op grond van het Unierecht verboden zijn, voorkomt.

Artikel 10 legt aanbieders van hoog-risico AI-systemen concrete databeheerverplichtingen op. Zij moeten trainingsdata systematisch onderzoeken op mogelijke vooringenomenheid die nadelige effecten heeft op grondrechten of leidt tot verboden discriminatie, en zij moeten passende maatregelen nemen om die bias op te sporen, te voorkomen en te beperken. Artikel 13 verplicht tot voldoende transparantie zodat gebruiksverantwoordelijken de output kunnen interpreteren en op passende wijze kunnen gebruiken.

Voor gebruiksverantwoordelijken geldt op grond van artikel 26(4) de verplichting om te waarborgen dat invoerdata relevant en voldoende representatief is voor het beoogde doel van het systeem.

Wat gaat er in de praktijk mis?

De Nederlandse en Europese praktijk toont dat bias en gebrek aan transparantie reële schade veroorzaken. De Autoriteit Persoonsgegevens constateerde in 2025 dat AI-systemen op de arbeidsmarkt aanzienlijke discriminatierisico's meebrengen: bij CV-filtering worden kandidaten uit bepaalde bevolkingsgroepen structureel uitgesloten, terwijl werkgevers hier veelal niet transparant over zijn.

In augustus 2025 stelde de Rechtbank Den Haag vast dat de minister van Buitenlandse Zaken bij de afwijzing van een visumaanvraag gebruik had gemaakt van een algoritme (Informatie Ondersteund Beslissen) zonder daarover transparant te zijn. Noch uit de beslissing, noch uit het Algoritmeregister bleek welke criteria waren gehanteerd. De rechtbank bepaalde dat de minister meer informatie over het selectieproces moest verstrekken (ECLI:NL:RBDHA:2025:14544). De uitspraak illustreert dat gebrek aan transparantie over algoritmische besluitvorming in strijd kan zijn met beginselen van behoorlijk bestuur.

De rol van het Algoritmeregister

De Nederlandse overheid heeft het Algoritmeregister opgezet als instrument voor transparantie: overheidsorganisaties publiceren daarin informatie over de algoritmes die zij inzetten. Registratie van impactvolle algoritmes wordt in de toekomst wettelijk verplicht. De visumzaak laat echter zien dat aanwezigheid in het register niet automatisch betekent dat de informatie voldoende duidelijk en toegankelijk is. Transparantie vereist niet alleen publicatie, maar ook begrijpelijkheid en actualiteit.

Praktische stappen voor organisaties

Organisaties die AI-systemen inzetten of ontwikkelen, kunnen bias en gebrek aan transparantie structureel aanpakken door een aantal maatregelen:

  • Voer een biasaudit uit op trainingsdata voordat een systeem in gebruik wordt genomen, en herhaal die analyse periodiek.
  • Documenteer de samenstelling van trainingsdata en de gemaakte ontwerpkeuzes, conform artikel 10 van de EU AI-verordening.
  • Stel een procedure in voor bezwaar en correctie, zodat personen die door een AI-besluit worden benadeeld dit kunnen aanvechten.
  • Communiceer actief en in begrijpelijke taal aan betrokkenen wanneer en hoe AI bij een besluit is ingezet.
  • Zorg voor zinvol menselijk toezicht: een medewerker die de output van een systeem niet begrijpt, kan deze niet effectief beoordelen.

Ethische AI is geen filosofisch ideaal maar een aantoonbare bedrijfspraktijk, met een wettelijk kader dat naleving afdwingbaar maakt.