Fair Machine Learning bestrijdt vooringenomenheid
Een AI tool baseert haar berekeningen op basis van data. Als deze data biased (vooringenomen) is, zal dat in de berekening doorwerken. Wanneer bij een beroepsgroep in het verleden mannen de voorkeur hadden, zal een AI tool voor werving deze bias overnemen. Mannen kunnen dus onterecht een beter oordeel van de AI tool krijgen. Dit kunnen we voorkomen door de data te decorreleren met geslacht. Geslacht en eventueel gerelateerde proxies zullen nu niet meer voorspellend zijn voor baangeschiktheid. Met fair machine learning verwacht TNO op een eerlijke en unbiased wijze geschikte kandidaten te selecteren.
TNO maakt generative adversarial network models met fair machine learning
De decorrelatie voor fair machine learning voert TNO uit met een Generative Adversarial Network (GAN) model. Dit model probeert twee tegenstrijdige criteria tegen elkaar af te wegen:
- De dataset zo min mogelijk veranderen
- Iemand’s geslacht niet meer definiëren aan de overgebleven kenmerken
Bij het afwegen van de criteria, generaliseert het model bestaande kenmerken van individuen naar meer algemene kenmerken. Bijvoorbeeld door postcodes naar wijken, wijken naar steden, steden naar landen te generaliseren. Het eindresultaat is een dataset waarbij iemand’s geslacht (criterium 2) nagenoeg niet herkenbaar is. Kortom, de gender bias is uit de dataset verdwenen.
Fair machine learning relevant voor allerlei vormen van discriminatie ontstaan in historische gegevens
Fair machine learning is relevant bij allerlei vormen van discriminatie en bias die ontstaat bij het gebruik van vooringenomen data. Naast werving en selectie is het bij toezicht-, inspectie- en handhavingstaken ook belangrijk dat het AI algoritme eerlijk is. Zo dienen geslacht, religie en etniciteit niet als selectiekenmerk te worden benut.
AI machine learning tools kunnen het vinden van vergelijkbare individuen voor allerlei selectietaken efficiënter en effectiever maken. De historische bias, die zonder deze tools minder opvallen, worden met AI tools structureel en systematisch doorgezet. Fair machine learning vermindert en voorkomt deze discriminatie.
Neem contact met ons op
-
Cor Veenman
Functie niet bekend-
Standplaats:Den Haag - New Babylon
-
Telefoon:+31 6 15 27 42 75
-
E-mail:E-mail Cor
-
LinkedIn:Cor op LinkedIn
-
Laat je verder inspireren
Systeemintegratie voor robots in kassen
Goede samenwerking tussen mens en AI robot in kassen is onmisbaar. Voor een betere communicatie werken we aan een semantisch uitleg- en navigatiesysteem.
AutoAdapt: zelflerende adaptieve systemen die ons naar de toekomst brengen
Zelflerende adaptieve computersystemen zouden de ontbrekende schakel kunnen zijn om AI transparanter te maken én om innovatie te versnellen.
Ontwikkeling van morele modellen voor AI-systemen
Het is essentieel dat waarden zoals veiligheid, vertrouwen en welzijn worden meegenomen bij beslissingen. Hoe ver zijn AI-systemen dat we ze kunnen vertrouwen?
Autonome shuttles
Shuttles kunnen het openbaar vervoer toegankelijker, duurzamer en veiliger maken. We ontwikkelden autonome shuttles met omgevingsbewustzijn. Lees meer.
‘Giant AI goes down the European road’
TNO ondersteunt de alarmerende oproep van Future of Life Institute over AI. Regulering is urgent en kan niet worden overgelaten aan de markt zelf. Lees TNO's reactie.
