Fair Machine Learning bestrijdt vooringenomenheid

Thema:
Artificiële intelligentie

Een AI tool baseert haar berekeningen op basis van data. Als deze data biased (vooringenomen) is, zal dat in de berekening doorwerken. Wanneer bij een beroepsgroep in het verleden mannen de voorkeur hadden, zal een AI tool voor werving deze bias overnemen. Mannen kunnen dus onterecht een beter oordeel van de AI tool krijgen. Dit kunnen we voorkomen door de data te decorreleren met geslacht. Geslacht en eventueel gerelateerde proxies zullen nu niet meer voorspellend zijn voor baangeschiktheid. Met fair machine learning verwacht TNO op een eerlijke en unbiased wijze geschikte kandidaten te selecteren.

TNO maakt generative adversarial network models met fair machine learning

De decorrelatie voor fair machine learning voert TNO uit met een Generative Adversarial Network (GAN) model. Dit model probeert twee tegenstrijdige criteria tegen elkaar af te wegen:

  1. De dataset zo min mogelijk veranderen
  2. Iemand’s geslacht niet meer definiëren aan de overgebleven kenmerken

Bij het afwegen van de criteria, generaliseert het model bestaande kenmerken van individuen naar meer algemene kenmerken. Bijvoorbeeld door postcodes naar wijken, wijken naar steden, steden naar landen te generaliseren. Het eindresultaat is een dataset waarbij iemand’s geslacht (criterium 2) nagenoeg niet herkenbaar is. Kortom, de gender bias is uit de dataset verdwenen.

Fair machine learning relevant voor allerlei vormen van discriminatie ontstaan in historische gegevens

Fair machine learning is relevant bij allerlei vormen van discriminatie en bias die ontstaat bij het gebruik van vooringenomen data. Naast werving en selectie is het bij toezicht-, inspectie- en handhavingstaken ook belangrijk dat het AI algoritme eerlijk is. Zo dienen geslacht, religie en etniciteit niet als selectiekenmerk te worden benut.

AI machine learning tools kunnen het vinden van vergelijkbare individuen voor allerlei selectietaken efficiënter en effectiever maken. De historische bias, die zonder deze tools minder opvallen, worden met AI tools structureel en systematisch doorgezet. Fair machine learning vermindert en voorkomt deze discriminatie.

Laat je verder inspireren

40 resultaten, getoond 1 t/m 5

Eerste overzicht van technieken cyberaanvallen van AI door AI

Informatietype:
Nieuws
17 februari 2023

Kunstmatige Intelligentie wordt in alle internationale trendrapporten gezien als de belangrijkste disruptieve technologie van de komende jaren, ook binnen het cybersecurity-domein.

Lees meer
over Eerste overzicht van technieken cyberaanvallen van AI door AI

Eerste wereldwijde conferentie over AI in het militaire domein

Informatietype:
Nieuws
15 februari 2023

REAIM 2023: Conferentie over de belangrijkste voorwaarden, kansen, uitdagingen en risico's van militaire toepassingen van AI.

Lees meer
over Eerste wereldwijde conferentie over AI in het militaire domein

AI Systems Engineering & Lifecycle Management

Informatietype:
Artikel

Het AI-systeem voor de toekomst. Bij TNO werken we aan AI systemen die ook in de toekomst betrouwbaar blijven en nieuwe functies aan kunnen.

Lees meer
over AI Systems Engineering & Lifecycle Management

Nederlandse I-Botics grijpt naast X Prize

Informatietype:
Nieuws
7 november 2022

I-Botics wordt 5e op vrijdag 4 november 2022 in Long Beach Californië (VS) tijdens de 'ANA Avatar X Prize’. Een prestigieuze internationale wedstrijd waarin  17 genomineerden streden om een prijs van 10 miljoen dollar met een robotachtig systeem dat de aanwezigheid van een mens op een afgelegen locatie in real time inzet.

Lees meer
over Nederlandse I-Botics grijpt naast X Prize

De opvoeding van AI

Informatietype:
Insight
27 september 2022

TNO voorspelt dat intelligente algoritmes snel ‘volwassen’ zullen worden. Zo kunnen ze medisch of juridisch advies bieden, maar ook autonoom worden ingezet waar te weinig man-, denk- of tijdkracht beschikbaar is.

Lees meer
over De opvoeding van AI