Fair Machine Learning bestrijdt vooringenomenheid

Thema:
Artificiële intelligentie

Een AI tool baseert haar berekeningen op basis van data. Als deze data biased (vooringenomen) is, zal dat in de berekening doorwerken. Wanneer bij een beroepsgroep in het verleden mannen de voorkeur hadden, zal een AI tool voor werving deze bias overnemen. Mannen kunnen dus onterecht een beter oordeel van de AI tool krijgen. Dit kunnen we voorkomen door de data te decorreleren met geslacht. Geslacht en eventueel gerelateerde proxies zullen nu niet meer voorspellend zijn voor baangeschiktheid. Met fair machine learning verwacht TNO op een eerlijke en unbiased wijze geschikte kandidaten te selecteren.

TNO maakt generative adversarial network models met fair machine learning

De decorrelatie voor fair machine learning voert TNO uit met een Generative Adversarial Network (GAN) model. Dit model probeert twee tegenstrijdige criteria tegen elkaar af te wegen:

  1. De dataset zo min mogelijk veranderen
  2. Iemand’s geslacht niet meer definiëren aan de overgebleven kenmerken

Bij het afwegen van de criteria, generaliseert het model bestaande kenmerken van individuen naar meer algemene kenmerken. Bijvoorbeeld door postcodes naar wijken, wijken naar steden, steden naar landen te generaliseren. Het eindresultaat is een dataset waarbij iemand’s geslacht (criterium 2) nagenoeg niet herkenbaar is. Kortom, de gender bias is uit de dataset verdwenen.

Fair machine learning relevant voor allerlei vormen van discriminatie ontstaan in historische gegevens

Fair machine learning is relevant bij allerlei vormen van discriminatie en bias die ontstaat bij het gebruik van vooringenomen data. Naast werving en selectie is het bij toezicht-, inspectie- en handhavingstaken ook belangrijk dat het AI algoritme eerlijk is. Zo dienen geslacht, religie en etniciteit niet als selectiekenmerk te worden benut.

AI machine learning tools kunnen het vinden van vergelijkbare individuen voor allerlei selectietaken efficiënter en effectiever maken. De historische bias, die zonder deze tools minder opvallen, worden met AI tools structureel en systematisch doorgezet. Fair machine learning vermindert en voorkomt deze discriminatie.

Laat je verder inspireren

38 resultaten, getoond 6 t/m 10

David Deutsch over de ontwikkeling en toepassing van AI

Informatietype:
Insight
27 september 2022

Peter Werkhoven, Chief Scientific Officer bij TNO, schuift digitaal aan bij David Deutsch: fysicus, hoogleraar in Oxford en één van de pioniers op het gebied van quantum computing. Samen praten ze over de betekenis van quantum computing voor de ontwikkeling en toepassing van AI. Zal AI ooit in staat zijn ‘verklaarde kennis’ te genereren’ of ethiek van mensen te kunnen leren?

Georgette Fijneman over de belofte van AI voor zorgverzekeraars

Informatietype:
Insight
27 september 2022

Hanneke Molema, senior consultant gezond leven bij TNO, interviewt Georgette Fijneman, sinds 2017 de directievoorzitter van zorgverzekeraar Zilveren Kruis. Wat is de belofte van AI voor één van Nederlands grootste zorgverzekeraars?

Rob de Wijk over de opkomst van AI in geopolitieke context

Informatietype:
Insight
27 september 2022

Anne Fleur van Veenstra, Director of Science bij de TNO-unit SA&P, interviewt Rob de Wijk, emeritus hoogleraar internationale betrekkingen in Leiden én de oprichter van het The Hague Centre for Strategic Studies. Daarnaast is hij een veelgevraagde expert bij radio- en televisieprogramma’s. Wat betekent de opkomst van AI in een geopolitieke context en bij gewapende conflicten?

Bram Schot over de invloed van AI op mobiliteit

Informatietype:
Insight
27 september 2022

Marieke Martens, Science Director bij TNO en hoogleraar Automated Vehicles aan de Universiteit Eindhoven, gaat in gesprek met Bram Schot. Hun gesprek gaat over de invloed van AI op mobiliteit. Wat betekent dat voor het productieproces? En hoe ziet een toekomst met autonome voertuigen eruit?

Eppo Bruins over AI in verschillende overheidsdomeinen

Informatietype:
Insight
27 september 2022

Eppo Bruins, Voorzitter Adviesraad voor wetenschap, technologie en innovatie in gesprek met Michiel van der Meulen (TNO) over de ontwikkeling van AI.