Tijdens het Appl.AI webinar #4 ‘Verantwoorde AI toepassen, hoe doe je dat?’ ontvingen we vele kijkersvragen. Hieronder de antwoorden van onze panel leden op de meest voorkomende onderwerpen.

Het webinar bestond uit een panel met Chief Data Scientist Jasper van Vliet (links) en Lead Scientist Artificial Intelligence Cor Veenman (rechts).

Webinar 4 gemist?

Klik hier om het webinar "Hoe pas je verantwoorde AI toe" terug te kijken.

Terugkijken

1. In welke sectoren voorzien jullie moeilijkheden/problemen met betrekking to AI?

Er zijn voorbeelden in het nieuws bij zowel overheden als bedrijfsleven waarbij een moreel kompas voor AI/data gebruik tekort lijkt te schieten. Alle automatisch beslissingen met potentieel hoge impact of lange termijn persoonlijke consequenties verdienen extra aandacht. Een eenmalige automatische (maar aanvechtbare) beslissing over een verkeersboete is (hoe vervelend ook) minder verstrekkend dan (permanent) als klant bij een bank geweigerd worden.

2. Hoe kan je er achter komen waar in een bedrijf High Risk AI een risico vormt (voor zowel klant, geïnspecteerde als medewerker)?

De voorgestelde EU richtlijn artikel 13 benoemt de verplichting tot transparantie en informatievoorziening aan gebruikers. In enige vorm kan je dan als gebruiker achterhalen wie voor welke toepassing AI gebruikt. Hoe die verplichting er precies uit gaan zien zullen we moeten afwachten.

Een proactief voorbeeld hoe zoiets kan uitpakken is te vinden op de website van 'Amsterdam Algoritmeregister'.

3. Met betrekking tot het knelpunt van 'kennisniveau', kunnen we mensen in Nederland opleiden of moeten we juist kennis uit het buitenland importeren?

Ja, de basiskennis bij gebruikers kunnen we prima in Nederland opleiden. Bijvoorbeeld de Nationale AI cursus zou ik als basistraining beschouwen voor iedereen die gebruikt maakt van een AI product. 'Gebruik maken' is overigens heel wat anders dan AI producten maken. Die kennis is schaars, en er zijn behalve in Nederland ook in het buitenland goede opleidingen. Het kennisniveau verhogen kan dus zowel door binnen als buiten Nederland te werven.

4. Welke kennis van ethiek is, met name bij het bestuur, minimaal nodig om verantwoorde keuze inzet Ai te maken?

Voor een deel zal die kennis er nu al moeten zijn. De AI methoden maken vaak bestaande processen efficiënter en effectiever. De AI experts zouden de (aanstaande) regelgeving moeten kennen en de consequenties voor de door hen ingezette tools. De vertaling naar de organisatie vergt inderdaad afstemming en juiste ethische en juridische kennis. Vanuit deze disciplines is er ook zeker aandacht voor Responsbile AI.

5. Hoe verhoudt de AI-regelgeving in Europa zich tot China en Amerika? Ik heb het idee dat ze buiten Europa veel minder waarde hechten aan 'regels en ethiek'. Denken jullie dat we daardoor de concurrentieslag gaan verliezen?

Je zou kunnen zeggen dat onze samenleving minimaal twee overkoepelende doelen probeert na te streven. Ten eerste, het faciliteren van een florerende economie. En ten tweede, het nastreven van normen en waarden. De balans hiertussen wordt op dit moment in Europa inderdaad anders gemaakt dan in de VS en China. De tendens in de VS is om ethische waarden ook meer te erkennen (zie o.a. Facebook).

6. De stelling is dat geslacht geen rol mag spelen in relatie tot salaris én baan selectie. Maar zijn er niet situaties/banen te bedenken waar geslacht gewoon een relevant aspect is? En dat het dus valide info is om te weten wat het geslacht is?

Het zou kunnen, hoewel het vaker zal gaan om bepaalde skills die we koppelen aan geslacht. Als het gaat om zwaar werk, kun je dat als vereiste vaardigheid aangeven. Desalniettemin, als er echt reden is om geslacht als kenmerk nodig te hebben, dan is waarschijnlijk de werkwijze als bij de AVG van toepassing. Dus de doelbinding en subsidiariteit expliciet maken. Dergelijke zaken zullen in de AI regelgeving van de EU worden meegenomen.

Webinar 4 gemist?

Klik hier om het webinar "Hoe pas je verantwoorde AI toe" terug te kijken.

Terugkijken
Ons werk

AI in de publieke sector: Op zoek naar de mens in AI

De overheid zet artificial intelligence (AI) volop in bij het aanpakken van maatschappelijke problemen. Vaak met succes. Maar niet altijd. Soms gaan er dingen mis omdat het gebruik van AI vrij ondoorzichtig... Lees verder
Ons werk

Appl.AI Webinar #3: Hoe kunnen we de preventieve zorg met AI verbeteren?

De hoofdvraag die we behandelden in het webinar is ‘Hoe kunnen we de preventieve zorg met AI verbeteren?’. Het webinar vond plaats op woensdag 9 december 2020 en is hier terug te kijken. Lees verder
Ons werk

Appl.AI Webinar #2: Hoe veilig zijn zelfrijdende auto’s?

Nederland is na Singapore wereldwijd het best voorbereid op de komst van de zelfrijdende auto. Internationaal kan Nederland dan ook gezien als leidend. Tegelijkertijd zijn er in Nederland op dit moment... Lees verder
Ons werk

Appl.AI Webinar #1: De rol van AI in overheidsbesluitvorming

De hoofdvraag die we behandelden in het webinar is ‘Hoe kan AI de overheid helpen bij transparante en eerlijke besluitvorming?’. Het webinar vond plaats op woensdag 27 mei 2020 en is hier terug te kijken. ... Lees verder