APPL.AI webinar#4 - Kijkersvragen

1. In welke sectoren voorzien jullie moeilijkheden/problemen met betrekking to AI?

Er zijn voorbeelden in het nieuws bij zowel overheden als bedrijfsleven waarbij een moreel kompas voor AI/data gebruik tekort lijkt te schieten. Alle automatisch beslissingen met potentieel hoge impact of lange termijn persoonlijke consequenties verdienen extra aandacht. Een eenmalige automatische (maar aanvechtbare) beslissing over een verkeersboete is (hoe vervelend ook) minder verstrekkend dan (permanent) als klant bij een bank geweigerd worden.

2. Hoe kan je er achter komen waar in een bedrijf High Risk AI een risico vormt (voor zowel klant, geïnspecteerde als medewerker)?

De voorgestelde EU richtlijn artikel 13 benoemt de verplichting tot transparantie en informatievoorziening aan gebruikers. In enige vorm kan je dan als gebruiker achterhalen wie voor welke toepassing AI gebruikt. Hoe die verplichting er precies uit gaan zien zullen we moeten afwachten.

Een proactief voorbeeld hoe zoiets kan uitpakken is te vinden op de website van 'Amsterdam Algoritmeregister'.

3. Met betrekking tot het knelpunt van 'kennisniveau', kunnen we mensen in Nederland opleiden of moeten we juist kennis uit het buitenland importeren?

Ja, de basiskennis bij gebruikers kunnen we prima in Nederland opleiden. Bijvoorbeeld de Nationale AI cursus zou ik als basistraining beschouwen voor iedereen die gebruikt maakt van een AI product. 'Gebruik maken' is overigens heel wat anders dan AI producten maken. Die kennis is schaars, en er zijn behalve in Nederland ook in het buitenland goede opleidingen. Het kennisniveau verhogen kan dus zowel door binnen als buiten Nederland te werven.

4. Welke kennis van ethiek is, met name bij het bestuur, minimaal nodig om verantwoorde keuze inzet Ai te maken?

Voor een deel zal die kennis er nu al moeten zijn. De AI methoden maken vaak bestaande processen efficiënter en effectiever. De AI experts zouden de (aanstaande) regelgeving moeten kennen en de consequenties voor de door hen ingezette tools. De vertaling naar de organisatie vergt inderdaad afstemming en juiste ethische en juridische kennis. Vanuit deze disciplines is er ook zeker aandacht voor Responsbile AI.

5. Hoe verhoudt de AI-regelgeving in Europa zich tot China en Amerika? Ik heb het idee dat ze buiten Europa veel minder waarde hechten aan 'regels en ethiek'. Denken jullie dat we daardoor de concurrentieslag gaan verliezen?

Je zou kunnen zeggen dat onze samenleving minimaal twee overkoepelende doelen probeert na te streven. Ten eerste, het faciliteren van een florerende economie. En ten tweede, het nastreven van normen en waarden. De balans hiertussen wordt op dit moment in Europa inderdaad anders gemaakt dan in de VS en China. De tendens in de VS is om ethische waarden ook meer te erkennen (zie o.a. Facebook).

6. De stelling is dat geslacht geen rol mag spelen in relatie tot salaris én baan selectie. Maar zijn er niet situaties/banen te bedenken waar geslacht gewoon een relevant aspect is? En dat het dus valide info is om te weten wat het geslacht is?

Het zou kunnen, hoewel het vaker zal gaan om bepaalde skills die we koppelen aan geslacht. Als het gaat om zwaar werk, kun je dat als vereiste vaardigheid aangeven. Desalniettemin, als er echt reden is om geslacht als kenmerk nodig te hebben, dan is waarschijnlijk de werkwijze als bij de AVG van toepassing. Dus de doelbinding en subsidiariteit expliciet maken. Dergelijke zaken zullen in de AI regelgeving van de EU worden meegenomen.