Eerste overzicht van technieken cyberaanvallen van AI door AI
Kunstmatige Intelligentie wordt in alle internationale trendrapporten gezien als de belangrijkste disruptieve technologie van de komende jaren. Waar een nieuwe technologie zich ontwikkelt ontstaan ook nieuwe kwetsbaarheden. En AI is daarop geen uitzondering.
Omdat AI ook binnen het cybersecurity-domein kan worden gebruikt om tegenstanders en hun AI-systemen om de tuin te leiden of aan te vallen, is kennis nodig om die aanvallen te herkennen en om daartegen verdedigingsmethoden te ontwikkelen. Deze zogenoemde “Adversarial AI” is een dreiging die zich buitengewoon actief en snel aan het ontwikkelen is, maar waar nog relatief weinig over bekend is. Dit betekent ook dat steeds meer producten potentieel kwetsbaar worden voor dergelijke aanvallen.
AI robuuster maken tegen aanvallen
In de paper “Adversarial AI in het cyberdomein” heeft TNO een overzicht gemaakt van de meest recente en relevante literatuur op het gebied van de zich snel ontwikkelende Adversarial AI binnen het cybersecuritydomein en daaruit eerste modellen en overzichten voor de aanvalstechnieken gedestilleerd. Maar dit geldt niet voor de verdedigingsmaatregelen, waar het onderzoek, van nature, nog achterloopt op de recente ontwikkelingen op het aanvalsgebied.
Daarom verdient dit essentiële onderdeel meer aandacht om modellen robuuster en beter bestand te maken tegen Adversarial AI. Dit kan bijvoorbeeld door het model te trainen op en met kwaadaardige voorbeelden.
Adversarial AI in het cyberdomein
Veilige uitrol AI
De onbalans tussen de aanvalsmogelijkheden enerzijds en de verdedigingsmaatregelen anderzijds moet opgelost worden zodat nieuwe AI-systemen veilig uitgerold kunnen worden, zeker binnen de vitale sectoren zoals veiligheid en defensie. Dit zorgt ervoor dat de mogelijkheden van AI op een veilige manier gerealiseerd kunnen worden.
Met deze paper sluiten we aan op de AI discussie van REAIM. Tijdens REAIM 2023 nodigde het ministerie van Buitenlandse Zaken meer dan 80 landen uit om kennis en ervaringen uit te wisselen en de eerste stappen te zetten om te komen tot zinvolle afspraken over de kansen en risico's van AI in het militaire domein. Dit evenement was een belangrijke mijlpaal voor het bevorderen van wereldwijde samenwerking op dit belangrijke gebied.
Neem contact op
-
Patrick de Graaf
Functie:Director Information & Sensor Systems-
Standplaats:Den Haag - Oude Waalsdorperweg
-
Telefoon:+31 88 866 63 93
-
E-mail:E-mail Patrick
-
LinkedIn:Patrick op LinkedIn
-
Laat je verder inspireren
Eerste wereldwijde conferentie over AI in het militaire domein
REAIM 2023: Conferentie over de belangrijkste voorwaarden, kansen, uitdagingen en risico's van militaire toepassingen van AI.
Nederlandse I-Botics grijpt naast X Prize
I-Botics wordt 5e op vrijdag 4 november 2022 in Long Beach Californië (VS) tijdens de 'ANA Avatar X Prize’. Een prestigieuze internationale wedstrijd waarin 17 genomineerden streden om een prijs van 10 miljoen dollar met een robotachtig systeem dat de aanwezigheid van een mens op een afgelegen locatie in real time inzet.
Personeelstekort alleen oplosbaar met multidisciplinaire systeemaanpak
Het massale personeelstekort dat we vandaag beleven en onoplosbaar lijkt, is wat in de wetenschap een ‘wicked problem’ wordt genoemd. Zo’n complex probleem vereist volgens TNO een multidisciplinaire systeemaanpak. Deze aanpak helpt organisaties om te investeren in een mix van maatregelen die daadwerkelijk effectief is. Door een systematische analyse van samenhangende oorzaken, passende maatregelen en de (on)gewenste effecten kunnen organisaties komen tot een optimale balans. Europees onderzoek heeft laten zien dat een juiste balans in technologie, duurzame inzetbaarheid en ontwikkeling van personeel, en arbeidsorganisatie tot 25% betere prestaties en 35% meer motivatie leidt binnen een organisatie.
Veelbelovend Regeerakkoord met ruime aandacht voor innovatie
De vijf Nederlandse topinstituten voor toegepast onderzoek: Deltares, MARIN, NLR, TNO en WUR (verenigd in TO2), zijn positief over het nieuwe Regeerakkoord. Met het oog op de Lissabondoelstelling om 3% van het BBP in R&D te investeren zet het kabinet vol in op onderzoek en innovatie.
Versnelde AI ontwikkelingen door krachtenbundeling TNO en Nederlandse AI Coalitie
Op 14 oktober 2021 hebben Peter Werkhoven (Chief Science Officer, TNO) en Kees van der Klauw (Coalitiemanager, Nederlandse AI Coalitie) een Memorandum of Understanding getekend om de onderlinge samenwerking te bekrachtigen.