Eerste overzicht van technieken cyberaanvallen van AI door AI
Kunstmatige Intelligentie wordt in alle internationale trendrapporten gezien als de belangrijkste disruptieve technologie van de komende jaren. Waar een nieuwe technologie zich ontwikkelt ontstaan ook nieuwe kwetsbaarheden. En AI is daarop geen uitzondering.
Omdat AI ook binnen het cybersecurity-domein kan worden gebruikt om tegenstanders en hun AI-systemen om de tuin te leiden of aan te vallen, is kennis nodig om die aanvallen te herkennen en om daartegen verdedigingsmethoden te ontwikkelen. Deze zogenoemde 'Adversarial AI' is een dreiging die zich buitengewoon actief en snel aan het ontwikkelen is, maar waar nog relatief weinig over bekend is. Dit betekent ook dat steeds meer producten potentieel kwetsbaar worden voor dergelijke aanvallen.
AI robuuster maken tegen aanvallen
In de paper 'Adversarial AI in het cyberdomein' heeft TNO een overzicht gemaakt van de meest recente en relevante literatuur op het gebied van de zich snel ontwikkelende Adversarial AI binnen het cybersecuritydomein en daaruit eerste modellen en overzichten voor de aanvalstechnieken gedestilleerd. Maar dit geldt niet voor de verdedigingsmaatregelen, waar het onderzoek, van nature, nog achterloopt op de recente ontwikkelingen op het aanvalsgebied.
Daarom verdient dit essentiële onderdeel meer aandacht om modellen robuuster en beter bestand te maken tegen Adversarial AI. Dit kan bijvoorbeeld door het model te trainen op en met kwaadaardige voorbeelden.
Paper 'Adversarial AI in het cyberdomein'
Veilige uitrol AI
De onbalans tussen de aanvalsmogelijkheden enerzijds en de verdedigingsmaatregelen anderzijds moet opgelost worden zodat nieuwe AI-systemen veilig uitgerold kunnen worden, zeker binnen de vitale sectoren zoals veiligheid en defensie. Dit zorgt ervoor dat de mogelijkheden van AI op een veilige manier gerealiseerd kunnen worden.
Met deze paper sluiten we aan op de AI discussie van REAIM. Tijdens REAIM 2023 nodigde het ministerie van Buitenlandse Zaken meer dan 80 landen uit om kennis en ervaringen uit te wisselen en de eerste stappen te zetten om te komen tot zinvolle afspraken over de kansen en risico's van AI in het militaire domein. Dit evenement was een belangrijke mijlpaal voor het bevorderen van wereldwijde samenwerking op dit belangrijke gebied.
Neem contact op
-
Patrick de Graaf
Functie:Director Information & Sensor Systems-
Standplaats:Den Haag - Oude Waalsdorperweg
-
Telefoon:+31 88 866 63 93
-
E-mail:E-mail Patrick
-
LinkedIn:Patrick op LinkedIn
-
Laat je verder inspireren
Georgette Fijneman over de belofte van AI voor zorgverzekeraars
Hanneke Molema, senior consultant gezond leven bij TNO, interviewt Georgette Fijneman, sinds 2017 de directievoorzitter van zorgverzekeraar Zilveren Kruis. Wat is de belofte van AI voor één van Nederlands grootste zorgverzekeraars?
David Deutsch over de ontwikkeling en toepassing van AI
Peter Werkhoven, Chief Scientific Officer bij TNO, schuift digitaal aan bij David Deutsch: fysicus, hoogleraar in Oxford en één van de pioniers op het gebied van quantum computing. Samen praten ze over de betekenis van quantum computing voor de ontwikkeling en toepassing van AI. Zal AI ooit in staat zijn ‘verklaarde kennis’ te genereren’ of ethiek van mensen te kunnen leren?
Rob de Wijk over de opkomst van AI in geopolitieke context
Anne Fleur van Veenstra, Director of Science bij de TNO-unit SA&P, interviewt Rob de Wijk, emeritus hoogleraar internationale betrekkingen in Leiden én de oprichter van het The Hague Centre for Strategic Studies. Daarnaast is hij een veelgevraagde expert bij radio- en televisieprogramma’s. Wat betekent de opkomst van AI in een geopolitieke context en bij gewapende conflicten?
Bram Schot over de invloed van AI op mobiliteit
Marieke Martens, Science Director bij TNO en hoogleraar Automated Vehicles aan de Universiteit Eindhoven, gaat in gesprek met Bram Schot. Hun gesprek gaat over de invloed van AI op mobiliteit. Wat betekent dat voor het productieproces? En hoe ziet een toekomst met autonome voertuigen eruit?
Bas Haring over AI, wetenschap en filosofie
Michiel van der Meulen spreekt Bas Haring. Haring probeert wetenschap en filosofie toegankelijk te maken voor een breed publiek. In 2001 publiceerde hij een kinderboek over evolutie, Kaas en de evolutietheorie. Is er een mooiere springplank voor een geoloog en een filosoof om over AI te praten?
