Eerste overzicht van technieken cyberaanvallen van AI door AI

Thema:
Artificiële intelligentie
Cyber and electronic warfare
Operations and human factors
17 februari 2023

Kunstmatige Intelligentie wordt in alle internationale trendrapporten gezien als de belangrijkste disruptieve technologie van de komende jaren. Waar een nieuwe technologie zich ontwikkelt ontstaan ook nieuwe kwetsbaarheden. En AI is daarop geen uitzondering.

Omdat AI ook binnen het cybersecurity-domein kan worden gebruikt om tegenstanders en hun AI-systemen om de tuin te leiden of aan te vallen, is kennis nodig om die aanvallen te herkennen en om daartegen verdedigingsmethoden te ontwikkelen. Deze zogenoemde 'Adversarial AI' is een dreiging die zich buitengewoon actief en snel aan het ontwikkelen is, maar waar nog relatief weinig over bekend is. Dit betekent ook dat steeds meer producten potentieel kwetsbaar worden voor dergelijke aanvallen.

AI robuuster maken tegen aanvallen

In de paper 'Adversarial AI in het cyberdomein' heeft TNO een overzicht gemaakt van de meest recente en relevante literatuur op het gebied van de zich snel ontwikkelende Adversarial AI binnen het cybersecuritydomein en daaruit eerste modellen en overzichten voor de aanvalstechnieken gedestilleerd. Maar dit geldt niet voor de verdedigingsmaatregelen, waar het onderzoek, van nature, nog achterloopt op de recente ontwikkelingen op het aanvalsgebied.

Daarom verdient dit essentiële onderdeel meer aandacht om modellen robuuster en beter bestand te maken tegen Adversarial AI. Dit kan bijvoorbeeld door het model te trainen op en met kwaadaardige voorbeelden.

Paper 'Adversarial AI in het cyberdomein'

Veilige uitrol AI

De onbalans tussen de aanvalsmogelijkheden enerzijds en de verdedigingsmaatregelen anderzijds moet opgelost worden zodat nieuwe AI-systemen veilig uitgerold kunnen worden, zeker binnen de vitale sectoren zoals veiligheid en defensie. Dit zorgt ervoor dat de mogelijkheden van AI op een veilige manier gerealiseerd kunnen worden.

Met deze paper sluiten we aan op de AI discussie van REAIM. Tijdens REAIM 2023 nodigde het ministerie van Buitenlandse Zaken meer dan 80 landen uit om kennis en ervaringen uit te wisselen en de eerste stappen te zetten om te komen tot zinvolle afspraken over de kansen en risico's van AI in het militaire domein. Dit evenement was een belangrijke mijlpaal voor het bevorderen van wereldwijde samenwerking op dit belangrijke gebied.

Laat je verder inspireren

35 resultaten, getoond 6 t/m 10

AI Systems Engineering & Lifecycle Management

Informatietype:
Artikel

Het AI-systeem voor de toekomst. Bij TNO werken we aan AI systemen die ook in de toekomst betrouwbaar blijven en nieuwe functies aan kunnen.

Doorbraak in schreeuwend personeelstekort

Informatietype:
Artikel

Personeelstekort is een groeiend probleem. TNO stelt een systeemaanpak voor om dit op te lossen.

Verantwoorde besluitvorming mens-machine interactie

Informatietype:
Artikel

Vooroordelen in gezichtsherkenning en ongevallen met zelfrijdende auto’s. AI moet verder ontwikkelt worden. Dat gaat het snelst in nauwe samenwerking met mensen.

Human machine teaming

Informatietype:
Artikel

De researchgroep Human Machine Teaming helpt organisaties om de samenwerking en interactie tussen mensen en systemen te verbeteren.

Menselijke prestaties

Informatietype:
Artikel

De expertisegroep Menselijke prestaties richt zich op de optimalisatie en verbetering van menselijke prestaties in uitdagende omstandigheden.