Autonome systemen in de echte wereld

Thema:
Artificiële intelligentie

Robotica, beeldherkenning, zelfrijdende auto’s. De afgelopen jaren heeft artificial intelligence (AI) op die vlakken voor enorme vooruitgang gezorgd. Ondertussen groeien wel de zorgen over de veiligheid van dergelijke autonome systemen. En dat is een probleem waar we als TNO nu oplossingen voor zoeken.

Autonoom rijden met AI-technologie

Bij de introductie van zelfrijdende auto’s waren wij mensen zwaar onder de indruk van wat destijds al mogelijk was. En terecht! Sindsdien heeft de AI-technologie voor autonome systemen ook nog eens een enorme vooruitgang geboekt. Maar een voertuig dat zonder menselijke inbreng zijn weg vindt en passagiers veilig van A naar B brengt? Dat zit er voorlopig nog niet in. Daarvoor is de huidige AI-technologie nog te beperkt. Denk maar aan de ongevallen met auto’s die al een deel van de besturing van mensen overnemen.

Artificial intelligence en morele keuzes

Ook op ethisch niveau heeft AI nog flink wat stappen te nemen. Als een mens achter het stuur zit, kijkt die in gevaarlijke situaties niet alleen wat voor hem of haar het veiligst is. Hij of zij zal ook rekening houden met andere weggebruikers. Daarbij moeten er soms morele keuzes worden gemaakt.

AI is daartoe nog niet in staat. Grote vraag: hoe programmeer je morele keuzes in de software van een zelfrijdende auto? En is dat eigenlijk wel wenselijk?

Ontwikkelaars hebben dus ook met dat soort ethische dilemma’s te maken. Niet alleen bij zelfrijdende auto’s, maar ook bij andere door AI aangestuurde autonome systemen, zoals robots.

Vier aandachtspunten voor autonome AI

Binnen TNO ontwikkelen we momenteel hybride AI-algoritmen (een combinatie van machinaal leren, symbolisch redeneren en domeinkennis) en software waarmee autonome systemen veilig en effectief in een open omgeving kunnen werken. Zonder de directe tussenkomst van mensen. Daarbij richten we ons op vier aandachtsgebieden:

  1. Omgevingsbewustzijn - nog niet eerder tegengekomen objecten en situaties herkennen.
  2. Zelfbewustzijn - op betrouwbare wijze de eigen competenties beoordelen.
  3. Besluitvorming - acties plannen die veilig en effectief zijn.
  4. Systeemintegratie – implementeren van real-time hybride AI-algoritmen voor omgevingsbewustzijn, zelfbewustzijn, en besluitvorming op commercieel beschikbare robots.

De diepte in met use cases

Misschien nog goed om te weten: naast deze onderzoeksrichting werken we ook aan een verantwoorde besluitvorming tussen mens en machine. Zo werken we vanuit verschillende invalshoeken aan mogelijke oplossingen voor de huidige uitdagingen met AI. Maar binnen dit onderzoeksgebied ligt de focus nadrukkelijk op ‘veilige autonome systemen in een open wereld’. En om daar wat meer gevoel bij te krijgen, hebben we ook enkele use cases uitgewerkt:

Laat je verder inspireren

10 resultaten, getoond 6 t/m 10

Eerste wereldwijde conferentie over AI in het militaire domein

Informatietype:
Nieuws
15 februari 2023
REAIM 2023: Conferentie over de belangrijkste voorwaarden, kansen, uitdagingen en risico's van militaire toepassingen van AI.

Nederlandse I-Botics grijpt naast X Prize

Informatietype:
Nieuws
7 november 2022

Veelbelovend Regeerakkoord met ruime aandacht voor innovatie

Informatietype:
Nieuws
16 december 2021

Versnelde AI ontwikkelingen door krachtenbundeling TNO en Nederlandse AI Coalitie

Informatietype:
Nieuws
19 oktober 2021

Betrek burgers bij experimentele proeftuinen AI

Informatietype:
Nieuws
22 juni 2021