Autonome systemen in de echte wereld

Thema:
Artificiële intelligentie

Robotica, beeldherkenning, zelfrijdende auto’s. De afgelopen jaren heeft artificial intelligence (AI) op die vlakken voor enorme vooruitgang gezorgd. Ondertussen groeien wel de zorgen over de veiligheid van dergelijke autonome systemen. En dat is een probleem waar we als TNO nu oplossingen voor zoeken.

Autonoom rijden met AI-technologie

Bij de introductie van zelfrijdende auto’s waren wij mensen zwaar onder de indruk van wat destijds al mogelijk was. En terecht! Sindsdien heeft de AI-technologie voor autonome systemen ook nog eens een enorme vooruitgang geboekt. Maar een voertuig dat zonder menselijke inbreng zijn weg vindt en passagiers veilig van A naar B brengt? Dat zit er voorlopig nog niet in. Daarvoor is de huidige AI-technologie nog te beperkt. Denk maar aan de ongevallen met auto’s die al een deel van de besturing van mensen overnemen.

Artificial intelligence en morele keuzes

Ook op ethisch niveau heeft AI nog flink wat stappen te nemen. Als een mens achter het stuur zit, kijkt die in gevaarlijke situaties niet alleen wat voor hem of haar het veiligst is. Hij of zij zal ook rekening houden met andere weggebruikers. Daarbij moeten er soms morele keuzes worden gemaakt.

AI is daartoe nog niet in staat. Grote vraag: hoe programmeer je morele keuzes in de software van een zelfrijdende auto? En is dat eigenlijk wel wenselijk?

Ontwikkelaars hebben dus ook met dat soort ethische dilemma’s te maken. Niet alleen bij zelfrijdende auto’s, maar ook bij andere door AI aangestuurde autonome systemen, zoals robots.

Vier aandachtspunten voor autonome AI

Binnen TNO ontwikkelen we momenteel hybride AI-algoritmen (een combinatie van machinaal leren, symbolisch redeneren en domeinkennis) en software waarmee autonome systemen veilig en effectief in een open omgeving kunnen werken. Zonder de directe tussenkomst van mensen. Daarbij richten we ons op vier aandachtsgebieden:

  1. Omgevingsbewustzijn - nog niet eerder tegengekomen objecten en situaties herkennen.
  2. Zelfbewustzijn - op betrouwbare wijze de eigen competenties beoordelen.
  3. Besluitvorming - acties plannen die veilig en effectief zijn.
  4. Systeemintegratie – implementeren van real-time hybride AI-algoritmen voor omgevingsbewustzijn, zelfbewustzijn, en besluitvorming op commercieel beschikbare robots.

De diepte in met use cases

Misschien nog goed om te weten: naast deze onderzoeksrichting werken we ook aan een verantwoorde besluitvorming tussen mens en machine. Zo werken we vanuit verschillende invalshoeken aan mogelijke oplossingen voor de huidige uitdagingen met AI. Maar binnen dit onderzoeksgebied ligt de focus nadrukkelijk op ‘veilige autonome systemen in een open wereld’. En om daar wat meer gevoel bij te krijgen, hebben we ook enkele use cases uitgewerkt:

Laat je verder inspireren

51 resultaten, getoond 1 t/m 5

Onderzoek TNO en Kieskompas: AI-taalmodellen zijn inconsistent en neigen naar links

Informatietype:
Nieuws
22 november 2023
Uit een experiment van TNO en Kieskompas, waarbij TNO meerdere AI-taalmodellen de stemhulp van het Kieskompas 2023 liet invullen, blijkt dat de modellen aan de linkerkant van het politieke spectrum uitkomen en wisselvallig antwoorden.

Impuls voor TNO faciliteiten voor duurzame mobiliteit, biobased bouwen en AI

Informatietype:
Nieuws
2 november 2023

Nederland start bouw GPT-NL als eigen AI-taalmodel

Informatietype:
Nieuws
2 november 2023

GPT-NL versterkt Nederlandse autonomie, kennis en technologie in AI

Informatietype:
Artikel

AI Lab van start voor effectief en verantwoord toezicht

Informatietype:
Nieuws
20 oktober 2023