Autonome systemen in de echte wereld

Bij de introductie van zelfrijdende auto’s waren wij mensen zwaar onder de indruk van wat destijds al mogelijk was. En terecht! Sindsdien heeft de AI-technologie voor autonome systemen ook nog eens een enorme vooruitgang geboekt. Maar een voertuig dat zonder menselijke inbreng zijn weg vindt en passagiers veilig van A naar B brengt? Dat zit er voorlopig nog niet in. Daarvoor is de huidige AI-technologie nog te beperkt. Denk maar aan de ongevallen met auto’s die al een deel van de besturing van mensen overnemen.

Artificial intelligence en morele keuzes

Ook op ethisch niveau heeft AI nog flink wat stappen te nemen. Als een mens achter het stuur zit, kijkt die in gevaarlijke situaties niet alleen wat voor hem of haar het veiligst is. Hij of zij zal ook rekening houden met andere weggebruikers. Daarbij moeten er soms morele keuzes worden gemaakt. AI is daartoe nog niet in staat. Grote vraag: hoe programmeer je morele keuzes in de software van een zelfrijdende auto? En is dat eigenlijk wel wenselijk? Ontwikkelaars hebben dus ook met dat soort ethische dilemma’s te maken. Niet alleen bij zelfrijdende auto’s, maar ook bij andere door AI aangestuurde autonome systemen, zoals robots.

Vier aandachtspunten voor autonome AI

Binnen TNO ontwikkelen we momenteel hybride AI-algoritmen (een combinatie van machinaal leren, symbolisch redeneren en domeinkennis) en software waarmee autonome systemen veilig en effectief in een open omgeving kunnen werken. Zonder de directe tussenkomst van mensen. Daarbij richten we ons op vier aandachtsgebieden:
1. Omgevingsbewustzijn - nog niet eerder tegengekomen objecten en situaties herkennen.
2. Zelfbewustzijn - op betrouwbare wijze de eigen competenties beoordelen.
3. Besluitvorming - acties plannen die veilig en effectief zijn.
4. Systeemintegratie – implementeren van real-time hybride AI-algoritmen voor omgevingsbewustzijn, zelfbewustzijn, en besluitvorming op commercieel beschikbare robots.

De diepte in met use cases

Misschien nog goed om te weten: naast deze onderzoeksrichting werken we ook aan een verantwoorde besluitvorming tussen mens en machine. Zo werken we vanuit verschillende invalshoeken aan mogelijke oplossingen voor de huidige uitdagingen met AI. Maar binnen dit onderzoeksgebied ligt de focus nadrukkelijk op ‘veilige autonome systemen in een open wereld’. En om daar wat meer gevoel bij te krijgen, hebben we ook enkele use cases uitgewerkt:

• Meaningful human control in defence applications
• Decision making in autonomous driving
• Situation awareness in autonomous driving