AI Systems Engineering & Lifecycle Management

Thema:
Lifecycle management

In hoeverre kan een AI-systeem zich aanpassen aan nieuwe wetten en gebruikerswensen? En is een AI flexibel genoeg om snel in te kunnen spelen op maatschappelijke ontwikkelingen? Voor engineers is het een grote uitdaging om tot een toekomstbestendig AI-systeem te komen.

Multidisciplinaire engineers

Om te beginnen moeten engineers rekening houden met de wensen en eisen van de gebruikers en de omgeving waarin een AI-systeem wordt ingezet. Daarnaast moeten de juiste morele en ethische en juridische keuzes worden gemaakt en vastgelegd.

En dat alles niet alleen in de ontwikkelfase, maar juist ook in de fase waarin een AI-systeem daadwerkelijk wordt ingezet. Het doel is immers om tot AI-oplossingen te komen die in staat zijn om zich snel aan te passen aan toekomstige eisen, wensen en veranderende omgevingen waarvan we kunnen aantonen dat deze voldoen aan alle gestelde eisen.

Om een AI-systeem voortdurend up-to-date te houden moeten multidisciplinaire engineers nauw samenwerken met alle betrokkenen en zowel technische als organisatorische aanpassingen doorvoeren.

AI learning

Een belangrijke eigenschap van AI is dat het om een dynamische technologie gaat, waarbij zelflerende algoritmen ervoor zorgen dat zo’n systeem steeds beter wordt in het oplossen van een probleem.

Maar hoe geavanceerder AI-systemen worden, hoe lastiger het voor mensen wordt om die systemen te evalueren op betrouwbaarheid en of dit systeem in alle voorziene omstandigheden de juiste adviezen geeft en beslissingen neemt. Voor sommige betrokkenen betekent dat zelfs dat ze hun werkwijze drastisch moeten aanpassen.

Leren hoe algoritmen werken

De RDW is een van de vele organisaties die momenteel volop in de leermodus zitten om de ontwikkelingen op het vlak van AI bij te kunnen benen.

Nu er steeds meer bedrijven zijn die beweren dat het op korte termijn mogelijk wordt om zelfrijdende auto’s veilig op de openbare weg te laten rijden, moeten de inspecteurs van de RDW niet alleen verstand hebben van de mechanische onderdelen van auto’s, maar ook van de algoritmen die voor de (semi)autonome besturing van zo’n voertuig zorgen.

Een belangrijke vraag daarbij is hoe type goedkeuringen in de toekomst moeten worden georganiseerd. Want wat is zo’n goedkeuring nog waard als zo’n voertuig na een software-update over nieuwe functionaliteiten beschikt die ook invloed hebben op de rijeigenschappen en verkeersveiligheid?

En dit is slechts één voorbeeld van hoe AI een bestaande situatie flink op z’n kop kan zetten.

Vier aandachtspunten voor de levensduur van autonome AI

TNO zet zich in voor de ontwikkeling van autonome AI-systemen die gedurende hun gehele levensduur op een veilige en betrouwbare manier kunnen worden ingezet. Daarbij zijn er vier aandachtsgebieden:

Tijdens de ontwikkeling van de AI-systemen moeten we rekening houden met eisen die zorgen dat een AI veilig en betrouwbaar kan worden ingezet en goed kan worden onderhouden.

Door verificatie & validatie kunnen we ervoor zorgen dat AI-algoritmen op een betrouwbare wijze kunnen worden geëvalueerd. Om zowel tijdens de ontwikkelfase als tijdens het gebruik, aan te kunnen tonen dat het system voldoet aan alle gestelde eisen.

Door op een efficiënte en effectieve manier te bepalen waar en hoe onderhoud aan AI-algoritmen uitgevoerd moet worden (mogelijk als reactie op fouten of ook veranderende eisen).

Door ethische en juridische richtlijnen in AI-algoritmen te implementeren en integreren, om te kunnen voldoen aan veranderende kaders.

Laat je verder inspireren

38 resultaten, getoond 1 t/m 5

Nederlandse I-Botics grijpt naast X Prize

Informatietype:
Nieuws
7 november 2022

I-Botics wordt 5e op vrijdag 4 november 2022 in Long Beach Californië (VS) tijdens de 'ANA Avatar X Prize’. Een prestigieuze internationale wedstrijd waarin  17 genomineerden streden om een prijs van 10 miljoen dollar met een robotachtig systeem dat de aanwezigheid van een mens op een afgelegen locatie in real time inzet.

De opvoeding van AI

Informatietype:
Insight
27 september 2022

TNO voorspelt dat intelligente algoritmes snel ‘volwassen’ zullen worden. Zo kunnen ze medisch of juridisch advies bieden, maar ook autonoom worden ingezet waar te weinig man-, denk- of tijdkracht beschikbaar is.

Innovatie met AI

Informatietype:
Insight
27 september 2022

AI-gedreven innovatie voor het bedrijfsleven zal leiden tot een toename van 10% van het huidige Europese BNP in 2030. Hoe ziet die wereld er concreet uit? In de bouw, in de zorg en andere sectoren.

Innovatie innoveren

Informatietype:
Insight
27 september 2022

AI verandert de rol van de onderzoeker. De door AI gegenereerde kennis zal de komende decennia nog niet ‘verklarend’ zijn. Het legt wel verbanden, maar kent geen oorzaak-gevolg. Creativiteit blijft voorlopig voorbehouden aan de mens.

David Deutsch over de ontwikkeling en toepassing van AI

Informatietype:
Insight
27 september 2022

Peter Werkhoven, Chief Scientific Officer bij TNO, schuift digitaal aan bij David Deutsch: fysicus, hoogleraar in Oxford en één van de pioniers op het gebied van quantum computing. Samen praten ze over de betekenis van quantum computing voor de ontwikkeling en toepassing van AI. Zal AI ooit in staat zijn ‘verklaarde kennis’ te genereren’ of ethiek van mensen te kunnen leren?