AI Systems Engineering & Lifecycle Management
In hoeverre kan een AI-systeem zich aanpassen aan nieuwe wetten en gebruikerswensen? En is een AI flexibel genoeg om snel in te kunnen spelen op maatschappelijke ontwikkelingen? Voor engineers is het een grote uitdaging om tot een toekomstbestendig AI-systeem te komen.
Multidisciplinaire engineers
Om te beginnen moeten engineers rekening houden met de wensen en eisen van de gebruikers en de omgeving waarin een AI-systeem wordt ingezet. Daarnaast moeten de juiste morele en ethische en juridische keuzes worden gemaakt en vastgelegd.
En dat alles niet alleen in de ontwikkelfase, maar juist ook in de fase waarin een AI-systeem daadwerkelijk wordt ingezet. Het doel is immers om tot AI-oplossingen te komen die in staat zijn om zich snel aan te passen aan toekomstige eisen, wensen en veranderende omgevingen waarvan we kunnen aantonen dat deze voldoen aan alle gestelde eisen.
Om een AI-systeem voortdurend up-to-date te houden moeten multidisciplinaire engineers nauw samenwerken met alle betrokkenen en zowel technische als organisatorische aanpassingen doorvoeren.
AI learning
Een belangrijke eigenschap van AI is dat het om een dynamische technologie gaat, waarbij zelflerende algoritmen ervoor zorgen dat zo’n systeem steeds beter wordt in het oplossen van een probleem.
Maar hoe geavanceerder AI-systemen worden, hoe lastiger het voor mensen wordt om die systemen te evalueren op betrouwbaarheid en of dit systeem in alle voorziene omstandigheden de juiste adviezen geeft en beslissingen neemt. Voor sommige betrokkenen betekent dat zelfs dat ze hun werkwijze drastisch moeten aanpassen.
Leren hoe algoritmen werken
De RDW is een van de vele organisaties die momenteel volop in de leermodus zitten om de ontwikkelingen op het vlak van AI bij te kunnen benen.
Nu er steeds meer bedrijven zijn die beweren dat het op korte termijn mogelijk wordt om zelfrijdende auto’s veilig op de openbare weg te laten rijden, moeten de inspecteurs van de RDW niet alleen verstand hebben van de mechanische onderdelen van auto’s, maar ook van de algoritmen die voor de (semi)autonome besturing van zo’n voertuig zorgen.
Een belangrijke vraag daarbij is hoe type goedkeuringen in de toekomst moeten worden georganiseerd. Want wat is zo’n goedkeuring nog waard als zo’n voertuig na een software-update over nieuwe functionaliteiten beschikt die ook invloed hebben op de rijeigenschappen en verkeersveiligheid?
En dit is slechts één voorbeeld van hoe AI een bestaande situatie flink op z’n kop kan zetten.
Vier aandachtspunten voor de levensduur van autonome AI
TNO zet zich in voor de ontwikkeling van autonome AI-systemen die gedurende hun gehele levensduur op een veilige en betrouwbare manier kunnen worden ingezet. Daarbij zijn er vier aandachtsgebieden:
Tijdens de ontwikkeling van de AI-systemen moeten we rekening houden met eisen die zorgen dat een AI veilig en betrouwbaar kan worden ingezet en goed kan worden onderhouden.
Door verificatie & validatie kunnen we ervoor zorgen dat AI-algoritmen op een betrouwbare wijze kunnen worden geëvalueerd. Om zowel tijdens de ontwikkelfase als tijdens het gebruik, aan te kunnen tonen dat het system voldoet aan alle gestelde eisen.
Door op een efficiënte en effectieve manier te bepalen waar en hoe onderhoud aan AI-algoritmen uitgevoerd moet worden (mogelijk als reactie op fouten of ook veranderende eisen).
Door ethische en juridische richtlijnen in AI-algoritmen te implementeren en integreren, om te kunnen voldoen aan veranderende kaders.
Neem contact met ons op
-
Frank Benders
Functie:Principal Systems Engineer / Architect-
Standplaats:Helmond
-
Telefoon:+31 6 22 48 74 93
-
E-mail:E-mail Frank
-
-
Jan-Pieter Paardekooper
Functie:Scientist Integrator-
Standplaats:Helmond
-
Telefoon:+31 88 866 73 15
-
E-mail:E-mail Jan-Pieter
-
-
Michael Borth
Functie:Senior Research Fellow-
Standplaats:Helmond
-
E-mail:E-mail Michael
-
LinkedIn:Michael op LinkedIn
-
Laat je verder inspireren
Autonome shuttles
Shuttles kunnen het openbaar vervoer toegankelijker, duurzamer en veiliger maken. We ontwikkelden autonome shuttles met omgevingsbewustzijn. Lees meer.
‘Giant AI goes down the European road’
TNO ondersteunt de alarmerende oproep van Future of Life Institute over AI. Regulering is urgent en kan niet worden overgelaten aan de markt zelf. Lees TNO's reactie.
Eerste overzicht van technieken cyberaanvallen van AI door AI
Kunstmatige Intelligentie wordt in alle internationale trendrapporten gezien als de belangrijkste disruptieve technologie van de komende jaren, ook binnen het cybersecurity-domein.
Eerste wereldwijde conferentie over AI in het militaire domein
REAIM 2023: Conferentie over de belangrijkste voorwaarden, kansen, uitdagingen en risico's van militaire toepassingen van AI.
Nederlandse I-Botics grijpt naast X Prize
I-Botics wordt 5e op vrijdag 4 november 2022 in Long Beach Californië (VS) tijdens de 'ANA Avatar X Prize’. Een prestigieuze internationale wedstrijd waarin 17 genomineerden streden om een prijs van 10 miljoen dollar met een robotachtig systeem dat de aanwezigheid van een mens op een afgelegen locatie in real time inzet.
