Mark Neerincx

Onderzoeksgebied

Voor een vruchtbare samenwerking tussen mensen en agents moet de AI het vermogen ontwikkelen om te meta-redeneren en meta-leren, afgestemd op de behoeften van de individuele persoon en de groep. Zo kan het gezamenlijke leerproces van mens en agent constant worden voortgezet. Het harmoniseren van de gedeelde en onderling afhankelijke sociale, cognitieve en affectieve processen in dit leerproces vormt een grote R&D-uitdaging, want er is een sterk interdisciplinaire aanpak voor nodig. De sociale wetenschappen (bijv. psychologie) en AI moeten de handen ineenslaan en agents en mensen bestuderen als onderdeel van een evoluerend, elkaar beïnvloedend samenspel van mens en agent met hybride intelligentie. Op deze manier kunnen technologieën met AI de capaciteiten van een team steeds verder versterken, bijvoorbeeld door integratie van robotpartners in zorgteams, veiligheids- en beveiligingsteams en defensieteams om hun prestaties en veerkracht te verbeteren.

Recente resultaten

Het Zwaartekrachtprogramma Hybrid Intelligence (HI) van NWO is van start gegaan en de HI-roadmap is gepubliceerd (en ontving de award voor de beste paper van het jaar voor het tijdschrift). De eerste promovendi zijn aangesteld en hun promotievoorstellen zijn uitgewerkt. De eerste resultaten zullen worden gepresenteerd en besproken tijdens de eerste internationale conferentie over hybride menselijke en artificiële intelligentie (HHAI2022), onder andere in een workshop en een hackathon met belangrijke bijdragen van TNO en de TU Delft. Het promotie-onderzoek van Jasper van der Waa over eXplainable Artficial Intelligence (XAI) en Emma van Zoelen over gezamenlijk menselijk-AI-leren zijn verder geïntegreerd in het APPL.AI-programma van TNO (met name het kernproject FATE) en verbonden aan het HI-programma van NWO. Naast hun projectspecifieke publicaties en presentaties werkten ze aan twee gezamenlijke onderzoeksplatformen: het Human-Agent Teaming Rapid Experimentation (MATRX)-softwarepakket en de Wiki Socio-Cognitive Engineering-tool (WiSCE). Beide platformen ondersteunen gezamenlijk HI-onderzoek en worden voor dit doel gebruikt door TNO en de TU Delft (en andere organisaties). In het AI*MAN AI-lab in Delft heeft Ruben Verhagen een taxonomie opgesteld van concepten in eXplainable AI-onderzoek. Tijdens een bijeenkomst van deskundigen voor de minister van Justitie en Veiligheid is een presentatie gegeven over het onderzoek van de TU Delft en TNO over innovatieve (op AI gebaseerde) technologieën voor de preventie en behandeling van psychotrauma en posttraumatische stressstoornis (PTSS). Tot slot is Mark Neerincx betrokken bij twee ELSA Labs op het gebied van veiligheid en beveiliging (politie) en defensie (TNO en de TU Delft zijn betrokken bij beide labs, die in 2022 starten).

Begeleiding van promovendi

• Nanja Smets (FP7 NIFTi/TRADR-projecten, MECA-project voor ESA)
• Rifca Peters (Horizon2020-project PAL-robot, ERP Hybrid AI)
• Mike Ligthart (NWO-TTW/KWF, HERO-robotproject)
• Bernd Dudzik (4TU-Human&Technology); promoveerde in 2021.
• Franziska Burger (4TU-Human&Technology)
• Jasper van der Waa (RVO Human-AI Teaming, ERP Hybrid AI, Explainable AI-project)
• Emma van Zoelen (DO AIO, 'Artificial Intelligence for Military Simulations' [AIMS]- en 'Opleiding & Individuele Training' [OIT]-programma's, Learner Modelling-project)
• Ruben Verhagen (Delft MAN*AI Lab, Explainable AI in Humang-Agent Teams)
• Mani Tajaddini (Zwaartekrachtprogramma Hybrid Intelligence). Ontwerppatronen van hybride intelligentie. Promotor. PhD TU Delft.
• Nele Albers 2e Promotor (Medical Delta). Geautomatiseerde gezondheidscoaching. PhD TU Delft.

Belangrijkste publicaties

• Neerincx MA, van Vught W, Blanson Henkemans O, Oleari E, Broekens J, Peters R, Kaptein F, Demiris Y, Kiefer B, Fumagalli D and Bierman B (2019). Socio-Cognitive Engineering of a Robotic Partner for Child’s Diabetes Self-Management. Frontiers in Robotics and AI, 6:118. https://doi.org/10.3389/frobt.2019.00118.
• de Visser, E.J., Peeters, M.M.M., Jung, M.F., Kohn, S., Shaw, T.H., Pak, R., and Neerincx, M.A. (2019). Towards a Theory of Longitudinal Trust Calibration in Human–Robot Teams. International Journal of Social Robotics. https://doi.org/10.1007/s12369-019-00596-x
• van der Waa, J., Nieuwburg, E., Cremers, A., & Neerincx, M. (2021). Evaluating XAI: A comparison of rule-based and example-based explanations. Artificial Intelligence, 291, 103404.