Hoe meet je iets wat altijd verandert? De uitdaging van het evalueren van generatieve AI

Zelfs ontwikkelaars kunnen niet precies uitleggen hoe hun modellen werken. De systemen zijn te groot en te complex om volledig te doorgronden. Je kunt alleen de output beoordelen, niet hoe het systeem tot dit antwoord is gekomen.

Stel dezelfde vraag 2 keer en je krijgt 2 verschillende antwoorden. Een taalmodel voorspelt steeds het volgende woord in een zin. Variatie zit dus ingebakken in de manier waarop het systeem functioneert. Dit gebrek aan consistentie in de output maakt een robuuste evaluatie lastig.

Een LLM is geen rekenmachine waarbij het antwoord goed of fout is. Het gaat vaak om samenvattingen, beschrijvingen, uitleg. Tussen de vele variaties van deze antwoorden kunnen er meerdere zijn die je als correct kunt categoriseren. Het maken van een dataset van vragen en correcte antwoorden om op te toetsen is dus lastig. Hoe ga je hiermee om in een evaluatie?

Vanwege de complexiteit speelt de mens een belangrijke rol in de evaluatie. Maar de vraag wat wel of niet een goed antwoord is, wordt nog complexer als je beseft dat de ene persoon een antwoord als goed kan beschouwen terwijl het voor de ander niet volstaat. "5 experts kunnen 5 verschillende meningen hebben over wat een 'goed' antwoord is", zegt Marianne. Deze menselijke subjectiviteit maakt objectieve evaluatie extra lastig.

Mensen die AI-nieuws volgen, lezen waarschijnlijk regelmatig hoe een nieuwe update van een taalmodel scoort op een scala aan benchmarks. De vraag is echter wat deze scores ons precies zeggen. De kwaliteit van de datasets schiet vaak tekort, het is niet altijd duidelijk wat deze benchmarks precies meten en veel zijn gericht op Amerikaanse context.

Het feit dat taalmodellen steeds 'slimmer' worden, betekent bovendien dat ook de benchmarks complexer moeten worden. "Je ziet nu al dat bepaalde modellen 100% scoren op benchmarks omdat de modellen meer kunnen dan wat de benchmarks toetsen", waarschuwt Marianne. Of zelfs dat de modellen de juiste antwoorden voor de tests al tijdens hun training hebben gezien, waardoor de benchmark dus niet nieuw genoeg is.

Er is een grote hoeveelheid verschillende benchmarks. Vaak kiezen producenten van taalmodellen zelf welke benchmark ze gebruiken en worden de resultaten als slimme marketing ingezet. Ook wordt er vaak geen rekening gehouden met de context waarin een model gebruikt kan worden. Met andere woorden, wellicht is een model met lage score op een bepaalde benchmark wel prima geschikt voor een specifieke taak. "Door de grote variatie in toepassing van benchmarks is het voor partijen moeilijk om te kunnen beoordelen wat een model daadwerkelijk kan", constateert Marianne.

Dit is de basisvraag. Doet het wat het moet doen? Een ogenschijnlijk simpele vraag die door de aard van taalmodellen behoorlijk complex kan worden. Hier valt nog de bredere vraag onder of het systeem ook echt bijdraagt aan het beoogde doel.

In hoeverre is het model eerlijk en blijven bepaalde vooroordelen of discriminatie buiten de output? Hiervoor is een universele standaard moeilijk te maken, want het is erg cultureel en contextafhankelijk. "We hebben inmiddels een Nederlandse versie van een bias-benchmark gemaakt, specifiek voor Nederlandse culturele vooroordelen", vertelt Marianne. "Die is ook met hulp van crowdsourcing in Nederland verder verbeterd." Dit soort middelen zijn essentieel, zeker als taalmodellen voor publieke dienstverlening gebruikt gaan worden.

Hoeveel energie en water kost het model eigenlijk? "Er is best veel discussie geweest over de energie die nodig is voor het trainen van modellen", zegt Marianne. "Zeker als AI standaard onderdeel wordt van een werkproces, is dit een belangrijk element."

Waarmee is het model getraind? Hoe komt het tot antwoorden? "Veel modellen zijn nu niet transparant over waarmee ze getraind zijn", zegt Marianne. "Dit maakt het extra lastig om bepaalde output te herleiden."

Naast de technische kant zijn ook de sociale, ethische en organisatorische aspecten essentieel voor de evaluatie. De balans tussen het doel, de waarden, de (financiële) middelen en genomen risico's is hierbij belangrijk. Wat is de impact van het gebruik van het algoritme en wat mag goede AI eigenlijk kosten voor een organisatie en de maatschappij?

Bij al deze thema's draait het om consistentie voor goede evaluatie. "Je moet appels met appels kunnen vergelijken", benadrukt Marianne. Alleen met een reproduceerbare aanpak kun je écht meten of een nieuw model beter presteert dan het vorige, of dat bijvoorbeeld de vooroordelen inderdaad zijn verminderd na een aanpassing.