AI-hoogleraar: ‘Menselijk handelen is nauwkeurig te simuleren’

Hoe gedragen mensen zich tijdens een crisis? AI-hoogleraar Frank Dignum ontwikkelde samen met zijn team een simulatiemodel waarmee het gedrag van mensen te voorspellen is. De technologie biedt de mogelijkheid om menselijk handelen nauwkeurig te simuleren en scenario’s uit te werken.

“Ik zeg altijd, niemand is irrationeel. Als iemand irrationeel overkomt, betekent dat dat je gewoon niet voldoende inzicht hebt op wat diegene beweegt”, zegt Frank Dignum, AI-hoogleraar in het Zweedse Umeå. Hij is leider van een groep wetenschappers die onderzoek doet naar sociaal bewuste kunstmatige intelligentie.

Het team ontwikkelde aan het begin van de COVID-pandemie in korte tijd een agent-gebaseerd simulatiemodel dat haarfijn aantoonde dat de gedroomde effecten van de veelbesproken Nederlandse track-and-trace-app niet zouden uitkomen. De app ging ervan uit dat mensen elkaar vooral in publieke ruimten zouden besmetten. Het simulatiemodel toonde echter aan dat de meeste infecties juist thuis plaatsvonden. “Dat maakte dat een aantal van de restricties helemaal geen effect had. Een collectief van journalisten in Europa heeft naderhand uitgezocht dat die track-and-trace-app zo’n 3 procent besmettingen heeft voorkomen. Dat is ongeveer ook wat wij uit onze simulatie kregen.”

10.000 agents
Het simulatiemodel dat het team ontwikkelde kan voor uiteenlopende crisissituaties worden ingezet. Frank noemt voorbeelden van mijnrampen, het ontstaan van radicalisering en de impact van grote veranderingen in het leven, zoals scheidingen en het gedrag van eenoudergezinnen dat daarop volgt.

Het model maakt gebruik van digitale agents die met elkaar een interactie aangaan. In een simulatie zijn tot wel tienduizend agents actief. Ze zijn groepsgewijs en soms individueel geladen met een aantal parameters die hun gedrag bepalen. Denk daarbij aan de behoeften, zoals het verbeteren van je eigen positie (hedonism) en het doen van iets goeds voor anderen (benevolence). Het zoeken naar veiligheid is bijvoorbeeld ook een belangrijke behoefte. Daarnaast zijn er in iedere cultuur gemeenschappelijke waarden zoals tradities, sociale rechtvaardigheid, de zorg voor natuur en milieu, en het streven naar gelijkheid tussen mensen.

Persoonlijke drijfveren
Elk mens heeft echter ook persoonlijke drijfveren (motives) om iets wel of niet te doen. Frank: “Je wil dingen bereiken (achievement) en dingen samendoen (affiliation). Je wil capaciteit om dingen te veranderen (power) en situaties vermijden waar je onzeker over bent (avoidance). Motives zijn fundamenteler dan behoeften en waarden, en ze zijn sterk individueel bepaald.”

Er zijn nog meer parameters, zoals die Frank affordances noemt, ofwel de mogelijkheden om iets te doen in een bepaalde omgeving. “Als je in een café bent, kun je drinken met vrienden. Als je op school bent, kun je leren.” Wat een agent in het simulatiemodel kan doen, hangt dus af van wat de omgeving toelaat of faciliteert.

Sociale structuren
Er zijn ook sociale structuren en normen, die bepalen wat er vanuit de groep van iemand verwacht wordt dat je doet in een bepaalde rol of context. En dan is er tenslotte de persoonlijke gevoeligheid van een individu voor behoeften, waarden en motieven. “Voor elk individu en dus ook voor elke agent kan die rode lijn of drempelwaarde anders liggen en dat hangt onder meer af van de demografie of de rol in de samenleving.”

Al deze parameters komen uit sociaalpsychologische theorieën, die in de praktijk zijn getoetst. Zo komen bijvoorbeeld de ideeën over menselijke waarden uit de Schwartz Value Theory die uitgebreid is onderbouwd met internationaal empirisch onderzoek.

Realistischer
Volgens Frank is het gebruik van agent-gebaseerde simulatie op basis van deze gedragsmodellen veel realistischer dan beslissingen nemen met modellen die zijn afgeleid van historische data, zoals nu vaak gebeurt. De gedragsmodellen houden namelijk rekening met menselijke adaptatie als de context verandert. “We hebben een project gedaan rond visserij. Daar gelden allerlei vangstquota die de overheid instelt. Dat systeem werkt niet goed. Waarom niet? Omdat vissers andere belangen hebben. Zij gaan dus dingen doen om de quota te omzeilen waardoor ze niet werken zoals verwacht. Net zoals mensen ook manieren vinden om nieuwe belastingen te omzeilen waardoor ze niet het effect hebben dat beoogd was.”

Inrichten model
Bij het inrichten van het model moeten er veel agents geladen worden met verschillende parameters. Dat is complex, geeft Frank toe. Zijn team start met het aanmaken van basisprofielen gebaseerd op verschillende groepen mensen, bijvoorbeeld kinderen, ouderen, werkenden en vele andere menstypen. Afhankelijk van het soort onderzoek, is het mogelijk de profielen iets anders in te stellen.

Vervolgens vindt er een random variatie op de agents plaats, waardoor individuele verschillen ontstaan en ze zich niet allemaal hetzelfde gedragen. “Het is best een heel ingewikkeld model onder meer door de vele parameters.” Hij geeft aan dat het team specialisten ongeveer twee maanden bezig is met de inrichting en kalibratie van een simulatie. “Dus je moet wel weten wat je doet, anders komt er iets uit waar je eigenlijk nog niks aan hebt. Het vereist niet alleen kennis van het agentmodel maar ook van de onderliggende gedragsmodellen. Dus zonder onze hulp is het nu eigenlijk niet te behappen.”

Gebruiksvriendelijke interface
Om het model breder toepasbaar te maken is een gebruiksvriendelijke interface nodig. Voor het eerste COVID-model is wel een stap in die richting gezet. Daardoor konden ook niet-ingewijden in het modelleren een aantal parameters instellen en daarmee spelen. Die interface werd echter specifiek voor dit COVID-model ontwikkeld.

Er is dus behoefte aan een algemeen platform waarmee verschillende simulaties op een gebruiksvriendelijke manier kunnen worden uitgevoerd. “Eigenlijk zijn er geen goede platformen om zo’n interface te creëren. Een van onze onderzoeksvoorstellen draait dus om de ontwikkeling van zo’n universeel toepasbaar platform zodat mensen ook zelf makkelijk met dit soort agent-gebaseerde simulaties aan de slag kunnen.”

Daarnaast moeten er duidelijke methodes komen die voorkomen dat gebruikers verkeerde keuzes maken, want dat kan nog steeds, óók met een gemakkelijkere interface.” Gebruiksvriendelijkheid mag niet ten koste gaan van het inzicht in de onderliggende complexiteit, benadrukt Frank. "Als je heel veel weghaalt om het begrijpelijk te maken, dan denken mensen vaak dat het ook een simpel model is. En dat is het dus niet”, waarschuwt hij.

Toepassing
Frank ziet erg veel toepassingsmogelijkheden voor agent-gebaseerde simulatiemodellen, variërend van beleidsontwikkeling tot de voorbereiding en training op rampen. Ze leggen de basis voor gamification van rampenbestrijding en crisisbeheersing. Hij heeft ervaring met een game-achtige interface die is ontwikkeld om een mijnramp in Zweden te trainen. “Je kunt mensen uitnodigen zoals de manager van de mijn, verantwoordelijken van de politie of van de brandweer. Je kunt medisch specialisten erbij betrekken en ze allemaal vragen: wat ga je doen?”

Frank merkt dat er veel belangstelling voor de simulatiemodellen is, zowel in Nederland als in andere delen van de wereld waar hij regelmatig komt. Betrokkenen bij beleidsontwikkeling en crisisbeheersing zien vrijwel direct de kansen die de aanpak biedt. Het probleem blijft echter de financiering als die vraag daadwerkelijk op tafel komt. “De bereidheid om preventief te investeren is gering, terwijl het model juist daarvoor is bedoeld. Blijkbaar moeten we eerst een volgende pandemie of andere grootschalige crisis krijgen”, verzucht Frank.