AI als betrouwbare metgezel

AI als betrouwbare metgezel

"AI is overal, iedereen heeft er dagelijks mee te maken. Dat zal alleen maar meer worden komende jaren. Tegelijk zie je dat we op dit moment eigenlijk geen idee hebben hoe we AI moeten gebruiken. Ja, het is cool en opwindend, de mogelijkheden zijn ongekend. Het is nieuw en iedereen wil er vooral meer van. Maar welk probleem proberen we eigenlijk op te lossen met dit nieuwe instrument? Waar willen we naartoe scheuren in die flitsende nieuwe auto?"

Pinar Yolumis hoogleraar AI. Ze doet onderzoek naar multi-agent-systemen, met name naar aspecten als vertrouwen, verplichtingen en privacy. Literatuur is een inspiratiebron voor haar en ze beveelt 'Machines like me' van Ian McEwan aan voor nieuwsgierige lezers.

"In plaats van te vragen om meer technologie, meer algoritmes, zouden we daarbij stil moeten staan. Eerst vaststellen wat de vraag is en dan een systeem optuigen dat daar een antwoord op heeft. Nu wordt er gedaan alsof de technologie zelf de oplossing is voor alles. Femicide, om maar iets te noemen, is een wereldwijd vraagstuk. We hebben het over een complex probleem, dat diep in de samenleving zit. Een app die vrouwen waarschuwt als hun belager in de buurt is, is nuttig, maar doet helemaal niets om die onderliggende structuur aan te pakken."

Wat wil je bereiken met je onderzoek?

"Ik werk aan AI die betrouwbaar is en verantwoordelijk en - net als een collega - actief meedenkt. Van teamgenoten zouden we niet accepteren dat ze alleen maar antwoord geven op elke vraag. We verwachten dat ze zelf opletten en ons waarschuwen als ze een probleem voorzien. Dat ze het eerlijk zeggen als ze iets niet weten. Op die manier moet AI ook met ons samenwerken.
Het is niet de bedoeling dat AI mensen vervangt, of taken overneemt. AI zou mensen moeten aanvullen, een teamgenoot zijn. De AI die we nu gebruiken is ontwikkeld door Big Tech. Hun doel is om zoveel mogelijk geld verdienen, bijvoorbeeld door het aantal mensen te verminderen dat nodig is om het werk gedaan te krijgen. Werknemers zijn duur, het is veel goedkoper om een algoritme aan het werk te zetten. AI is daarom heel taakgericht, de opdracht is om zo snel mogelijk een antwoord te genereren en klaar. Dus gebruiken we het nu als een superkrachtige antwoordmachine.

Om een auto te mogen besturen, heb je een rijbewijs nodig. Je moet leren hoe de machine werkt, wat de gevaren zijn. Maar bij AI denken we dat training niet nodig is. Er is nul informatie over de 'achterkant', over de werking van de machine waar we 'in rondrijden'. We downloaden iets, gaan ervan uit dat het zal doen wat het zegt, dat het veilig is, dat het betrouwbare antwoorden zal geven, en we gaan van start.
Het risico ligt niet alleen bij AI, maar ook bij de menselijke gebruikers, omdat ze er blindelings op vertrouwen. Onterecht."

Wat zou er gebeuren als niemand zich bezighield met betrouwbare AI?

"Dan zitten we opgescheept met een heel krachtige, ondoorgrondelijke Black Box die beslissingen voor ons neemt. We hebben AI nodig die kan reflecteren op zichzelf. Mensen zijn geen antwoordmachines en AI zou dat ook niet moeten zijn. Het systeem moet in staat zijn de gevolgen van de eigen acties te beoordelen. En ook kunnen zeggen 'wacht, er is te veel onzekerheid in deze situatie, te veel onduidelijke informatie, ik kan geen goede beslissing nemen.' Daarvoor moet het anders gebouwd worden. Nu vergelijkt en combineert AI allerlei data uit miljoenen cases, en genereert daaruit een antwoord. Maar waarom dat antwoord gekozen is, dat blijft in het duister. Als er geen passend antwoord voorhanden is, kiest het systeem blind, random. Het algoritme is gemaakt om met een antwoord te komen, dus dat doet het. De gebruiker weet nooit wanneer dat gebeurt, en dus ook niet of er een zinnig antwoord gegeven wordt. We hebben AI nodig die op een andere manier omgaat met informatie, en ook reflecteert en verantwoording aflegt over het resultaat. Een systeem dat de eigen beperkingen kent en laat weten wat het doet, daar kunnen we als gebruiker op vertrouwen."

Waarom koos je voor dit vakgebied?

"Ik ben geïnteresseerd in het oplossen van sociale problemen. Er is zoveel ongelijkheid. AI zou ingezet kunnen worden om kennis snel en makkelijk beschikbaar te maken voor iedereen. Medische en technische kennis bijvoorbeeld, AI zou mensen kunnen assisteren op plekken waar geen goede medische zorg is. Of in het onderwijs. Er zijn veel afgelegen locaties in de wereld waar ChatGPT de enige manier is om Engels te leren.
We zouden AI weg moeten halen bij Big Tech en bij overheden moeten onderbrengen. Recht op AI voor iedereen, zoals we ook het recht op onderwijs hebben vastgelegd. Een ministerie voor AI zou een mooi begin zijn. Het heeft invloed op ieders bestaan, in positieve en negatieve zin. We moeten AI ons eigen gereedschap maken, naar onze hand zetten. Dat kunnen niet overlaten aan Big Tech."

Waar staan we over 60 jaar?

"Hopelijk is AI dan een zinnige en nuttige metgezel voor de mens. Ik zie het voor me als teamwork tussen mens en AI, die samenwerken aan een eerlijke samenleving. Om de wereld een betere plek te maken voor iedereen. Mensen en AI zijn goed in verschillende dingen en kunnen elkaar aanvullen om het geheel vooruit te brengen.
AI heeft enorme rekenkracht en kan heel veel informatie verwerken, bijvoorbeeld door allemaal verschillende perspectieven te combineren. Het kan de gevolgen van menselijk gedrag op langere termijn overzien. Zo zou het mensen kunnen helpen om goede en eerlijke beslissingen te nemen.
Of om mensen minder gepolariseerd te maken en ze elkaars standpunt te laten zien. Dat hebben we zo hard nodig. Politieke tegenstanders kunnen elkaars opvattingen nu al vaak niet accepteren. Ze vertrouwen elkaars bronnen niet. AI zou daarin de neutrale partij kunnen zijn en iedereen de feiten geven, plus inzicht in andere overtuigingen. Rust brengen in oververhitte situaties door het geven van de juiste, neutrale informatie."

In de wetenschap heb ik het volste vertrouwen, we hebben de kennis om AI tot een betrouwbaar instrument te maken dat ons gaat helpen. Maar het hangt allemaal af van de politieke en financiële keuzes die nú gemaakt worden door overheden en bedrijven.

Yolum werd met haar onderzoek naar betrouwbare AI genomineerd voor de Agnites Vrolikprijs. Het Utrechts Universiteitsfonds deelt deze prijs uit aan een wetenschapper die onderzoek doet dat bijdraagt aan het oplossen van actuele maatschappelijke vraagstukken. De andere genomineerden waren Marij Swinkels en Helen Toxopeus. Op 12 februari werd de prijs uitgereikt aan Helen Toxopeus.

Tekst: Yavanne van Tiggelen