“Het is een illusie dat AI-systemen niet discrimineren”

Noelle: "Dennie en ik hebben samengewerkt aan een hele leuke case voor Dazure. Wat ik heel leuk vind, is dat responsible AI een enabler is geweest bij dit project. We hebben voor het maken van de AI-oplossing heel erg nagedacht over de risico's waardoor we tot een mooie oplossing zijn gekomen die anders niet had gekund. We hebben veel weerstand bij de werknemers, verzekeraars, tussenpersonen en medische experts/acceptanten weggenomen door heel goed over dingen na te denken." Dennie beaamt dit. "Algoritmes worden steeds belangrijker, maar hebben geen moreel kompas. Het is belangrijk om de zogenaamde data science lifecycle te volgen, maar daarnaast nog een ethische lifecycle toe te voegen. Eigenlijk zou iedereen volgens zo'n proces moeten nadenken wat er mis kan gaan. Het is ook voor verzekeraars belangrijk; juist als je nadenkt over ethiek, krijg je veel wél voor elkaar."

Noelle geeft aan dat het bij AI niet alles of niets is. "Het is niet het een of het ander. Niet aan de ene kant niets doen of juist kiezen voor een soort Elon Musk-achtige aanpak waarbij je heel veel risico's neemt. Er is absoluut een middenweg, halfautomatisering, waarbij AI als buddy van de mens optreedt in plaats van als vervanger." Dennie: "Ethiek is iets heel subjectiefs. Het is wel wetenschap, maar geen harde wetenschap. Bij Onesurance zijn wij daarom blij dat het Verbond een ethisch kader presenteert waarmee je direct aan de slag kan. Het is ook goed werkbaar bij het ontwerpen, bouwen en implementeren van een AI-oplossing: als je vanuit de business start en daar het ethisch kader oplegt, is het direct praktisch én een duurzame oplossing." Noëlle: "Het is belangrijk dat je alle stakeholders meekrijgt en al voor de ontwikkeling rekening houdt met zaken als compliance en de personen op wie zo'n systeem invloed heeft. In de case van Dazure zijn dat bijvoorbeeld mensen die een verzekering aanvragen. Het is essentieel om de 'ethische analyse' daarom aan het begin te doen."