AP: privacyrisico’s door gebruik menstruatie-apps

Bent u een overheidsorganisatie of een private organisatie die publieke diensten levert? En bent u van plan een AI-systeem met een hoog risico te gaan gebruiken? Of gaat u als publieke of private organisatie een beoordelingssysteem voor financiële risico's gebruiken? Dan moet u vanaf december 2027 vooraf beoordelen welke gevolgen dit AI-systeem kan hebben voor de grondrechten van mensen. Zo'n beoordeling heet een 'fundamental rights impact assessment' (FRIA), oftewel een 'grondrechteneffectbeoordeling'.

De Autoriteit Persoonsgegevens (AP) roept u op om nu al ervaring op te doen met het uitvoeren van een FRIA. De AP helpt u daarbij met uitleg over het FRIA-vereiste in de AI- verordening en een landelijke pilot waaraan u kunt meedoen.

De verplichting om een FRIA uit te voeren staat in de Europese AI-verordening. Met een FRIA brengt u vooraf in kaart welke gevolgen bepaalde hoogrisico-AI-systemen kunnen hebben voor grondrechten. Zoals het recht op gelijke behandeling, menselijke waardigheid, privacy en toegang tot essentiële voorzieningen. Ook moet u beschrijven hoe u deze risico's beperkt en daarover rapporteren aan de toezichthouder.

Sven Stevenson, directeur Coördinatie Algoritmes van de AP: "De verplichte FRIA dwingt organisaties om vooraf stil te staan bij de vraag wat een AI-systeem betekent voor de mensen die ermee te maken krijgen. Daarmee helpt een FRIA om problemen te voorkomen, in plaats van ze achteraf te moeten herstellen."

Begin nu met voorbereiden

Hoewel de FRIA-verplichting pas vanaf december 2027 geldt, adviseert de AP u nu al te beginnen. Door alvast ervaring op te doen, krijgt u beter inzicht in de AI-systemen die u gebruikt en kunt u zich tijdig voorbereiden op de nieuwe verplichtingen.

Pilot FRIA-rapportage

Om u daarbij te ondersteunen, start de AP een pilot. Doet u hieraan mee, dan doet u praktijkervaring op met het Europese template voor de FRIA-rapportage. U krijgt ook feedback op uw aanpak.

De pilot is bedoeld om van te leren en is nadrukkelijk geen audit, inspectie of handhavingstraject bij uw organisatie. De AP gebruikt uw ervaringen en die van de andere deelnemers om de voorlichting over de FRIA, het template en de toekomstige toezichtaanpak te verbeteren.

Meld u aan voor de pilot

Wilt u meedoen aan de pilot? Lees dan de uitnodiging pilot FRIA. Hierin vindt u meer informatie over de pilot en wat u eruit kunt halen, de criteria voor deelname en hoe u zich aanmeldt.

Let op: Aanmelden kan tot en met 21 september 2026. De pilot start begin oktober.

Heeft u nog geen ervaring met grondrechtenbeoordelingen? Dat is geen probleem. Wij nodigen u van harte uit om deel te nemen, want juist uw praktijkervaring helpt om de nieuwe verplichting uitvoerbaar te maken.

FRIA en DPIA

Een FRIA is een aanvulling op de DPIA ('data protection impact assessment'). Waar een DPIA zich richt op de privacyrisico's bij het verwerken van persoonsgegevens, kijkt een FRIA breder naar de mogelijke gevolgen van de inzet van een hoogrisico-AI-systeem voor alle grondrechten.

Eerste document in een reeks

Als coördinerend toezichthouder op algoritmes en AI bereidt de AP zich voor op het toezicht op de AI-verordening. Het kabinet is van plan de AP aan te wijzen als toezichthouder op het merendeel van de hoogrisico-AI-systemen die onder de AI-verordening vallen.

De uitleg over de FRIA is het eerste document in een reeks over AI en grondrechten waarmee de AP organisaties voorbereidt op hun verplichtingen vanuit de AI-verordening.