EDPB a EDPS podporujú zjednodušenie implementácie aktu o umelej inteligencii, žiadajú silnejšie záruky na ochranu základných práv

Brusel, 21. januára - Európsky výbor pre ochranu údajov (EDPB) a Európsky dozorný úradník pre ochranu údajov (EDPS) prijali spoločné stanovisko k návrhu Európskej komisie na tzv. "Digitálny omnibus pre AI". Návrh má zjednodušiť uplatňovanie niektorých harmonizovaných pravidiel podľa aktu o umelej inteligencii (AI Act) tak, aby sa zabezpečilo ich účinné vykonávanie.

EDPB a EDPS podporujú cieľ riešiť praktické výzvy súvisiace s implementáciou aktu o umelej inteligencii. Administratívne zjednodušenie však nesmie znižovať úroveň ochrany základných práv. Spoločné stanovisko poukazuje na zložitosť prostredia umelej inteligencie a víta snahy znížiť záťaž pre organizácie. Zároveň však upozorňuje, že niektoré navrhované zmeny by mohli oslabiť ochranu jednotlivcov v kontexte AI.

"Inovácie a efektívnosť sú kľúčové a môžu existovať spolu so zachovaním zodpovednosti poskytovateľov AI. Vítame regulačné experimentálne prostredia (sandboxy) na úrovni EÚ a zjednodušené postupy na podporu inovácií a malých a stredných podnikov v Európe. Orgány na ochranu údajov však musia zohrávať ústrednú úlohu, pokiaľ ide o spracúvanie osobných údajov jednotlivcov. Spolupráca medzi orgánmi na ochranu údajov, Úradom pre AI a orgánmi dohľadu nad trhom je nevyhnutná na zabezpečenie právnej istoty pre organizácie a podporu inovácií pri zachovaní základných práv jednotlivcov."
predsedníčka EDPB, Anu Talus

"Zjednodušenie je vítané vtedy, keď objasňuje povinnosti, posilňuje jednotlivcov a buduje dôveru. Je potrebné zachovať citlivú rovnováhu - znižovať administratívnu záťaž tam, kde je to možné, bez oslabenia ochrany základných práv. Zároveň musíme zabezpečiť, aby úloha Úradu pre AI bola jasne vymedzená a nezasahovala do nezávislého dohľadu nad tým, ako inštitúcie Európskej únie samy používajú systémy AI."
Európsky dozorný úradník pre ochranu údajov, Wojciech Wiewiórowski

Brusel, 21. januára - Európsky výbor pre ochranu údajov (EDPB) a Európsky dozorný úradník pre ochranu údajov (EDPS) prijali spoločné stanovisko k návrhu Európskej komisie na tzv. "Digitálny omnibus pre AI". Návrh má zjednodušiť uplatňovanie niektorých harmonizovaných pravidiel podľa aktu o umelej inteligencii (AI Act) tak, aby sa zabezpečilo ich účinné vykonávanie.

EDPB a EDPS podporujú cieľ riešiť praktické výzvy súvisiace s implementáciou aktu o umelej inteligencii. Administratívne zjednodušenie však nesmie znižovať úroveň ochrany základných práv. Spoločné stanovisko poukazuje na zložitosť prostredia umelej inteligencie a víta snahy znížiť záťaž pre organizácie. Zároveň však upozorňuje, že niektoré navrhované zmeny by mohli oslabiť ochranu jednotlivcov v kontexte AI.

"Inovácie a efektívnosť sú kľúčové a môžu existovať spolu so zachovaním zodpovednosti poskytovateľov AI. Vítame regulačné experimentálne prostredia (sandboxy) na úrovni EÚ a zjednodušené postupy na podporu inovácií a malých a stredných podnikov v Európe. Orgány na ochranu údajov však musia zohrávať ústrednú úlohu, pokiaľ ide o spracúvanie osobných údajov jednotlivcov. Spolupráca medzi orgánmi na ochranu údajov, Úradom pre AI a orgánmi dohľadu nad trhom je nevyhnutná na zabezpečenie právnej istoty pre organizácie a podporu inovácií pri zachovaní základných práv jednotlivcov."
predsedníčka EDPB, Anu Talus

"Zjednodušenie je vítané vtedy, keď objasňuje povinnosti, posilňuje jednotlivcov a buduje dôveru. Je potrebné zachovať citlivú rovnováhu - znižovať administratívnu záťaž tam, kde je to možné, bez oslabenia ochrany základných práv. Zároveň musíme zabezpečiť, aby úloha Úradu pre AI bola jasne vymedzená a nezasahovala do nezávislého dohľadu nad tým, ako inštitúcie Európskej únie samy používajú systémy AI."
Európsky dozorný úradník pre ochranu údajov, Wojciech Wiewiórowski

Návrh by rozšíril možnosť spracúvať osobitné kategórie osobných údajov (napr. údaje o etnickom pôvode alebo zdraví) na účely detekcie a nápravy zaujatosti (bias) aj pre poskytovateľov a nasadzujúce subjekty (deployers) akýchkoľvek systémov a modelov AI, za predpokladu primeraných záruk. EDPB a EDPS odporúčajú spresniť, že takéto údaje sa môžu používať na detekciu a nápravu zaujatosti len v presne vymedzených situáciách, keď sa riziko nepriaznivých dôsledkov takejto zaujatosti považuje za dostatočne závažné.

EDPB a EDPS neodporúčajú navrhované zrušenie povinnosti registrovať systémy AI, ak spadajú do kategórií označených ako vysokorizikové, aj v prípadoch, keď poskytovatelia svoje systémy považujú za "nie vysokorizikové". Podľa EDPB a EDPS by takáto zmena výrazne oslabila zodpovednosť a vytvorila nežiaduci stimul, aby poskytovatelia neopodstatnene žiadali výnimky s cieľom vyhnúť sa verejnej kontrole.

EDPB a EDPS vítajú vytvorenie regulačných experimentálnych prostredí (sandboxov) pre AI na úrovni EÚ na podporu inovácií. Na zabezpečenie právnej istoty spoločné stanovisko odporúča priame zapojenie príslušných orgánov na ochranu údajov do dohľadu nad spracúvaním údajov v rámci experimentálnych prostredí (sandboxov). Zároveň by EDPB mal mať poradnú úlohu a status pozorovateľa v Európskej rade pre umelú inteligenciu, aby sa zabezpečila konzistentnosť pri experimentálnych prostrediach (sandboxoch) na úrovni EÚ. Taktiež by sa mala jasne vymedziť dohliadacia úloha Úradu pre AI vo vzťahu k systémom AI založeným na všeobecne použiteľnom modeli AI (general-purpose AI model) v operatívnej časti predpisu a táto úloha by sa nemala prekrývať s nezávislým dohľadom EDPS nad systémami AI vyvíjanými alebo používanými inštitúciami, orgánmi, úradmi alebo agentúrami Únie.

EDPB a EDPS podporujú cieľ zefektívniť spoluprácu medzi orgánmi alebo subjektmi na ochranu základných práv a orgánmi dohľadu nad trhom (MSA) a využitie centrálneho kontaktného bodu na zvýšenie efektívnosti. Odporúčajú však objasniť úlohu MSA ako administratívnych kontaktných bodov pri vykonávaní a prenose žiadostí voči poskytovateľom a nasadzujúcim subjektom (deployers) a zabezpečiť, aby tým nebola dotknutá nezávislosť a právomoci orgánov na ochranu údajov.

EDPB a EDPS tiež odporúčajú zachovať povinnosť poskytovateľov a používateľov AI zabezpečiť AI gramotnosť svojich zamestnancov. Akákoľvek nová povinnosť podporovať AI gramotnosť uložená Komisii alebo členským štátom by mala dopĺňať, nie nahrádzať, zodpovednosť organizácií, ktoré tieto systémy skutočne vyvíjajú a používajú.

Napokon EDPB a EDPS vyjadrujú obavy z navrhovaného odkladu kľúčových ustanovení pre vysokorizikové systémy AI. Vzhľadom na rýchly vývoj prostredia AI vyzývajú spoluzákonodarcov, aby zvážili, či je možné zachovať pôvodný harmonogram pri niektorých povinnostiach, napríklad pri požiadavkách na transparentnosť, a aby sa oneskorenia v čo najväčšej miere minimalizovali.