Prezes UODO podpowiada organom ścigania, jak interpretować deepfejki

Mirosław Wróblewski, prezes UODO skierował pismo do Komendanta Policji w Krakowie, w którym wyjaśnił jak rozumieć od strony prawnej technologię "deep fake" i jakie niesie ona zagrożenia. Wskazówki te mogą okazać się przydatne w postępowaniu wobec 17 latki, która przerobiła przy użyciu AI zdjęcie młodszej koleżanki i stworzyła z niego materiał, który może być postrzegany jako pornograficzny.

Prezes UODO dowiedział się o sprawie z doniesień medialnych. Według nich licealistka miała stworzyć materiał "z kategorii 18+" z wykorzystaniem przerobionego wizerunku innej nieletniej uczennicy. Mirosław Wróblewski zwrócił się do krakowskiej komendy policji z prośbą o uwzględnienie analizy prawnej dotyczącej "deep fake'ów" przy prowadzeniu tej i podobnych spraw. Wskazał, że choć polskie ustawy nie definiują tego pojęcia, to zgodnie z art. 3 ust. 60 Aktu w sprawie sztucznej inteligencji (AI Act) termin "deepfake" oznacza "wygenerowane przez sztuczną inteligencję (dalej również jako SI) lub zmanipulowane przez SI obrazy, treści dźwiękowe lub treści wideo, które przypominają istniejące osoby, przedmioty, miejsca, podmioty lub zdarzenia, które odbiorca mógłby niesłusznie uznać za autentyczne lub prawdziwe".

W piśmie prezes UODO, Mirosław Wróblewski podkreślił, że choć sama technologia jest neutralna, to możliwość stworzenia realistycznych, choć fałszywych obrazów i dźwięków stwarza zagrożenie nie tylko dla poszczególnych osób, ale i całych grup społecznych. Wśród potencjalnych niezgodnych z prawem celów, do których można posłużyć się "deepfake'iem" wymienił: naruszenie prawa do wizerunku (dobro osobiste), kradzież tożsamości (podszywanie się pod inną osobę), szantaż i nękanie (przez tworzenie materiałów przedstawiających osobę w intymnej lub zawstydzającej sytuacji), oszustwa (wyłudzanie danych lub pieniędzy). Technologia ta może służyć także do manipulacji behawioralnej, preparowania dowodów na potrzeby postępowań, a nawet rodzić zagrożenia dla bezpieczeństwa narodowego np. poprzez wpływanie na proces wyborczy.

Niektóre z tych czynów zostały wprost wskazane w Kodeksie karnym: kradzież tożsamości (art. 190a § 2), zmuszanie do określonego zachowania (art. 191), rozpowszechnienie wizerunku nagiej osoby bez zgody (art. 191a), publiczna prezentacja lub produkcja, rozpowszechnianie, przechowywanie i posiadanie treści pornograficznych (art. 202), zniesławienie lub zniewaga (art. 212 i 216) lub oszustwa (art. 286). Używanie deepfake'ów może być także ścigane na podstawie art. 107 ustawy o ochronie danych osobowych, która penalizuje przetwarzanie cudzych danych bez podstawy prawnej. Prezes UODO podkreślił, że sprawcy takich czynów nie powinni pozostawać bezkarni, a ich ofiary muszą mieć możliwość obrony swoich praw, w tym ustalenia tożsamości sprawców, usunięcia treści czy domagania się zadość uczynienia za doznane szkody.

W piśmie prezes UODO podkreślił, że takie przerobienie cudzego wizerunku w celu stworzenia materiału pornograficznego lub "nagiego" zdjęcia stanowi przetwarzanie danych osobowych. Podobnie było w sprawie wygenerowanego rozbieranego zdjęcia uczennicy podstawówki (przez jej szkolnych kolegów), w której Prezes UODO po raz kolejny wnioskował niedawno o wznowienie śledztwa. Tymczasem, aby przetwarzanie danych nie było bezprawne, należy wykazać jedną z podstaw prawnych wskazanych w art. 6 ust. 1 lub art. 9 ust. 1 (w przypadku danych szczególnych kategorii) RODO.

Prezes UODO przywołał też argumentację z jednego ze swoich wcześniejszych wystąpień (sygn. DPNT.413.31.2025), w którym wskazał, że "technologia deepfake pozwala na dostosowanie różnego rodzaju kontekstów, które sprawiają, że sztucznie stworzone wideo i audio wydaje się autentyczne. W tym celu wykorzystuje się synchronizację mimiki twarzy z dźwiękiem lub innymi czynnikami zewnętrznymi. Pozwala to uzyskać na tyle wiarygodne rezultaty, że trudno je odróżnić od autentycznych zdjęć czy nagrań". To właśnie trudność w odróżnieniu sztucznie wygenerowanego zdjęcia od takiego, które mogło powstać w rzeczywistości, wpływa na szczególną szkodliwość opisywanego zjawiska i powoduje negatywne skutki nie tylko dla wizerunku pokrzywdzonych osób, ale również dla ich psychiki.

Prezes UODO położył przy tym nacisk na fakt, że dla wypełnienia znamion przestępstwa z art. 107 ustawy o ochronie danych osobowych nie ma znaczenia, czy przerobiony wizerunek pochodził z powszechnie dostępnego źródła. Taka interpretacja pojawiła się bowiem we wspomnianej sprawie uczennicy podstawówki i stanowiła uzasadnienie przedwczesnego umorzenia postępowania. Aby doszło do wspomnianego czynu zabronionego, musimy jedynie mieć do czynienia z danymi osobowymi (a więc informacjami o zidentyfikowanej, lub możliwej do zidentyfikowania osobie fizycznej), które zostały przetworzone (a więc np. przerobienie wizerunku) bez podstawy prawnej albo wtedy, gdy było to niedopuszczalne.

Prezes UODO podkreślił, że osoby małoletnie i ich dane osobowe powinny być objęte szczególną ochroną. Dlatego zaapelował o stanowczą reakcję organów ścigania w tej sprawie i ewentualnie podobnych przypadkach w przyszłości. Pozwoli to z jednej strony budować świadomość, że takie wykorzystanie deepfake'ów stanowi czyn zabroniony, a z drugiej - pokaże, że sprawcy nie pozostają bezkarni.

Prezes UODO wyraża nadzieję, że jego analiza prawna tej kwestii okaże się przydatna dla organów ścigania i będzie przez nie stosowana w prowadzonych postępowaniach.