Pracownica administracji odbiera połączenie wideo od osoby wyglądającej jak kierownik projektu. Rozmówca siedzi w znajomym gabinecie, mówi jego głosem i zna nazwę realizowanego grantu. Tłumaczy, że jest na lotnisku, nie może zalogować się do bankowości i potrzebuje pilnego przelewu na nowy rachunek kontrahenta. Kamera chwilami się zacina, lecz przy słabym połączeniu nie wydaje się to niezwykłe. Po drugiej stronie może jednak nie być kierownika. Obraz i głos mogą być generowane lub modyfikowane w czasie rzeczywistym, a informacje o projekcie mogły pochodzić z publicznej strony uczelni, mediów społecznościowych albo wcześniejszego przejęcia skrzynki pocztowej.
Deepfake nie jest problemem wyłącznie celebrytów i kampanii politycznych. W środowisku akademickim może służyć do wyłudzenia pieniędzy, przejęcia konta, kompromitowania konkretnej osoby, fałszowania wypowiedzi, tworzenia seksualizowanych materiałów bez zgody, podważania wiarygodności badań albo wywoływania chaosu przez rzekomy komunikat rektora, dziekana czy promotora. Jednocześnie samo pojawienie się technologii generatywnej nie oznacza, że każdy nietypowy film jest fałszywy. Skuteczna ochrona polega na weryfikacji źródła, kontekstu i żądania, a nie na polowaniu na jeden „magiczny” błąd obrazu.
Najważniejsze zasady w skrócie
- Nie zatwierdzaj przelewu, zmiany rachunku, resetu konta ani ujawnienia danych wyłącznie na podstawie głosu, filmu lub rozmowy wideo.
- Zweryfikuj prośbę niezależnym kanałem: zadzwoń na wcześniej znany numer, użyj oficjalnego komunikatora albo skontaktuj się z drugą uprawnioną osobą.
- Nie opieraj oceny tylko na ruchu ust, mruganiu czy jakości skóry. Coraz lepsze materiały mogą nie zawierać oczywistych artefaktów.
- Analizuj trzy warstwy: techniczną, logiczno-kontekstową oraz źródło i sposób rozpowszechniania materiału.
- W przypadku krzywdzącego deepfake’u zachowaj dowody, nie zwiększaj zasięgu przez dalsze udostępnianie i szybko uruchom wsparcie prawne, psychologiczne, komunikacyjne oraz techniczne.
- Od 2 sierpnia 2026 r. zaczynają być stosowane unijne obowiązki przejrzystości z art. 50 AI Act, obejmujące między innymi oznaczanie deepfake’ów w sytuacjach wskazanych w przepisach.
1. Czym jest deepfake?
Deepfake to syntetyczny albo zmanipulowany materiał dźwiękowy, obrazowy lub audiowizualny, który przedstawia osobę, zdarzenie albo wypowiedź w sposób mogący sprawiać wrażenie autentycznego. Materiał może zostać wygenerowany od podstaw, ale równie często powstaje przez zmianę fragmentu prawdziwego nagrania: podmianę twarzy, synchronizację ust z nowym tekstem, klonowanie głosu, usunięcie lub dodanie obiektu, zmianę tła albo połączenie kilku autentycznych elementów w fałszywy kontekst.
Pojęcie bywa używane zbyt szeroko. Nie każda manipulacja jest deepfake’em. Tak zwany cheapfake lub shallowfake może powstać bez zaawansowanej sztucznej inteligencji: przez przycięcie wypowiedzi, zmianę prędkości, dodanie fałszywych napisów, podłożenie innego dźwięku albo przedstawienie starego nagrania jako aktualnego. Z punktu widzenia osoby weryfikującej informację podział techniczny nie jest jednak najważniejszy. Zarówno materiał wygenerowany przez model AI, jak i prosty montaż może wywołać ten sam skutek: oszustwo, zniesławienie, panikę albo błędną decyzję.
Technologia ma również legalne i wartościowe zastosowania. Może wspierać dubbing, dostępność, rekonstrukcję historyczną, edukację, twórczość artystyczną, ochronę prywatności uczestników badań czy przygotowanie realistycznych symulacji szkoleniowych. O ryzyku decydują przede wszystkim zgoda, cel, sposób oznaczenia, kontekst i potencjalny skutek. Materiał syntetyczny użyty jawnie do ćwiczenia reagowania jest czymś innym niż kopia głosu promotorki wykorzystana do nakłonienia doktoranta do ujawnienia hasła.
2. Dlaczego ryzyko jest większe w 2026 roku?
Do przygotowania przekonującej imitacji nie zawsze potrzeba studia filmowego ani dużego zespołu. Publiczne nagrania wykładów, podcasty, webinary, obrony transmitowane w internecie, relacje z konferencji i krótkie filmy w mediach społecznościowych dostarczają próbek głosu, twarzy, sposobu mówienia oraz gestów. Narzędzia generatywne potrafią następnie łączyć te elementy z informacjami z publicznych profili, stron projektów, kalendarzy wydarzeń i dokumentów uczelnianych.
Szczególne znaczenie ma przejście od przygotowanych wcześniej filmów do materiałów tworzonych podczas rozmowy. Europol w ocenie zagrożenia przestępczością zorganizowaną UE z 2025 roku wskazywał, że klonowanie głosu i deepfake wideo na żywo wzmacniają możliwości oszustw, wymuszeń oraz kradzieży tożsamości. Oznacza to, że weryfikacja nie może kończyć się stwierdzeniem: „rozmówca odpowiedział na moje pytanie, więc musi być prawdziwy”. Napastnik może reagować w czasie rzeczywistym, zwłaszcza gdy wcześniej zebrał informacje o osobie i organizacji.
Jednocześnie nie należy budować obrazu technologii jako wszechmocnej. Wiele skutecznych oszustw nadal wykorzystuje zwykłe nagranie, imitację głosu, przejęte konto albo presję czasu. Deepfake bywa jednym elementem szerszej operacji. Fałszywe połączenie może zostać poprzedzone e-mailem z prawdziwej, przejętej skrzynki, a po rozmowie ofiara może dostać dokument z podrobionym podpisem i numerem rachunku. Największe ryzyko powstaje wtedy, gdy kilka kanałów wzajemnie się „potwierdza”, choć wszystkie znajdują się pod kontrolą tej samej osoby.
3. Jak deepfake może zostać użyty na uczelni?
| Obszar | Przykładowy scenariusz | Główne ryzyko | Podstawowa ochrona |
|---|---|---|---|
| Finanse i zakupy | Głos kierownika projektu poleca pilny przelew lub zmianę rachunku kontrahenta. | Utrata środków, obejście kontroli finansowej. | Niezależne potwierdzenie i zasada co najmniej dwóch osób. |
| Dostęp do systemów | „Administrator” w rozmowie wideo prosi o kod MFA albo zdalny dostęp do komputera. | Przejęcie konta i danych uczelni. | Rozłączenie i kontakt przez oficjalny helpdesk. |
| Komunikacja kryzysowa | Fałszywe nagranie rektora ogłasza odwołanie zajęć, incydent lub zmianę zasad. | Chaos, panika, utrata zaufania. | Sprawdzenie oficjalnej strony, statusu i podpisanych kanałów komunikacji. |
| Reputacja | Zmontowana wypowiedź przypisuje naukowcowi skrajny pogląd lub przyznanie się do nadużycia. | Zniesławienie, presja medialna, konflikt. | Zabezpieczenie oryginału, szybka weryfikacja i skoordynowana odpowiedź. |
| Przemoc i nękanie | Wizerunek studentki lub pracownika zostaje wykorzystany w seksualizowanym materiale bez zgody. | Krzywda psychiczna, szantaż, naruszenie prywatności i godności. | Wsparcie osoby, ograniczanie zasięgu, zabezpieczenie dowodów i pomoc prawna. |
| Rzetelność naukowa | Fałszywy film ma dowodzić przeprowadzenia eksperymentu, obecności uczestnika lub wypowiedzi badacza. | Fałszowanie dokumentacji i podważenie wyników. | Łańcuch pochodzenia danych, metadane, repozytoria i audytowalna dokumentacja. |
| Dydaktyka i ocena | Nagranie rzekomego egzaminu lub wypowiedzi prowadzącego zostaje użyte w sporze. | Błędne rozstrzygnięcie, naruszenie praw stron. | Nieopieranie decyzji na pojedynczym pliku bez ustalenia źródła i integralności. |
| Konferencje i media | Fałszywa wypowiedź eksperta promuje oszustwo inwestycyjne albo nieistniejące wydarzenie. | Wyłudzenie danych i pieniędzy, nadużycie autorytetu. | Weryfikacja na oficjalnej stronie osoby, instytucji i wydarzenia. |
Deepfake finansowy: „zrób to teraz, później wyjaśnię”
Najbardziej niebezpieczne prośby łączą autorytet z poufnością i presją czasu. Rozmówca może znać nazwiska zespołu, termin konferencji i kwotę faktury, ponieważ informacje te pochodzą z przejętej korespondencji. Wideo ma jedynie przełamać ostatnią wątpliwość. Bezpieczna procedura powinna zakładać, że obraz i głos nie są samodzielnym dowodem tożsamości. Zmiana rachunku lub nietypowa płatność musi zostać potwierdzona w ustalony wcześniej sposób, którego napastnik nie może łatwo przejąć razem ze skrzynką.
Deepfake reputacyjny: materiał zaprojektowany do szybkiego oburzenia
Krótkie nagranie może zostać opublikowane tuż przed ważnym wydarzeniem, posiedzeniem komisji, wyborami samorządu albo ogłoszeniem wyników konkursu. Celem nie zawsze jest przekonanie wszystkich. Wystarczy wywołać lawinę komentarzy, zmusić instytucję do chaotycznej reakcji i pozostawić trwałe skojarzenie. Dlatego komunikacja kryzysowa nie może polegać wyłącznie na długim milczeniu do czasu zakończenia pełnej analizy. Uczelnia może szybko przekazać, że materiał jest weryfikowany, wskazać oficjalne źródło komunikatów i poprosić o niepowielanie treści.
Deepfake seksualizowany: problem przemocy, a nie „internetowego żartu”
Materiał wykorzystujący czyjś wizerunek w seksualnym kontekście bez zgody może być narzędziem upokorzenia, odwetu, kontroli i szantażu. Osoba pokrzywdzona nie powinna być obciążana obowiązkiem samodzielnego udowadniania, że „to nie ona”, ani pytana, dlaczego publikowała własne zdjęcia. Priorytetem jest bezpieczeństwo, ograniczenie rozpowszechniania, zachowanie dowodów i dostęp do realnego wsparcia. Publiczne przesyłanie materiału kolejnym osobom „w celu sprawdzenia” może zwiększać krzywdę.
4. Jak rozpoznawać zmanipulowany materiał?
Nie istnieje pojedynczy test, który pozwala osobie oglądającej zawsze odróżnić materiał prawdziwy od syntetycznego. Charakterystyczne błędy, takie jak nienaturalne mruganie, rozmyte zęby czy niestabilny kontur twarzy, nadal mogą występować, lecz nie należy ich traktować jako niezmiennej listy. Modele i metody kompresji szybko się zmieniają, a niska jakość oryginalnego nagrania może tworzyć artefakty podobne do tych spotykanych w deepfake’ach.
Praktyczniejsza jest analiza trzech warstw. Pierwsza dotyczy obrazu i dźwięku, druga logiki i kontekstu, a trzecia pochodzenia oraz dystrybucji materiału. Im ważniejsza decyzja, tym mniej można polegać na intuicji i tym bardziej potrzebne są niezależne źródła.
Warstwa pierwsza: sygnały techniczne
- ruch ust nie pasuje dokładnie do dźwięku albo zmienia się po cięciach;
- głos ma nietypowy rytm, oddechy, akcent, intonację lub emocje niepasujące do sytuacji;
- kontur twarzy, włosów, okularów lub uszu „pływa”, szczególnie przy szybkim ruchu;
- światło i cienie na twarzy nie odpowiadają oświetleniu tła;
- biżuteria, napisy, dłonie albo przedmioty zmieniają kształt pomiędzy klatkami;
- dźwięk otoczenia jest nienaturalnie czysty, zapętlony albo nie reaguje na zmianę położenia;
- nagranie ma podejrzanie niską rozdzielczość, mimo że źródło zwykle publikuje materiały wysokiej jakości.
Każdy z tych sygnałów może mieć niewinne wyjaśnienie: kompresję, słabe łącze, automatyczne rozmycie tła, redukcję szumu albo błąd synchronizacji. Ich rola polega na uruchomieniu weryfikacji, a nie na wydaniu ostatecznego wyroku.
Warstwa druga: logika, zachowanie i kontekst
- Czy osoba mówi coś sprzecznego z jej rolą, wcześniejszymi decyzjami lub zwykłą procedurą?
- Czy prośba wymaga ominięcia księgowości, administratora, regulaminu albo drugiej osoby zatwierdzającej?
- Czy rozmówca unika pytań, zmienia temat lub naciska, aby nie rozłączać połączenia?
- Czy zdarzenie pasuje do kalendarza, miejsca i czasu? Czy osoba rzeczywiście ma być w podanym miejscu?
- Czy nagranie przedstawia pełną wypowiedź, czy tylko kilkunastosekundowy fragment bez początku i końca?
- Czy podpis i komentarz opisują to, co naprawdę widać i słychać, czy narzucają interpretację?
NASK zwraca uwagę, że podczas oceny deepfake’u warto analizować nie tylko usta i głos, lecz także treść oraz tło. Sprzeczności logiczne, niezgodność z wiedzą o zdarzeniu i elementy otoczenia mogą być bardziej użyteczne niż szukanie drobnego błędu twarzy.
Warstwa trzecia: źródło, wersja oryginalna i ścieżka publikacji
- Kto opublikował materiał jako pierwszy i czy konto jest autentyczne?
- Czy istnieje dłuższa wersja, transmisja, zapis konferencji albo nagranie z innej kamery?
- Czy oficjalna strona uczelni, osoby lub organizatora potwierdza komunikat?
- Czy wiarygodne, niezależne źródła opisują to samo zdarzenie?
- Czy plik posiada dostępne metadane, podpis, oznaczenie pochodzenia lub historię w repozytorium?
- Czy materiał pojawił się wyłącznie na anonimowych kontach, które publikują wiele sensacyjnych treści?
Narzędzia automatycznej detekcji mogą wspierać analizę, lecz nie powinny być traktowane jako nieomylny „wykrywacz kłamstwa”. Wynik zależy od rodzaju materiału, kompresji, modelu generującego i danych, na których detektor był testowany. W sprawach o poważnych skutkach potrzebna może być analiza specjalistyczna, a decyzja powinna uwzględniać również dowody pozatechniczne.
5. Procedura weryfikacji rozmowy, nagrania i komunikatu
Najlepsza procedura jest prosta na tyle, aby można ją było zastosować pod presją. Można ją zapamiętać jako: zatrzymaj – oddziel kanały – potwierdź – udokumentuj – dopiero wtedy działaj.
- Zatrzymaj czynność wysokiego ryzyka. Nie wykonuj przelewu, nie podawaj kodu, nie zmieniaj danych dostępowych i nie publikuj komunikatu tylko dlatego, że rozmówca wygląda lub brzmi wiarygodnie.
- Oddziel kanały. Nie potwierdzaj prośby przez numer, link lub konto podane w tej samej rozmowie. Skorzystaj z danych, które znałeś wcześniej albo które znajdują się w oficjalnym katalogu uczelni.
- Zastosuj procedurę, a nie improwizowany „test osobisty”. Pytanie o imię psa może być znane z mediów społecznościowych. Lepsza jest ustalona zasada: druga osoba zatwierdzająca, oddzwonienie na numer służbowy, podpis cyfrowy, potwierdzenie w systemie finansowym lub hasło proceduralne używane tylko do alarmów.
- Sprawdź oficjalne źródło. Rzekomy komunikat rektora powinien być widoczny w oficjalnym serwisie, systemie powiadomień albo na zweryfikowanych profilach. Brak potwierdzenia nie dowodzi automatycznie fałszu, ale jest powodem do wstrzymania dalszego udostępniania.
- Zachowaj materiał i kontekst. Zanotuj czas, konto, numer, adres, treść żądania i osoby, które mogły otrzymać podobny komunikat. Nie ograniczaj dowodu do przyciętego zrzutu ekranu, jeżeli można bezpiecznie zachować oryginalny link lub plik.
- Powiadom właściwą jednostkę. W zależności od zdarzenia może to być dział IT, bezpieczeństwo, rzecznik prasowy, inspektor ochrony danych, przełożony, wsparcie studenckie, zespół prawny albo organy ścigania.
| Sytuacja | Bezpieczna odpowiedź | Czego nie robić |
|---|---|---|
| Prośba o przelew lub zmianę rachunku | Wstrzymaj działanie, zastosuj procedurę finansową, oddzwoń na znany numer i uzyskaj drugie zatwierdzenie. | Nie uznawaj obrazu twarzy za wystarczające potwierdzenie. |
| Prośba o kod MFA lub reset hasła | Rozłącz się i samodzielnie skontaktuj z oficjalnym helpdeskiem. | Nie dyktuj kodu i nie akceptuj powiadomienia „dla testu”. |
| Żądanie zachowania tajemnicy | Wyjaśnij, że procedura wymaga udziału drugiej osoby i nie może być pominięta. | Nie pozwól odizolować się od księgowości, przełożonego lub zespołu. |
| Rzekomy alarm lub zagrożenie | Sprawdź oficjalny system alarmowy i skontaktuj się z ochroną lub numerem alarmowym właściwym dla sytuacji. | Nie rozpowszechniaj niesprawdzonego nagrania z własnym alarmistycznym komentarzem. |
| Rozmówca odmawia niezależnej weryfikacji | Zakończ kontakt i zgłoś próbę obejścia procedury. | Nie wdawaj się w długą dyskusję, która daje napastnikowi kolejne informacje. |
6. Jak reagować na incydent?
Reakcja powinna jednocześnie ograniczać szkodę, zabezpieczać dowody i chronić osoby. Nie każdy deepfake wymaga identycznego działania. Inaczej reaguje się na próbę przelewu, inaczej na fałszywy komunikat, a jeszcze inaczej na materiał służący nękaniu.
Gdy deepfake był elementem oszustwa
- natychmiast przerwij kontakt i wstrzymaj operację;
- jeżeli przekazano dane dostępowe, potraktuj konto jako zagrożone i uruchom procedurę przejęcia konta;
- jeżeli wykonano płatność, skontaktuj się z bankiem bez zwłoki;
- zachowaj numery, konta, nagrania, e-maile, dokumenty, dane rachunku i czas zdarzenia;
- powiadom uczelniany zespół bezpieczeństwa, aby sprawdził, czy inni otrzymali podobny kontakt;
- w przypadku podejrzenia przestępstwa rozważ zgłoszenie Policji lub prokuraturze zgodnie z procedurą instytucji.
Gdy materiał dezinformuje społeczność
- nie udostępniaj go dalej w celu „ostrzeżenia”, jeżeli można przekazać sam opis i oficjalny komunikat;
- ustal pierwotne źródło, wersję o najwyższej jakości i zasięg;
- opublikuj szybkie, spokojne potwierdzenie statusu sprawy w oficjalnym kanale;
- wskaż, gdzie odbiorcy znajdą aktualne informacje;
- zgłoś materiał platformie, szczególnie gdy narusza prawo, prywatność lub zasady serwisu;
- aktualizuj komunikat, gdy analiza dostarczy nowych ustaleń.
Gdy materiał krzywdzi konkretną osobę
Nie należy oczekiwać, że osoba pokrzywdzona będzie jednocześnie rzecznikiem prasowym, analitykiem technicznym i prawnikiem. Instytucja powinna wyznaczyć punkt kontaktu, pomóc w zachowaniu dowodów, zgłoszeniach do platform, ocenie ryzyka fizycznego i cyfrowego oraz dostępie do wsparcia psychologicznego i prawnego. Trzeba też ograniczyć wewnętrzne krążenie materiału. Ciekawość współpracowników nie jest uzasadnieniem do oglądania i przesyłania krzywdzącej treści.
Jak zachować dowody bez zwiększania zasięgu?
- zapisz adres URL, nazwę konta, datę i godzinę publikacji;
- wykonaj zrzuty ekranu obejmujące również kontekst, a nie tylko sam obraz;
- zachowaj oryginalną wiadomość e-mail wraz z nagłówkami, jeżeli incydent rozpoczął się w poczcie;
- nie edytuj jedynej kopii pliku; pracuj na kopii, pozostawiając oryginał bez zmian;
- zanotuj, kto miał dostęp i jakie działania zostały podjęte;
- nie publikuj materiału ponownie jako „dowodu”, jeżeli wystarczy przekazać go uprawnionym osobom bezpośrednio.
7. Jak chronić osobę, której wizerunek lub głos wykorzystano?
Incydent deepfake’owy może wywołać poczucie utraty kontroli nad własnym wizerunkiem i lęk, że odbiorcy uwierzą w materiał nawet po sprostowaniu. Reakcja uczelni powinna unikać wtórnej wiktymizacji. Nie należy sugerować, że osoba sama „dostarczyła materiału” przez publiczną działalność ani wymagać od niej publicznego komentowania sprawy.
Pierwszym krokiem jest wspólne ustalenie potrzeb: czy istnieje zagrożenie szantażem, przemocą fizyczną, utratą pracy, konfliktem ze studentami, naruszeniem prywatności albo dalszym przejmowaniem kont. Następnie potrzebny jest plan obejmujący ograniczanie zasięgu, komunikację, zabezpieczenie kont, wsparcie psychologiczne, konsultację prawną i — w razie potrzeby — kontakt z organami ścigania. Decyzje komunikacyjne powinny uwzględniać wolę osoby pokrzywdzonej, o ile nie koliduje to z koniecznością ochrony innych ludzi przed bezpośrednim zagrożeniem.
Warto pamiętać, że samo stwierdzenie „to deepfake” nie zawsze natychmiast usuwa skutki. Materiał może pozostać w kopiach, komentarzach i wyszukiwarkach. Dlatego potrzebna jest dokumentacja kolejnych publikacji, monitorowanie najważniejszych kanałów oraz jednolity komunikat, który nie powtarza szczegółów krzywdzącej treści bardziej, niż jest to konieczne.
8. Co powinna przygotować uczelnia?
Instytucja nie może oprzeć ochrony na założeniu, że każdy pracownik sam rozpozna fałszywy głos. Skuteczniejsze są procedury, które pozostają bezpieczne nawet wtedy, gdy materiał wygląda idealnie.
- Zasada niezależnego potwierdzenia: płatność, zmiana rachunku, reset uprzywilejowanego konta i ujawnienie danych nie mogą zależeć od pojedynczej rozmowy głosowej lub wideo.
- Dwie osoby przy decyzjach wysokiego ryzyka: co najmniej jedna z nich powinna korzystać z innego kanału i samodzielnie sprawdzić dane.
- Oficjalny katalog kontaktów: numery i adresy potrzebne do oddzwonienia muszą być łatwo dostępne i aktualne.
- Strona statusu i archiwum komunikatów: społeczność powinna móc szybko sprawdzić, czy rzekome ogłoszenie zostało naprawdę wydane.
- Plan incydentu reputacyjnego: role dla IT, rzecznika, zespołu prawnego, władz jednostki, wsparcia psychologicznego i ochrony danych.
- Ochrona materiałów źródłowych: kontrola dostępu do nagrań, surowych plików, dokumentacji badań i kont publikacyjnych.
- Ćwiczenia scenariuszowe: trening powinien obejmować fałszywe połączenie od przełożonego, nagranie kryzysowe i materiał krzywdzący konkretną osobę.
- Procedura zgłoszeń bez obwiniania: pracownik lub student musi wiedzieć, że szybkie zgłoszenie jest oczekiwane, również gdy wcześniej wykonał część poleceń oszusta.
- Zasady użycia syntetycznych mediów: uczelnia powinna określić, kiedy można klonować głos, tworzyć awatary i generować realistyczne nagrania oraz jak uzyskuje się zgodę i oznacza materiał.
Autentyczność poprzez proces, nie przez „tajny wygląd”
Próba stworzenia jednego znaku wizualnego, który ma dowodzić autentyczności każdego filmu, może szybko stać się nieskuteczna. Lepsze jest połączenie kilku rozwiązań: publikacja w kontrolowanym kanale, podpis lub mechanizm pochodzenia treści, archiwum komunikatów, wieloosobowa akceptacja oraz możliwość łatwego oddzwonienia. Najważniejsze decyzje powinny pozostawać audytowalne — dawać się odtworzyć z systemu, a nie opierać na pamięci uczestników rozmowy.
9. Deepfake a AI Act od sierpnia 2026 roku
Od 2 sierpnia 2026 roku zaczyna być stosowany art. 50 unijnego aktu w sprawie sztucznej inteligencji. Przewiduje on obowiązki przejrzystości dotyczące między innymi oznaczania treści wygenerowanych lub zmanipulowanych przez AI w formacie umożliwiającym ich maszynowe wykrywanie oraz czytelnego ujawniania deepfake’ów przez podmioty wykorzystujące takie systemy w sytuacjach objętych przepisem. Obowiązki dotyczą również określonych tekstów generowanych lub manipulowanych przez AI i publikowanych w celu informowania opinii publicznej o sprawach interesu publicznego, jeśli nie zachodzi odpowiednia kontrola człowieka lub redakcji.
Regulacja nie oznacza jednak, że od tej daty każdy syntetyczny materiał w internecie będzie automatycznie i poprawnie oznaczony. Zakres obowiązków zależy od roli podmiotu, celu użycia, rodzaju treści i wyjątków przewidzianych w prawie. Komisja Europejska wskazuje także ograniczony okres przejściowy dla części systemów wprowadzonych na rynek przed 2 sierpnia 2026 roku w odniesieniu do maszynowego znakowania. Użytkownik nadal powinien więc weryfikować ważne treści, a instytucja nie może zastąpić procedur bezpieczeństwa samą obecnością lub brakiem etykiety „AI”.
Wykorzystanie cudzego wizerunku lub głosu może równocześnie angażować inne obszary prawa, w tym ochronę dóbr osobistych, prywatności, danych osobowych, prawa autorskie, prawo karne i przepisy dotyczące usług cyfrowych. Ocena zależy od konkretnej sytuacji. Ta część materiału ma charakter edukacyjny i nie zastępuje indywidualnej porady prawnej.
10. Najczęstsze pytania
Czy słaba synchronizacja ust zawsze oznacza deepfake?
Nie. Przyczyną może być opóźnienie połączenia, kompresja albo automatyczna obróbka dźwięku. To sygnał do sprawdzenia kontekstu i źródła, ale nie samodzielny dowód fałszu. Czy rozmowa na żywo potwierdza tożsamość?
Nie w każdej sytuacji. Synteza głosu i obrazu może działać w czasie rzeczywistym, a napastnik może znać podstawowe informacje o rozmówcy. Przy czynnościach wysokiego ryzyka potrzebne jest niezależne potwierdzenie proceduralne. Czy warto używać internetowego detektora deepfake?
Może być jednym z narzędzi, lecz wynik nie powinien sam rozstrzygać sprawy. Trzeba także rozważyć poufność przesyłanego materiału — wgranie nagrania z danymi badawczymi lub wizerunkiem osoby do przypadkowej usługi może tworzyć nowe ryzyko. Czy etykieta „wygenerowano przez AI” gwarantuje bezpieczeństwo?
Nie. Etykieta zwiększa przejrzystość, ale materiał może nadal zawierać manipulację, oszustwo albo naruszać prawa osoby. Z kolei brak etykiety nie dowodzi autentyczności. Ważne są źródło, cel i procedura weryfikacji. Czy należy publicznie dementować każdy deepfake?
Nie zawsze. Publiczne sprostowanie może niepotrzebnie zwiększyć zasięg mało znanego materiału. Decyzję warto oprzeć na skali, rodzaju szkody, grupie odbiorców i możliwości dotarcia z korektą. W przypadku zagrożenia dla bezpieczeństwa lub oszustwa szybki komunikat jest zwykle ważniejszy niż obawa przed „nagłośnieniem”.
Źródła i materiały do dalszego sprawdzania
- NASK: „Usta, głos, treść, tło. Umiesz rozpoznać deepfake?”.
- Europol: EU Serious and Organised Crime Threat Assessment 2025.
- Komisja Europejska: Code of Practice on Transparency of AI-Generated Content.
- Komisja Europejska: pytania i odpowiedzi dotyczące obowiązków przejrzystości z art. 50 AI Act.
- Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2024/1689 — AI Act.