Słowniczek · AI

Deepfake (fałszywe nagranie AI)

Deepfake to obraz, nagranie wideo albo nagranie głosu wygenerowane lub zmienione przez sztuczną inteligencję tak, żeby wyglądało na autentyczny zapis prawdziwej osoby, która w rzeczywistości nic takiego nie powiedziała ani nie zrobiła. Nazwa łączy angielskie deep learning (głębokie uczenie) i fake (podróbka). Po polsku mówi się też o fałszywym nagraniu AI, podróbce głosu albo, potocznie, o „dipfejku”.

Dla właściciela małej firmy deepfake to przede wszystkim narzędzie oszustwa. Ktoś podszywa się pod szefa, wspólnika, kontrahenta albo znaną osobę, a materiał jest na tyle wiarygodny, że ofiara działa, zanim zdąży się zastanowić.

Skąd się wzięły deepfake'i

Termin pojawił się pod koniec 2017 roku, gdy użytkownik serwisu Reddit podpisujący się „deepfakes” zaczął publikować filmy z podmienionymi twarzami. Technika miała jednak starsze korzenie. W 2014 roku zespół Iana Goodfellowa opisał generatywne sieci przeciwstawne (GAN): dwie sieci neuronowe, z których jedna tworzy fałszywe obrazy, a druga próbuje odróżnić je od prawdziwych. Rywalizacja obu sprawia, że podróbki stają się coraz lepsze.

Dziś deepfake'i powstają różnymi metodami, w tym na modelach dyfuzyjnych i na modelach mowy, które uczą się barwy głosu z krótkich próbek. Najważniejsza zmiana dotyczy dostępności. Kiedyś podróbka wymagała mocnego sprzętu i wiedzy. Teraz wystarcza aplikacja i kilka nagrań ofiary z internetu: wywiadu, webinaru, filmiku z firmowego profilu.

Rodzaje deepfake'ów, które spotkasz w pracy

  • Podmiana twarzy w wideo – czyjaś twarz nałożona na nagranie innej osoby. Klasyczne zastosowanie to fałszywe reklamy, w których znana osoba „poleca” inwestycję albo lek.
  • Synteza głosu – model mówi głosem konkretnej osoby dowolny tekst. Wystarczy do telefonu albo wiadomości głosowej w komunikatorze.
  • Wideo na żywo – fałszywy uczestnik wideorozmowy, którego twarz i głos generowane są w czasie rzeczywistym.
  • Zdjęcia i dokumenty – wygenerowane „zdjęcie z miejsca zdarzenia”, podrobiony skan dowodu, fałszywy zrzut ekranu z przelewem.

Deepfake jako narzędzie oszustwa wobec firm

Najgłośniejszy znany przypadek dotyczy brytyjskiej firmy inżynieryjnej Arup. Pracownik jej biura w Hongkongu uczestniczył w wideokonferencji, na której był dyrektor finansowy i kilku innych współpracowników. Wszyscy okazali się podróbkami. Pracownik wykonał 15 przelewów na łączną kwotę 200 mln dolarów hongkońskich, a firma potwierdziła sprawę w maju 2024 roku (South China Morning Post).

Mała firma rzadko jest celem tak rozbudowanej operacji, ale mechanizm jest ten sam i działa także w skali kilku tysięcy złotych. Oszustwo zawsze składa się z trzech elementów: autorytetu (szef, bank, kontrahent), pilności („przelew musi wyjść dziś”) i poufności („nie mów nikomu, to transakcja przed ogłoszeniem”). Deepfake wzmacnia tylko pierwszy element. Pozostałe dwa to stara socjotechnika, dobrze znana z fałszywych maili od „prezesa”.

Kilka sytuacji, w których warto zapalić lampkę:

  • Księgowa dostaje wiadomość głosową od właściciela z prośbą o pilny przelew na nowe konto, bo „stary rachunek kontrahenta jest zablokowany”.
  • Kontrahent na krótkiej wideorozmowie prosi o zmianę numeru konta do faktur, a kamera co chwilę się zacina.
  • Na Twoim firmowym profilu ktoś publikuje reklamę z Twoją twarzą i głosem, która sprzedaje coś, czego nie oferujesz.

Ludzie przebodźcowani albo z ADHD są tu narażeni w szczególny sposób. Oszust celowo tworzy presję czasu i wchodzi w środek innego zadania. Decyzja podejmowana w biegu, między dwoma telefonami, to dokładnie ta, na którą liczy.

Dlaczego wypatrywanie błędów nie wystarcza

Poradniki zalecają patrzenie na mruganie, ruch ust, nienaturalną intonację czy rozmyte krawędzie twarzy. To pomaga przy słabych podróbkach. Problem w tym, że jakość szybko rośnie, a rozmowa telefoniczna w słabym zasięgu i tak brzmi nienaturalnie. Jeśli Twoja obrona opiera się na tym, że „usłyszę różnicę”, to kiedyś nie usłyszysz. Pewniejsza jest procedura, która nie zależy od oceny autentyczności.

Weryfikacja przelewów i zasady, które chronią firmę

  1. Drugi kanał. Każda prośba o przelew lub zmianę numeru konta potwierdzana jest przez kontakt zainicjowany przez Ciebie, na numer zapisany wcześniej, nie podany w tej samej wiadomości.
  2. Hasło kontrolne. Ustal z osobami, które zlecają płatności, słowo albo pytanie, którego nie ma w internecie. Działa przy telefonie i przy wideo.
  3. Zasada dwóch osób. Przelewy powyżej ustalonej kwoty i każda zmiana rachunku kontrahenta wymagają zgody drugiej osoby. W jednoosobowej firmie zastępuje ją odczekanie do następnego dnia.
  4. Zgoda na zwłokę. Spisz wprost, że nikt w firmie nie zostanie ukarany za to, że opóźnił przelew, żeby go zweryfikować. Bez tego pracownik ustąpi przed głosem szefa.
  5. Zgłaszanie. Próbę oszustwa zgłoś do CERT Polska, a fałszywe materiały z wizerunkiem znanych osób do NASK.

Deepfake a prawo i granice pojęcia

Unijny akt w sprawie sztucznej inteligencji definiuje deepfake w art. 3 pkt 60 jako wygenerowane lub zmanipulowane przez AI treści przypominające istniejące osoby, przedmioty czy miejsca, które odbiorca mógłby uznać za autentyczne. Art. 50 nakłada obowiązek ujawniania, że taka treść powstała sztucznie (Rozporządzenie (UE) 2024/1689). Nie każdy obraz z AI jest więc deepfake'iem. Ilustracja wygenerowana do wpisu na blogu nikogo nie udaje. Deepfake zaczyna się tam, gdzie treść podszywa się pod prawdziwą osobę lub prawdziwe zdarzenie.

Zanim zamkniesz tę stronę, sprawdź jedno: czy w Twojej firmie jest dziś ktoś, kto mógłby wykonać przelew po jednym telefonie? Jeśli tak, od tego zacznij.

Pytania i odpowiedzi

Najczęściej zadawane pytania

Deepfake to obraz, nagranie wideo albo nagranie głosu wygenerowane lub przerobione przez sztuczną inteligencję tak, że wygląda na autentyczny zapis prawdziwej osoby. Ta osoba w rzeczywistości nie powiedziała ani nie zrobiła tego, co widać lub słychać na nagraniu. Nazwa łączy angielskie deep learning, czyli głębokie uczenie, i fake, czyli podróbkę. Termin upowszechnił się pod koniec 2017 roku, kiedy w sieci zaczęły krążyć filmy z podmienionymi twarzami. Dziś deepfake obejmuje kilka technik: podmianę twarzy w wideo, syntezę głosu konkretnej osoby, fałszywego uczestnika wideorozmowy generowanego na żywo oraz podrobione zdjęcia i dokumenty. Wspólny mianownik to podszywanie się pod kogoś, kto istnieje, albo pod zdarzenie, które się nie wydarzyło. Zwykła ilustracja wygenerowana przez AI, która nikogo nie udaje, deepfake'iem nie jest. W firmach deepfake pojawia się najczęściej jako narzędzie oszustwa finansowego.

Deepfake na wideo bywa widoczny po drobnych usterkach: nienaturalnym mruganiu, ruchu ust niezgranym z dźwiękiem, rozmytych krawędziach twarzy, płaskiej intonacji głosu albo po tym, że mowa ciała nie pasuje do treści. Uczestnik wideorozmowy, który unika obracania głowy albo zasłaniania twarzy ręką, też powinien wzbudzić czujność. Takie wskazówki pomagają jednak głównie przy słabych podróbkach. Jakość generowanych materiałów rośnie, a słaby zasięg czy kiepska kamera i tak zniekształcają obraz i dźwięk. Dlatego w pracy bezpieczniej jest nie opierać się na ocenie, czy nagranie jest prawdziwe. Gdy rozmowa dotyczy pieniędzy, danych albo dostępu do systemów, rozłącz się i oddzwoń na numer, który masz zapisany od dawna. Możesz też zadać pytanie kontrolne, którego odpowiedzi nie da się znaleźć w internecie. Procedura weryfikacji działa niezależnie od tego, jak dobra jest podróbka.

Deepfake w firmie najczęściej służy do wyłudzenia przelewu, więc ochrona zaczyna się od zasad płatności. Pierwsza zasada: każda prośba o pilny przelew albo zmianę numeru konta kontrahenta wymaga potwierdzenia w drugim kanale, czyli przez telefon wykonany przez Ciebie na numer zapisany wcześniej. Druga: przy większych kwotach i każdej zmianie rachunku decyzję podejmują dwie osoby. W jednoosobowej działalności zamiast drugiej osoby działa odczekanie do następnego dnia. Trzecia: ustal z osobami zlecającymi płatności hasło kontrolne, którego nie ma w sieci. Czwarta, często pomijana: spisz wprost, że opóźnienie przelewu w celu weryfikacji nigdy nie jest błędem. Oszustwo opiera się na autorytecie, pośpiechu i tajemnicy, a pracownik bez takiego zapewnienia ustąpi przed głosem szefa. Próbę oszustwa warto zgłosić do CERT Polska.

Deepfake jako technika nie jest zakazany, ale jego użycie podlega przepisom. Unijny akt w sprawie sztucznej inteligencji, czyli rozporządzenie 2024/1689, definiuje deepfake jako wygenerowane lub zmanipulowane przez AI treści przypominające istniejące osoby, przedmioty, miejsca lub zdarzenia, które odbiorca mógłby wziąć za autentyczne. Artykuł 50 tego rozporządzenia nakłada obowiązek ujawnienia, że treść została wygenerowana albo zmanipulowana sztucznie, z łagodniejszym podejściem do utworów wyraźnie artystycznych czy satyrycznych. Niezależnie od tego obowiązują przepisy, które istniały wcześniej: ochrona wizerunku i dóbr osobistych, ochrona danych osobowych, a przy wyłudzeniach prawo karne dotyczące oszustwa. Jeśli Twoja firma chce użyć w reklamie głosu albo twarzy prawdziwej osoby wygenerowanych przez AI, potrzebujesz jej zgody i wyraźnego oznaczenia. W razie wątpliwości co do konkretnego przypadku skonsultuj się z prawnikiem.

Deepfake głosu można dziś przygotować na podstawie stosunkowo krótkich próbek, takich jak wywiad, webinar, wiadomość głosowa czy film z firmowego profilu. Modele syntezy mowy uczą się barwy, tempa i sposobu akcentowania, a potem czytają dowolny tekst głosem danej osoby. Jakość zależy od długości i czystości nagrań, ale bariera wejścia jest już niska. Dla firmy wniosek jest prosty: sam głos w telefonie nie jest dowodem tożsamości. Nie oznacza to, że trzeba usuwać nagrania z sieci, bo właściciel małej firmy zwykle potrzebuje widoczności. Lepiej przyjąć zasadę, że żadna decyzja finansowa ani udostępnienie danych nie zapada wyłącznie na podstawie rozmowy głosowej. Ustal z bliskimi współpracownikami hasło kontrolne i zawsze oddzwaniaj na znany numer, gdy ktoś prosi o pieniądze, kody albo dostęp do konta. To działa również wtedy, gdy podróbka brzmi idealnie.

Powiązane artykuły

AI Act: oznaczanie treści AI to już obowiązek (i prawie nikt o tym nie wie)

W życie weszły właśnie przepisy AI Act, które każą oznaczać treści generowane przez sztuczną inteligencję. Nie tylko duże korporacje z działem prawnym — dotyczy to influencera z 3 tysiącami obserwujących, sklepu z chatbotem na stronie i agencji, która wrzuciła wygenerowaną grafikę do posta na Instagramie. Większość z nich o tym nie wie. Sprawdźmy, co dokładnie się zmieniło, kogo to dotyczy i ile kosztuje, jeśli zignorujesz nowy obowiązek.

22.06.2026 Czytaj →