Deepfake, jak działa i jak go wykryć

Widzieć to już nie znaczy wierzyć. Deepfake, od „deep learning” i „fake”, to materiał, w którym sztuczna inteligencja podmienia twarz, mimikę lub głos tak, by człowiek zrobił lub powiedział coś, czego nigdy nie zrobił. Brzmi groźnie, ale mechanizm da się zrozumieć, a większość podróbek wciąż zostawia wykrywalne ślady.

Jak powstaje deepfake

Sercem klasycznego deepfake'a są sieci neuronowe uczone na wielu zdjęciach i nagraniach danej osoby. W popularnym podejściu (GAN, sieci generatywne przeciwstawne) rywalizują dwa modele: generator tworzy fałszywe klatki, a dyskryminator próbuje odróżnić je od prawdziwych. Generator uczy się na błędach, aż jego wytwory zaczynają oszukiwać dyskryminatora, a więc i ludzkie oko. Głos klonuje się analogicznie: model uczy się barwy i intonacji z próbek nagrań, po czym „czyta” dowolny tekst tym głosem.

Po czym poznać deepfake, sygnały

Technologia szybko się poprawia, więc żaden pojedynczy sygnał nie jest rozstrzygający. Ale kumulacja artefaktów wciąż zdradza większość podróbek. Przejrzyj poniższą checklistę, oglądając podejrzany materiał na dużym ekranie i, jeśli się da, w zwolnionym tempie.

Kontekst bije technikę, najpewniejsza obrona

Wykrywanie po artefaktach to wyścig zbrojeń, który obrońcy z czasem przegrywają, obraz robi się coraz lepszy. Dlatego najtrwalsza obrona jest pozatechniczna i sprowadza się do tych samych nawyków, co przy rozpoznawaniu fake newsów: kto to opublikował, kiedy, i czy potwierdza to niezależne, wiarygodne źródło.

1. 1

   Sprawdź źródło i pierwotną publikację

   Ustal, kto pierwszy udostępnił materiał. Oficjalne kanały danej osoby czy instytucji to punkt odniesienia; sensacja z anonimowego konta wymaga twardego potwierdzenia.

2. 2

   Poszukaj niezależnych potwierdzeń

   Gdyby polityk naprawdę powiedział to, co słyszysz, opisałyby to duże redakcje. Cisza wiarygodnych mediów przy „bombie” to sygnał ostrzegawczy, działa potwierdzenie krzyżowe.

3. 3

   Zweryfikuj materiał wizualnie

   Wyciągnij klatki i przepuść je przez reverse search, procedurę opisujemy w weryfikacji zdjęć i wideo. Często trafisz na oryginał, z którego zrobiono podróbkę.

4. 4

   Szukaj oznaczeń pochodzenia treści

   Rośnie liczba materiałów z podpisem pochodzenia w standardzie C2PA / Content Credentials. Jeśli plik niesie taki podpis, sprawdź, co mówi o jego źródle i edycji.

Świadomość zamiast paniki

Deepfake nie oznacza, że nie można już ufać niczemu, oznacza, że domyślnym trybem staje się weryfikacja, a nie łatwowierność. Znajomość mechanizmu odbiera technologii aurę magii, a nawyk sprawdzania źródła chroni nawet wtedy, gdy artefakty znikną. Im doskonalsza podróbka, tym ważniejsze pytanie nie „czy dobrze wygląda?”, lecz „skąd to jest i kto to potwierdza?”.