Jeszcze niedawno fałszywe obrazy tworzone przy użyciu narzędzi AI można było rozpoznać po oczywistych błędach, takich jak nienaturalne twarze, dziwne dłonie, źle odwzorowane detale albo widoczne ślady edycji. Dziś sytuacja jest trudniejsza. Aby ocenić, czy obraz jest prawdziwy coraz częściej trzeba sprawdzić, czy przedstawiona scena jest zgodna z zasadami fizyki i geometrii. Nie należy oceniać wiarygodności materiału na podstawie jego atrakcyjności czy dramatyzmu. Obrazy generowane przez AI mogą być bardziej efektowne niż rzeczywistość (z większymi wybuchami, lepszymi kątami kamery i bardziej „filmowym” przebiegiem sceny). Właśnie dlatego emocjonalny, spektakularny materiał powinien budzić szczególną ostrożność.
Dlaczego deepfake jest dziś tak trudny do oceny?
Dotychczas stosowane metody wykrywania manipulacji często opierały się o wykrycie śladów pozostawianych w trakcie edycji obrazu, którymi są m.in. statystyczne zależności między pikselami. W praktyce obrazy AI nie zawsze są klasycznie przerobionymi zdjęciami. Generatory obrazów coraz częściej tworzą obrazy od podstaw i coraz lepiej odtwarzają elementy zawarte w prawdziwych fotografiach, takie jak zakłócenia czy niedoskonałości obrazu. W takich przypadkach metody analizy oparte o statystykę zależności pikseli mogą dawać niepoprawne wyniki. Nie oznacza to, że należy zrezygnować z analizy. Należy uzupełnić ją o ocenę elementów związanych z fizyką, światłem, cieniem, odbiciami i geometrią. Należy do analizy wprowadzić ocenę czy przedstawiona scena jest zgodna z tym, jak działa świat rzeczywisty, tj.:
- czy obiekty poruszają się zgodnie z logiką ruchu,
- czy wielkość przedstawianych elementów jest skorelowana z odległością,
- czy ułożenie świateł i cieni jest spójne,
- czy odbicia zachowują zasady perspektywy,
- czy obraz i dźwięk są ze sobą spójne.
Należy również mieć na uwadze to, że narzędzia AI są ciągle udoskonalane i coraz lepiej obrazują rzeczywistość, dlatego zawsze:
- sprawdź źródło informacji – ustal, kto opublikował materiał, gdzie pojawił się po raz pierwszy i czy pochodzi z oficjalnego, wiarygodnego kanału, czy informacje potwierdzają inne media, oficjalne komunikaty lub dodatkowe nagrania przedstawiające to samo zdarzenie z innej perspektywy,
- oceń kontekst – czy nagranie pojawiło się nagle, po dłuższym czasie od rzekomego zdarzenia, w czasie silnych emocji lub w sytuacji, która ma skłonić odbiorcę do natychmiastowego działania.
Do wykrycia manipulacji z użyciem AI możemy również zastosować narzędzia AI, ale otrzymane wyniki analizy należy zweryfikować.
Polecamy również zapoznanie z treścią publikacji Deepfake – czym jest i jak się przed nim chronić? Wyjaśniamy w niej, czym jest deepfake i jak ta technika może zostać wykorzystana do oszustwa.