Zakrwawiona koszula Maduro. Media przegrywają z zalewem treści generowanych przez AI

Media przegrywają z zalewem treści generowanych przez sztuczną inteligencję.

Główne wydanie wiadomości w drugim programie niemieckiej telewizji publicznej ZDF śledzi w niedziele zwykle około 3,5 mln widzów. Tak też było w wieczór 15 lutego br. Jednym z tematów dnia były naloty służb imigracyjnych ICE w Stanach Zjednoczonych. Prezenterka „Heute Journal” stwierdziła w zapowiedzi, że w sieci krąży wiele filmów o akcjach oddziałów ICE Donalda Trumpa. „Nie wszystkie są prawdziwe, ale wiele z nich jest. A przemoc, z jaką często działają służby deportacyjne, i widoczna samowola na pewno osiągnęły już jedno: panuje atmosfera strachu, która nie oszczędza nawet dzieci” – mówiła.

Potem ZDF pokazał materiał swojej nowojorskiej korespondentki. „Prowadzą pojmanych rodziców na oczach ich dzieci” – relacjonowała Nicola Albrecht. Na ekranie widać, jak dwóch agentów ICE prowadzi zrozpaczoną kobietę, przytrzymując jej z tyłu ręce. Dwójka małych dzieci wokół matki próbuje zapobiec deportacji. Widoczny na nagraniu znak wodny – logo „Sora” – wskazuje na pochodzenie materiału. Wykreował go generator wideo oparty na sztucznej inteligencji (AI), należący do firmy OpenAI – twórcy ChatGPT.

Potem w korespondencji z USA pojawia się jeszcze inna scena. Widać na niej, jak szeryf wyprowadza chłopca. Nie jest to akcja ICE, ale nie jest to też scena wygenerowana przez AI, lecz materiał z 2022 roku dotyczący dziesięciolatka, który groził rzezią w szkole.

PÓŹNE SPROTSTOWANIE

To, co w ZDF wydarzyło się później, dolało tylko oliwy do ognia. Kiedy widzowie i zaalarmowani dziennikarze wskazali na manipulację, telewizja odpowiedziała, że zdjęcia wygenerowane przez sztuczną inteligencję w reportażu „powinny były zostać oznaczone”.

„Z przyczyn technicznych oznaczenie to nie zostało przeniesione podczas przegrywania materiału. Redakcja skorygowała ten błąd i odpowiednio dostosowała wideo” – oświadczył rzecznik prasowy ZDF na zapytanie branżowego serwisu „Übermedien”. Pominął to, że zdjęcia oznaczone już były (tyle że nie przez ZDF, tylko Sorę), a w materiale nowojorskiej korespondentki nie miały prawa się znaleźć. Nie mówiła ona bowiem: „Oto, jak wyglądają nieprawdziwe ujęcia”, tylko twierdziła, że nagranie pokazuje rzeczywistość. Sceny wygenerowane przez sztuczną inteligencję miały służyć jako dowód brutalnych działań ICE.

Obserwatorzy zwracają uwagę, że nie tylko sam materiał był pogwałceniem standardów dziennikarskich, ale i cały proces prostowania ich.

Najpierw ZDF usunął odcinek „Heute Journal” ze swoich platform, a potem opublikował go ponownie, ale już bez relacji z USA. W poprawionym miejscu widnieje napis: „Wideo zostało skrócone ze względów redakcyjnych”. Z kolei na stronie ZDFheute.de, w zakładce poświęconej korektom, podano początkowo, że wygenerowane przez AI zdjęcia nie zostały oznaczone, co potem odpowiednio poprawiono – zgodnie z wytycznymi dotyczącymi sztucznej inteligencji.

Telewizja potrzebowała dwóch dni, zanim na antenie w wieczornym wydaniu „Heute Journal” szefowa aktualności Anne Gellinek przeprosiła za błędy. „Ten materiał nie spełnia naszych standardów i nie powinien był zostać wyemitowany w tej formie” – powiedziała Gellinek. Mówiła o „profesjonalnych błędach”. „Wykorzystanie wygenerowanych przez AI zdjęć i wideo pokazujących ludzi, wydarzenia i polityczny kontekst jest niemożliwe w przypadku wiadomości. Wyjątek: w relacji chodzi wyraźnie o fejki AI” – głosiło wyemitowane sprostowanie. A ponieważ w kontrowersyjnej korespondencji z 15 lutego tak nie było, „nie wystarczyłoby także stosowne oznaczenie”. Gellinek mówiła o „podwójnym błędzie”, który jest tym bardziej bolesny, bo „my w ZDF inwestujemy dużo siły, by dostarczać Państwu sprawdzone informacje”.

PROCEDURY ZAWIODŁY

Dla dziennikarzy pracujących w niemieckich mediach publicznych, a szczególnie w telewizji, niewytłumaczalne jest, jak ZDF mogła wyemitować materiał w tak oczywisty sposób wygenerowany przez AI. W procesie produkcji i odbioru materiałów przed emisją uczestniczy przecież wiele osób i żadna nie zauważyła znaku wodnego Sora AI?

„W pierwszym etapie za wybór i sprawdzenie materiałów zdjęciowych odpowiada sam autor. Po przekazaniu gotowej korespondencji do redakcji w drugim etapie sprawdza ją odpowiedzialny redaktor, po czym zatwierdza do emisji. W tym przypadku przewidziane procedury kontrolne nie zostały konsekwentnie zastosowane” – odpowiada na moje pytanie dział prasowy ZDF w Moguncji.

Po skandalu telewizja odwołała z Nowego Jorku swoją korespondentkę Nicolę Albrecht. „Szkody, jakie powstały w wyniku nieprzestrzegania zasad dziennikarskich, są ogromne” – podkreśliła redaktor naczelna ZDF Bettina Schausten, cytowana w komunikacie prasowym. „W gruncie rzeczy chodzi o wiarygodność naszych materiałów”.

Miesiąc po skandalu redakcja naczelna ZDF poinformowała o pięciopunktowym katalogu działań, jaki opracowała w związku z incydentem. Mówi on o systematycznym i trwałym poszerzaniu wiedzy na temat sztucznej inteligencji, rozwoju kompetencji w zakresie weryfikacji materiałów zdjęciowych w redakcjach. Obce materiały będą emitowane wyłącznie po sprawdzeniu ich źródła. Procesy odbioru materiałów mają być dostosowane do czasów wyzwań związanych z cyfryzacją oraz wzmacniana będzie kultura, w ramach której błędy będą transparentnie nazywane, konsekwentnie rozpracowywane i korygowane.

Wszystko to ma być wprowadzone podczas obowiązkowych szkoleń dla redakcji.

OGROMNE ZADANIE

A te są bardzo potrzebne. I to nie tylko w ZDF, bo wraz z rozwojem AI pracownikom mediów coraz trudniej jest ocenić, czy materiał jest prawdziwy. – Potrzebujemy szkoleń, i to na różnych płaszczyznach – uważa David Schraven, twórca kolektywu śledczego Correctiv. W 2017 roku Correctiv – jako pierwsza organizacja dziennikarska w Niemczech – utworzył własną, wyspecjalizowaną redakcję zajmującą się weryfikacją faktów. Obecnie pracuje w niej kilkanaście osób.

W Faktenforum Correctiv stworzył własną i niezależną od wielkich firm technologicznych infrastrukturę, za pomocą której szkoli ludzi i przygotowuje ich do szkolenia następnych. Forum skupia już 2,5 tys. osób. – Na poziomie profesjonalnym trzeba się nieustannie rozwijać. To oznacza, że trzeba mieć wysoko wykwalifikowanych ludzi, którzy stale się uczą i szkolą innych. To jest ogromne zadanie naszych czasów – stwierdza Schraven.

Szczególnie że redakcje przegrywają z zalewem treści generowanych przez AI.

ZAKRWAWIONA KOSZULA

Można było przekonać się o tym na początku stycznia, kiedy świat obiegła wiadomość, że USA przeprowadziły błyskawiczną operację wojskową w Wenezueli, w wyniku której pojmano prezydenta Nicolása Maduro i jego żonę.

Nawet renomowane media opublikowały wtedy treści wygenerowane przez sztuczną inteligencję. Gazety niemieckiej grupy medialnej Funke (m.in. „Berliner Morgenpost”, „Hamburger Abendblatt”, „Westfalenpost”, „Thüringer Allgemeine”) zamieściły w swoich wydaniach internetowych (a niektóre następnego dnia w drukowanych) zdjęcie Maduro w poplamionej krwią koszuli. Jak się później okazało – sprawdziła to agencja informacyjna AFP – obraz był wytworem AI.

Redakcje grupy Funke otrzymały to zdjęcie od hamburskiej agencji DDP – należącej do Action Press – jednej z największych agencji fotograficznych na świecie. W rozmowie z serwisem „Übermedien” szef DDP Ulli Michel opisał sytuację, w której pojawiają się pilne informacje z ostatniej chwili i trzeba działać szybko. Wiadomość o akcji Amerykanów w Caracas nadeszła niespodziewanie w weekend, zdjęcia musiały szybko trafić do klientów. Renomowana nowojorska agencja fotograficzna Polaris, z którą DDP i Action Press współpracują od dziesięcioleci, miała w swojej ofercie materiały z zatrzymania Maduro. Redakcja DDP sprawdziła zdjęcia – nie zostały one więc automatycznie przejęte od partnerskiej agencji. Nie zauważono żadnych problemów, więc zaoferowano je klientom za pośrednictwem własnego serwisu.

Pojawiło się w nim jeszcze inne zdjęcie z zatrzymania wenezuelskiego dyktatora – w białej koszuli i marynarce prowadzonego przez czterech funkcjonariuszy Agencji ds. Walki z Narkotykami (DEA). W tle samolot. Źródło w prawym dolnym rogu zdradzało, że zdjęcie pochodzi z DDP/Polaris.

Agencja prasowa AFP przeanalizowała obydwa zdjęcia za pomocą narzędzi do wykrywania AI i prześledziła historię obrazu w wyszukiwarce Google. W przypadku zdjęcia z funkcjonariuszami DEA okazało się, że motyw został wygenerowany przez sztuczną inteligencję Google. W przypadku zakrwawionej koszuli narzędzie InVID WeVerify wskazało na AI z prawdopodobieństwem 84 proc. Ponadto dziennikarze AFP poddali zdjęcia dokładnym oględzinom i zauważyli kilka nieścisłości. Okazało się np. że blizna na czole Maduro jest bardziej widoczna niż w rzeczywistości, a u jednego z żołnierzy prawie nie widać małego palca u ręki.

Po doniesieniach AFP dzienniki grupy Funke szybko zamieściły sprostowanie, opisały sprawę i zadeklarowały, że do wyjaśnień zrezygnują z publikacji materiałów fotograficznych DDP.

NIELOGICZNE CIENIE

Na kolejny poważny incydent nie trzeba było długo czekać.

W marcu br. do niemieckiej agencji Picture Alliance, która współpracuje z ponad 350 agencjami fotograficznymi na całym świecie, trafiły zmanipulowane zdjęcia dotyczące wojny z Iranem. Pochodziły z agencji SalamPix, która dostarczyła materiał francuskiej Abaca Press. Stamtąd zdjęcia trafiły do portfolio niemieckich agencji. W swoich serwisach i wydaniach drukowanych wykorzystało je potem wiele niemieckich mediów (m.in. „Der Spiegel”, „Die Zeit”, „Süddeutsche Zeitung”, WDR, „Stern”, Deutschlandfunk, Deutsche Welle, „Die Welt”).

W Niemczech podejrzenia, że są jakieś nieprawidłowości, pojawiły się najpierw w „Spieglu”. Zdjęcia przedstawiały m.in. irański lotniskowiec z lotu ptaka, eksplozję w Teheranie oraz nowego najwyższego przywódcę Modżtabę Chameneiego u boku swojego ojca Alego Chameneiego. W przypadku zdjęcia irańskiego lotniskowca przy silnym powiększeniu widoczne były nieprawidłowości, takie jak nielogiczne cienie śmigieł przerwane przez białą linię na lotniskowcu.

Inne zdjęcie przedstawiające wybuch w stolicy Iranu, Teheranie, zostało co najmniej zmodyfikowane za pomocą sztucznej inteligencji. W ukrytych informacjach o zdjęciu znaleziono ślady wskazujące na użycie narzędzia AI Flux 2 – donosił „Der Spiegel”. Wygenerowane przez sztuczną inteligencję zostało także z dużym prawdopodobieństwem zdjęcie Alego Chameneiego i jego syna. Podobnie zdjęcie budynku ambasady w Nigrze.

Pierwsze podejrzenia, że SalamPix ma w ofercie zmanipulowane zdjęcia, nadeszły z Holandii. Alarm wszczęły tamtejsza agencja prasowa ANP i holenderska telewizja RTL. Potem w Niemczech sprawę zbadał „Der Spiegel”, prosząc o pomoc bawarski start-up Neuramancer, specjalizujący się w kryminalistyce multimedialnej.

DETEKTYWI AI

– W ostatnim czasie takich zapytań przybywa – mówi Anika Gruner z Neuramancer. Start-up założyła w 2024 roku z Anatolem Maierem – programistą i badaczem, jednym z nielicznych w Niemczech specjalistów od kryminalistyki multimedialnej. Na tym rynku firma chce być – jak mówi Gruner – „europejską marką zaufania”, a klientami mają być media, agencje fotograficzne, ale i branża ubezpieczeniowa. – Stworzyliśmy kompleksowe oprogramowanie do analizy mediów, możemy badać zdjęcia i filmy pod kątem autentyczności, manipulacji oraz śladów stosowania sztucznej inteligencji – wyjaśnia Gruner. Firma specjalizuje się w trudnych przypadkach, na przykład silnie skompresowanych materiałach pochodzących z nieznanych źródeł.

Analizy zdjęć są możliwe w 20 sekund, badanie wideo jest w fazie testów beta, a zespół pracuje już nad narzędziami do analizy materiałów audio. – Technologia bazuje na opracowanej przez nas samodzielnie sztucznej inteligencji, którą szkolimy własnymi danymi. Nie jesteśmy zależni od żadnych big techów – podkreśla Anika Gruner. Integrując interfejs Neuramancer ze swoimi systemami redakcyjnymi, media mogą zeskanować setki tysięcy zdjęć pod kątem podejrzenia o manipulacje AI albo mogą przesłać podejrzane zdjęcia do ekspertyzy do firmy. Raport wskaże, gdzie znaleziono ślady manipulacji – z udziałem lub bez udziału sztucznej inteligencji. – Osiągamy wysoką niezawodność detekcji, ale nadal mamy ok. 2 proc. analiz, których nie jesteśmy w stanie przeprowadzić albo gdzie występują błędy. Nie chodzi o całkowitą perfekcję, ale o to, by umieć wyjaśnić błędy, gdy się pojawią – przyznaje Gruner. Technologia start-upu bazuje na tzw. szumach obrazu, czyli zmianach jasności lub koloru pikseli. – Im bardziej obraz był przetwarzany, tym trudniej jest rozpoznać jeszcze wzorce. Zdarza się, że nie mamy jednoznacznego wyniku, ale możemy stwierdzić, że w przypadku danego zdjęcia wiele się wydarzyło i nie jest to oryginalne zdjęcie – tłumaczy.

W Europie rynek detektorów AI jest jeszcze niewielki, bo instytucji, które prowadzą w tej dziedzinie badania, jest mało, a większość firm w tej dziedzinie to start-upy. Potrzeby są jednak duże. – Ryzyko manipulacji lub generowania całości materiałów przez sztuczną inteligencję jest wszechobecne i szybko rośnie. Potrzebujemy automatyzacji, żeby móc opanować ten problem – twierdzi szefowa Neuramancer. Przyznaje jednak, że redakcje, które szkoli, nie mają zabudżetowanych środków na detekcję AI. – A tymczasem walutą jest zaufanie czytelników i użytkowników – mówi.

Podkreśla to także David Schraven z Correctiv. Jego kolektyw szkoli nie tylko twórców mediów, ale i ich odbiorców. Mówi, że jeżeli nie będziemy się bronić przed dezinformacją, to zginiemy. W ubiegłym roku Correctiv zorganizował 600 imprez. Dotyczyły m.in. dezinformacji, manipulacji i fejków. Uczestniczyli w nich różni ludzie. – Cały przekrój społeczny. Robimy warsztaty dla każdego – mówi Schraven. Często słyszy na nich, że ludzie nie mają już zaufania do mediów. To jeszcze bardziej motywuje go do działania.

Bo zmanipulowanych materiałów w sieci będzie przybywać.

Autorka jest dziennikarką Deutsche Welle w Bonn

***

Ten tekst Katarzyny Domagały-Pereiry pochodzi z najnowszego numeru magazynu „Press”. Teraz udostępniliśmy go do przeczytania w całości.

„Press” do nabycia w salonach prasowych, App Store, Google Play, e-Kiosku lub online na E-sklep.press.pl.

Czytaj też: Nowy "Press": rozmowa z Pawłem Płuską, Newsmax w Polsce i prawnik "Gazety Wyborczej"

Katarzyna Domagała-Pereira