Internet pełen „fejków”. Najnowsze badania wskazują, że obrazy generowane przez sztuczną inteligencję rozprzestrzeniają się tak szybko, że stały się niemal równie powszechne, jak te zmanipulowane za pomocą tekstu czy tradycyjnych narzędzi edycyjnych typu Photoshop. Czy należy się bać? Badacze z Google oraz organizacje zajmujące się weryfikacją faktów, zwracają uwagę na błyskawiczne tempo, w jakim technologia ta została zaadaptowana przez osoby szerzące dezinformację. Mimo to AI, to tylko jeden ze sposobów wykorzystywania obrazów do wprowadzania opinii publicznej w błąd – częściej używane są prawdziwe zdjęcia wyjęte z kontekstu.W opublikowanym badaniu, naukowcy przeanalizowali niemal 136 tysięcy „fact-checków” od 1995 roku, z większością opublikowanych po 2016 roku i kończących się w listopadzie 2023 roku. Zauważyli, że obrazy generowane przez AI stanowiły niewielki procent dezinformacji wizualnej aż do wiosny 2023 roku, kiedy to fałszywe zdjęcia papieża Franciszka w puchowej kurtce stały się viralem. Alexios Mantzarlis, dyrektor Security, Trust, and Safety Initiative, wskazuje, że coraz większa popularność narzędzi AI sprawiła, że teraz niemal każdy może z wielką łatwością rozpowszechniać fałszywe informacje. – Przechodzimy przez fazy postępu technologicznego, które szokują nas zdolnością do manipulowania rzeczywistością, a obecnie przeżywamy najważniejszą z nich – stwierdził Mantzarlis.AI popełnia coraz mniej błędówCo więcej, dezinformacja oparta na AI staje się coraz trudniejsza do wykrycia wraz z rozwojem tej technologii. Tradycyjne błędy obrazów generowanych przez AI. takie jak zniekształcone ręce, zniekształcony tekst czy pies z pięcioma nogami, znacznie się zmniejszyły od czasu, gdy narzędzia te stały się powszechnie dostępne.– Treść przestanie być już wystarczająca, aby ocenić jej prawdziwość. Musisz mieć pełen kontekst: Kto ci to udostępnił? Jak to udostępniono? Skąd wiesz, że to byli oni? – powiedział badacz cytowany przez NBC.Prowadzący badania zauważyli jednak, że poleganie wyłącznie na sprawdzonych twierdzeniach nie oddaje całego zakresu dezinformacji, ponieważ często obrazy, które stają się „viralem”, są szybko sprawdzane i weryfikowane przez „żywych” użytkowników.