Błąd w internetowej wyszukiwarce. Fałszywa informacja o śmierci Donalda Trumpa w odpowiedziach modelu sztucznej inteligencji. Jej źródłem był wpis na internetowym forum. Jak wskazuje dr Mateusz Łabuz z Uniwersytetu w Hamburgu, modele językowe często sięgają po treści z internetowych dyskusji, ponieważ są napisane naturalnym językiem. Jedna z wyszukiwarek internetowych, DuckDuckGo, miała w ostatnich dniach błędnie informować, że prezydent Stanów Zjednoczonych Donald Trump zmarł 7 czerwca na wściekliznę po rzekomym ugryzieniu przez wiceprezydenta J.D. Vance’a. Nieprawdziwe informacje miały zostać przedstawione w podsumowaniu wygenerowanym przez sztuczną inteligencję. Według doniesień system AI mógł zaczerpnąć te fałszywe treści z Reddita – platformy społecznościowej pełniącej funkcję forum dyskusyjnego, podzielonego na tzw. subreddity, czyli społeczności skupione wokół określonych tematów. Użytkownicy jednego z nich – r/poisonai, mieli celowo rozpowszechniać dezinformujące treści.Dr Mateusz Łabuz, naukowiec z Uniwersytetu w Hamburgu (IFSH) oraz autor książki „Przed waszą erą. Człowiek w syntetycznym świecie deepfake'ów, ChataGPT i sztucznej inteligencji” powiedział PAP, że użytkownicy Reddita zwyczajnie trollowali AI, wiedząc, że w pewnym momencie niektóre wątki mogą zacząć przenikać do dużych modeli językowych.Okazuje się, że Reddit to jedna z najczęściej cytowanych domen przez główne modele sztucznej inteligencji. Potwierdzają to badania z marca 2026 r. platformy analitycznej Peec AI, która wyróżniła forum na pierwszym miejscu. Z kolei według agencji marketingowej The Digital Bloom cytowania Reddita wzrosły o ok. 450 proc. na niektórych modelach AI w 2025 r.AI korzysta z forów internetowych. Ma ku temu powodyDr Łabuz wyróżnił 3 powody, dla których Reddit może być tak chętnie cytowany przez sztuczną inteligencję. Pierwszy z nich dotyczy dużej liczby autentycznych i naturalnych wypowiedzi publikowanych na forum. Jak podkreślił, to właśnie na takich wypowiedziach AI uczy się, w jaki sposób najlepiej naśladować język. – W wielu kontekstach wypowiedzi brzmią dużo bardziej naturalnie, kiedy model posługuje się językiem z forów internetowych, a nie na przykład językiem encyklopedycznym albo książkowym – dodał.Czytaj także: Interwencja Trumpa pomogła. FIFA odwiesza gwiazdę USA na mecz z BelgiąDrugi powód, dla którego modele AI korzystają z Reddita to – jak powiedział ekspert – liczba komentarzy i ich zróżnicowanie. Z najnowszych danych forum wynika bowiem, że z serwisu korzysta 116 mln aktywnych użytkowników dziennie. Natomiast trzeci, wyróżniony przez dr. Łabuza powód to, obecny na platformie, system głosowania. Chodzi o to, że każdy wpis może zostać opatrzony upvote'm, czyli pozytywnym głosem uznającym dany wpis za pozytywny. Odwrotny wynik przynosi natomiast downvote. – AI na tym również może bazować, jeśli chodzi o swoje oceny wartości i autentyczności poszczególnych treści – dodał.Dodatkowo Reddit w lutym 2024 r. zawarł umowę z Google, na mocy której wyszukiwarka może trenować swoje modele AI na podstawie wpisów użytkowników forum. Podobne porozumienie zawarł z Redditem OpenAI.Nie tylko Reddit. Tak AI daje łapać się na dezinformacjęAle, z opublikowanego w czerwcu br. badania naukowców z Uniwersytetu Cornell „Deep-research agents can be poisoned via user-generated content” wynika, że firmy mogą z łatwością umieszczać treści promocyjne na platformach takich jak Reddit, Quora czy Wikipedia w celu zmanipulowania wyników sztucznej inteligencji. „Pokazujemy, że niewielki fragment – zaledwie 13 słów – tekstu pobranego ze strony internetowej UGC, takiej jak Reddit, Wikipedia, Quora, Facebook itd., może sprawić, że agenci AI będą dość konsekwentnie generować treści spamowe/oszustwa” – powiedział portalowi 404 media jeden z autorów badania Hal Triedman. Jego zdaniem, wykonanie takich działań jest bardzo proste.Dr Łabuz zapytany o ryzyko dezinformacji po cytowaniu przez AI wpisów z forum wskazał na zjawisko „LLM grooming”. Polega ono na bombardowaniu sieci bliźniaczo podobnymi do siebie treściami dezinformującymi w celu wpływania na wyniki sztucznej inteligencji. – Na przełomie 2024-2025 r. popularne modele językowe powielały w nawet 33 proc. narracje rosyjskiej sieci dezinformacyjnej »Prawda« – zauważył powołując się na badanie portalu NewsGuard i organizacji American Sunlight Project.Czytaj także: Pracownicy już niepotrzebni, bo jest AI. Gigant zwalnia tysiące osóbJak dodał, Reddit nie jest wolny od dezinformacji, w związku z czym Rosja oraz Chiny mogą się przyglądać tego typu platformom i chętnie je wdrażać do swojego arsenału. Ekspert przypomniał również, że podczas dyskusji z jednym z modeli AI ważna jest kwestia świadomości i weryfikacji przekazywanej nam wiedzy. – A myślę, że mamy taką społeczną tendencję do tego, żeby uznawać, że to, co zostało wskazane przez model, jest prawdziwe i nie do zakwestionowania – podsumował.