Manipulacja i zatruwanie danych. Chatbot Claude amerykańskiej firmy Anthropic podaje rosyjskie fake newsy jako źródło informacji, przed czym przestrzega niemiecka organizacja non profit Agora Digitale Transformation (ADI). Instytucja podkreśla, że modele AI czerpią z wąskiej bazy danych i faworyzują niektóre źródła. Analiza berlińskiego ośrodka została udostępniona tygodnikowi „Der Spiegel”, który w środę opublikował szczegóły opracowania. „Badania ADI wykazały, że systemy AI czerpią z wąskiej bazy źródeł, przy czym kryteria ich doboru nie są dokumentowane ani możliwe do prześledzenia” – alarmuje główna autorka Vivien Benert.AI może kształtować opinię publicznąW raporcie uznano modele AI za „strażników dostępu przy przekazywaniu aktualnych wiadomości”, podkreślając, że ma to daleko idące skutki przy kształtowaniu opinii publicznej.Berlińska organizacja sprawdziła, z jakich źródeł korzystają różne chatboty, m.in. ChatGPT amerykańskiej firmy Open AI, Gemini Google'a i Claude.Zgodnie z rezultatami badania ChatGPT przy wyszukiwaniu wiadomości korzysta głównie ze źródeł dziennikarskich. W przypadku Claude’a i Gemini stanowią one ok. 50 proc. wszystkich źródeł, częściej korzystają one za to ze stron rządowych i organizacji pozarządowych. Częściowo odpowiedzi tworzone są także na podstawie blogów i treści z serwisów społecznościowych.Czytaj również: Będzie nadzór nad sztuczną inteligencją. Ważna decyzja SejmuWyraźne odstępstwo zaobserwowano przy modelu ChatGPT, w którym jako źródło wyraźnie dominuje niemiecki dziennik „Die Welt”. Według ADI to źródło było cytowane przy niemieckich zapytaniach niemal pięć razy częściej niż publiczny nadawca Deutschlandfunk, znajdujący się w tym modelu na drugim miejscu pod względem cytowalności.W 2023 roku koncern medialny Axel Springer, do którego należą m.in. dzienniki „Die Welt” i „Bild” oraz portal Politico, ogłosił zawarcie „globalnego partnerstwa” z OpenAI. „Ta współpraca znajduje zasadnicze odzwierciedlenie w wyborze źródeł przez ChatGPT” – czytamy w analizie ADI.„Wielu użytkowników zapewne zakłada, że modele AI przeszukują internet pod kątem najbardziej trafnych wyników. Tymczasem przez tego rodzaju współpracę dochodzi do praktycznie niezauważalnego uprzywilejowania poszczególnych wydawnictw medialnych i produkowanych przez nie treści” – ostrzega Benert.Niepokojąca zależność w modelu ClaudeNiepokojącą zależność odnotowano także w przypadku modelu Claude. Przy wyszukiwaniu wiadomości zdarzało się, że system ten sięgał do domen sieci Pravda, czyli rosyjskiej operacji dezinformacyjnej. „Claude podsuwa osobom szukającym informacji rosyjską dezinformację na równi z innymi źródłami wiadomości” – twierdzi Benert.Obserwatorzy od dawna ostrzegają, że modelami AI można manipulować poprzez „data poisoning” (zatruwanie danych). Polega to na tym, że strony propagandowe próbują celowo optymalizować swoje treści tak, aby chatboty AI przedstawiały je w odpowiedziach jako wiarygodne źródła.Czytaj również: Ludzie nienawidzą sztucznej inteligencji. Budzi lęk i wywołuje przemoc