Przetrwało nieco ponad dzień. Miał być hit, ale zniknął tak szybko, jak się pojawił. Google wycofało się ze swojego nowego narzędzia AI, które pozwalało na tworzenie fałszywych obrazów na podstawie zdjęć satelitarnych. Stało się to po tym, jak eksperci zaczęli alarmować, że narzędzie może zostać wykorzystane do szerzenia dezinformacji. Niecałe dwie doby po tym, jak gigant technologiczny ogłosił integrację swojego generatora obrazów opartego na sztucznej inteligencji Nano Banana 2 z Google Earth, firma poinformowała o wstrzymaniu tej funkcji, „do czasu wdrożenia silniejszych zabezpieczeń”.W oświadczeniu Google przyznało, że zaobserwowało „osoby udostępniające zrzuty ekranu wygenerowanych obrazów, które prawdopodobnie naruszają nasze zasady”.Wycofana funkcja pozwalała użytkownikom na generowanie fałszywych obrazów na podstawie rzeczywistych zdjęć satelitarnych, lotniczych lub 3D. Takie zdjęcia można było pobrać i udostępnić na innych platformach.„Wiemy, że ludzie w wyjątkowy sposób ufają Google Earth, ponieważ oferuje wiarygodny obraz świata” – wyjaśniła firma. W rozmowie z BBC Verify eksperci przyznali, że właśnie wykorzystywanie wiarygodności serwisu mogłoby sprawić, że ludzie uwierzyliby w fałszywe grafiki.Wymyślone obrazy, prawdziwe współrzędne. Niebezpieczeństwa nowej funkcji Google'aZawalona Wieża Eiffla, zapadlisko pod Wielką Piramidą w Gizie i rosyjskie czołgi w stolicy Ukrainy – to tylko niektóre z obrazów, jakie udało się stworzyć dziennikarzom BBC Verify podczas testowania funkcji. Ekspert do spraw sztucznej inteligencji i dezinformacji Henk van Ess zwrócił uwagę na ryzyko, jakie niesie ze sobą ta funkcja. Wspomniał między innym o możliwości generowania obrazów nieistniejącej elektrowni jądrowej w Iranie, obozu dla uchodźców na granicy USA i Meksyku lub fałszywego szpitala w Strefie Gazy z kraterem po bombie obok.Google zaznaczyło, że treści oparte na sztucznej inteligencji, a tworzone przez jego narzędzia, zawierają niewidoczne znaki wodne, które mają wskazywać, że np. obrazy fałszywe lub zmanipulowane. Koncern dodał, że każdy, kto „nie jest pewien danego obrazu”, może to sprawdzić za pomocą aplikacji chatbota Gemini lub skorzystać z funkcji Lens w jej wyszukiwarce.Eksperci BBC Verify przyznali, że funkcja rzeczywiście działa, jednak można „oszukać” Gemini, a system uzna fałszywe zdjęcia z Google Earth za autentyczne. Również testy z wykorzystaniem zewnętrznych narzędzi do wykrywania AI w niektórych przypadkach nie pozwoliły na zidentyfikowanie zawartości Google Earth AI.Funkcja, która może zaszkodzić. Także zaufaniu publicznemuPoczątkowo Google twierdziło, że wytyczne wbudowane w jego model sztucznej inteligencji zapobiegną tworzeniu obrazów przedstawiających „szkodliwe tematy”, jednak specjaliści odkryli, że niewielkie zmiany w promptach mogą pozwolić na obejście tych wytycznych.Na przykład prośba o stworzenie „podestu do wieszania zdrajców” obok brytyjskiego parlamentu została odrzucona. Jednak gdy zastosowano mniej konkretną sugestię, obraz powstał. Narzędzie nie chciało też wykosić napisu „Trump” na trawniku przed Białym Domem, ale pozwoliło na stworzenie w tym samym miejscu publicznego ogrodu.Dla wielu osób Google Earth jest źródłem zdjęć satelitarnych. Taka manipulacja mogłaby szerzyć dezinformację zwłaszcza przy okazji sprawdzania trudniej dostępnych obszarów.Czytaj także: AI wspomoże dowodzenie na froncie. Ukraina opracowała nowy system