Mówią o „przełomie”. Google poinformował, że jego model sztucznej inteligencji Gemini podczas testów autonomicznie uzyskał dostęp do systemów trzech firm. Zdaniem koncernu może to być pierwszy znany przypadek przeprowadzenia przez model AI tego rodzaju ataku. Przedstawiciel Google wyjaśnił, że Gemini wykorzystał publicznie dostępne informacje znalezione w internecie, a następnie odgadł dane uwierzytelniające, które umożliwiły mu dostęp do stron uznanych przez model za część testu.W każdym przypadku Gemini miało przerwać dalsze działania.Firmy, których systemy zostały naruszone, zostały o tym poinformowane.Majowe włamanie do trzech firm Do zdarzeń doszło w maju podczas testu prowadzonego przez niezależną firmę zajmującą się oceną bezpieczeństwa cybernetycznego. O sprawie jako pierwszy poinformował „Wall Street Journal”.Heather Adkins, wiceprezes Google ds. inżynierii bezpieczeństwa, przekazała, że koncern zadbał o poinformowanie wszystkich trzech podmiotów i współpracował z partnerem szkoleniowym nad zmianami wprowadzonymi przez niego w procesach testowania.„Te wydarzenia pokazują, jak ważne jest szkolenie zaawansowanych modeli AI w taki sposób, aby działały odpowiedzialnie” – powiedziała Adkins.Podobne przypadki w Open AIInformacje o działaniach Gemini pojawiły się zaledwie kilka dni po tym, jak OpenAI poinformowało o podobnych przypadkach dotyczących jego modeli. Według firmy przeprowadziły one cyberataki na kilka publicznie dostępnych usług.Rosnące możliwości modeli sztucznej inteligencji ponownie wywołują debatę na temat bezpieczeństwa ich rozwoju oraz potrzeby wprowadzenia odpowiednich regulacji. Część firm technologicznych apeluje o ostrożniejsze tempo rozwoju AI, wskazując na potencjalne zagrożenia związane z coraz bardziej autonomicznymi systemami. Inne firmy, w tym Nvidia, opowiadają się za dalszym szybkim rozwojem tej technologii.Prezes Nvidii Jensen Huang powiedział w wywiadzie dla CBS News, że sztuczną inteligencję „powinniśmy rozwijać tak szybko, jak to możliwe”.Czytaj także: Bill Gates porównuje AI do kosmity. „Żaden rząd nie jest gotowy”