Wstrząsające słowa naukowca. „Żadna z firm nie zachowuje się odpowiedzialnie. Pędzą prosto do samodoskonalącej się superinteligencji i igrają z naszym życiem” – napisał 27-letni brytyjski matematyk Jacob Coxon, ogłaszając odejście z Anthropic, firmy stojącej za modelem Claude. Teraz ostrzega, że największe firmy AI znalazły się w wyścigu, którego konsekwencje mogą być trudne do przewidzenia. Coxon ogłosił swoją decyzję na platformie X oraz w rozmowie z „Wall Street Journal”. Jak napisał, zarówno OpenAI, jak i Anthropic zmierzają w kierunku stworzenia samodoskonalącej się sztucznej inteligencji, nie poświęcając wystarczająco dużo uwagi ryzyku.„Nadludzka” inteligencja Brytyjczyk wcześniej pracował w OpenAI, ale w tym roku przeszedł do Anthropic. Liczył, że firma stojąca za Claude’em będzie bardziej skoncentrowana na bezpieczeństwie AI. Z czasem doszedł jednak do wniosku, że również Anthropic uczestniczy w wyścigu o stworzenie „nadludzkiej” inteligencji.Jego zdaniem taki system mógłby w krótkim czasie zrewolucjonizować całe dziedziny życia, a jednocześnie zdobyć ogromną władzę i zasoby.„Ludzie tworzący sztuczną inteligencję szczerze wierzą, że może ona nas wszystkich zabić do końca dekady” – zaalarmował na X.Krytyka mechanizmówCoxon krytykuje przede wszystkim mechanizm konkurencji między firmami. Jego zdaniem Anthropic może uważać, że musi rozwijać coraz potężniejsze modele, ponieważ jeśli samo tego nie zrobi, zrobi to konkurencja.„Uważają, że nikt inny nie będzie zachowywał się odpowiedzialnie, więc oni muszą to zrobić sami, mimo ryzyka” – zaznaczył.Na problem coraz szybszego rozwoju AI zwracają uwagę także inni badacze związani z branżą. W ostatnich dniach główny badacz OpenAI Jakub Pachocki ostrzegał przed konsekwencjami gwałtownego wzrostu możliwości modeli.„Obawiam się, że nikt nie jest przygotowany na konsekwencje ciągłego, szybkiego wzrostu inteligencji maszyn” – napisał w niedzielę na blogu.Pachocki wezwał do skoordynowanego spowolnienia rozwoju AI oraz większej interwencji państw.Nowy system pozostał kwestią sporną Odejście Coxona nastąpiło w dniu, w którym OpenAI poinformowało o osiągnięciu swojego najbardziej zaawansowanego, nieopublikowanego jeszcze modelu. Według firmy system miał rozwiązać problem związany z równaniami Naviera-Stokesa – jednym z siedmiu problemów milenijnych.Informacja wzbudziła jednak kontrowersje. Pojawiły się pytania, czy model nie skorzystał z pracy matematyków, którzy wcześniej zbliżyli się do rozwiązania problemu i konsultowali się z ChatGPT. OpenAI zapewniło, że świadomie nie wykorzystało ich wkładu.Coxon jest jednym z pierwszych pracowników Anthropic, którzy zdecydowali się odejść z firmy z powodu obaw dotyczących ryzyka związanego z AI. Wcześniej podobne decyzje podejmowali pracownicy OpenAI i innych firm technologicznych.Czytaj także: Obecność sztucznej inteligencji w gospodarce. Może obciążyć podatników