„Dario ma rację”. Szef OpenAI Sam Altman oraz właściciel xAI, miliarder Elon Musk, poparli apel prezesa koncernu Anthropic Daria Amodeiego, który wezwał firmy zajmujące się sztuczną inteligencją (AI) do spowolnienia rozwoju tej technologii w związku z obawami dotyczącymi ryzyka stwarzanego przez superinteligentne systemy komputerowe. „Dario ma rację” – napisał Musk w serwisie X. Altman dodał: „Zgadzam się z Dariem, musimy wyznaczyć nowe granice”.Amodei zaapelował w opublikowanym w internecie artykule o spowolnienie tempa rozwoju modeli AI oraz ich uważne monitorowanie. Zagrożenia związane ze sztuczną inteligencją określił jako poważne. Zapewnił, że nie chodzi o „wstrzymanie szkolenia modeli ani postępu technicznego, ale o zapewnienie, by firmy poświęciły odpowiednio dużo czasu na dostosowanie i zabezpieczenie swoich modeli, a także by niezależni eksperci potwierdzili, że podjęto takie działania”.Plan dotyczący uregulowania tempa rozwoju AI Amodei podzielił na trzy etapy. Jego celem ma być nie tylko wprowadzenie regulacji dotyczących szybkości rozwoju tej technologii, ale także zapewnienie większej ilości czasu na „zarządzanie związanym z tym ryzykiem”.„Igranie z życiem ludzi”Amodei zapowiedział również, że Anthropic zatrudni na stałe zewnętrznych recenzentów, którzy otrzymają dostęp do odpowiednich narzędzi oraz wewnętrznych procesów oceny ryzyka firmy.Reuters przypomniał, że w czwartek Anthropic opublikował raport dotyczący zagrożeń, w którym szczegółowo opisano, w jaki sposób kilka podmiotów wykorzystywało modele AI Claude do działań związanych z rozwojem broni, operacjami cybernetycznymi, inwigilacją oraz oszustwami.Dwa dni wcześniej o odejściu z Anthropica poinformował publicznie 27-letni matematyk Jacob Coxon, który zajmował się szkoleniem modeli AI. Brytyjczyk zarzucił firmie oraz jej konkurentowi, OpenAI, nieodpowiedzialne dążenie do stworzenia superinteligencji i „igranie z życiem ludzi”.Niekontrolowane działania agentów AIWcześniej w tym roku Coxon zrezygnował z pracy w OpenAI, twórcy ChatGPT, i przeszedł do Anthropica, który – jak tłumaczył – miał opinię firmy przykładającej większą wagę do kwestii bezpieczeństwa. Po kilku miesiącach ocenił jednak, że oba podmioty nie różnią się pod względem podejścia do tempa rozwoju modeli AI.Reuters informował w ostatnim czasie, że grupa niekontrolowanych agentów OpenAI przejęła niemiecką stronę internetową i przekształciła ją w forum dla innych agentów AI, podczas gdy kierownictwo firmy utrzymywało ten incydent w tajemnicy. Agencja przypomniała również o innych zdarzeniach z ostatnich dwóch miesięcy, podczas których agenci AI włamywali się lub próbowali uzyskać dostęp do zewnętrznych systemów.Czytaj także: Sztuczna inteligencja prześwietli sędziów. La Liga inauguruje program