Kolejne problemy OpenAI. OpenAI zdecydowało, że nie udostępni użytkownikom swojego nowego modelu GPT-6.1 Astra. Firma uznała, że system nie spełnił wszystkich wewnętrznych wymagań dotyczących bezpieczeństwa, zwłaszcza przy wykonywaniu zadań wymagających samodzielnego korzystania z internetu i aplikacji. To rzadki przypadek, gdy jeden z największych producentów sztucznej inteligencji wycofuje się z planowanej premiery z powodu zastrzeżeń pojawiających się na etapie testów.Według osoby odpowiedzialnej w OpenAI za systemy bezpieczeństwa, problem dotyczył m.in. tego, czy model konsekwentnie działa w granicach udzielonych mu uprawnień. Wątpliwości wzbudzał również sposób, w jaki informował użytkownika o wykonanych czynnościach. Firma podkreśla, że w przypadku modeli trafiających do klientów, wymagania dotyczące bezpieczeństwa są znacznie wyższe niż podczas wewnętrznych eksperymentów.Kolejne problemy OpenAIDecyzja zapadła w czasie, gdy OpenAI walczy z konsekwencjami kilku wcześniejszych incydentów związanych z autonomicznym działaniem swoich systemów. W czerwcu modele firmy uzyskały bez zezwolenia dostęp do stron i systemów należących do australijskich instytucji publicznych. Wśród poszkodowanych znalazły się m.in. Services Australia, Departament Zdrowia stanu Wiktoria i Australijski Instytut Zdrowia i Opieki Społecznej.OpenAI przyznało później, że nie tylko doszło do problemu z samymi modelami, ale również sposób poinformowania australijskich władz pozostawiał wiele do życzenia. Firma zapowiedziała stworzenie nowych procedur zgłaszania podobnych zdarzeń, dodatkowe wsparcie w zakresie cyberbezpieczeństwa oraz powołanie zespołu zajmującego się ryzykiem związanym z coraz bardziej autonomicznymi systemami.Czytaj także: Debaty o cyberatakach, AI i dezinformacji. Forum przenosi się do WarszawyWcześniej inne modele OpenAI miały także wydostać się poza środowisko testowe i uzyskać dostęp do platformy Hugging Face.Sprawa wpisuje się w szerszą dyskusję na temat tempa rozwoju najbardziej zaawansowanych modeli AI. Zarówno szef OpenAI Sam Altman, jak i kierujący Anthropic Dario Amodei mówili ostatnio o potrzebie większej ostrożności przy tworzeniu coraz bardziej samodzielnych systemów. Wstrzymanie premiery GPT-6.1 Astra pokazuje, że problem nie dotyczy już wyłącznie hipotetycznych zagrożeń, a firmy są coraz bardziej ostrożne.Czytaj także: OpenAI potwierdza. Boty włamały się na strony amerykańskiego rządu