Złożył też fikcyjne wnioski o wizy. Firmy rozwijające sztuczną inteligencję mają obowiązek zgłaszania incydentów bezpieczeństwa i usuwania ich skutków – oświadczyła administracja Donalda Trumpa. To skutek ujawnienia incydentów z udziałem modelu AI Claude, który składał fikcyjne wnioski wizowe i fałszywie zgłosił zabójstwo – podał portal Axios. „Proces powiadamiania i naprawy szkód nie jest opcjonalny. To krytyczny obowiązek w zakresie bezpieczeństwa narodowego” – napisano w oświadczeniu kierownictwa Super Intelligence Force (SI Force), czyli powołanego przez prezydenta organu koordynującego politykę wobec AIJak wynika z relacji Axiosa, Anthropic, twórca modeli Claude, skontaktował się z organami państwa, by przekazać szczegóły incydentów wykrytych pod koniec września. Według administracji procedery ustały i nie mają obecnie charakteru trwającego.Axios: model AI Claude składał fikcyjne wnioski wizowe, zgłosił też zabójstwo, którego nie byłoPrzedstawiciel Departamentu Stanu poinformował, że w czwartek firma zgłosiła, że jeden z jej testowanych modeli złożył 19 wniosków o wizy w sierpniu i jeden w maju, korzystając z publicznie dostępnego formularza na stronie resortu. Żaden z wniosków nie został rozpatrzony, a systemy ministerstwa nie zostały naruszone.W osobnym przypadku policja w Filadelfii poinformowała, że otrzymała fałszywe zgłoszenie dotyczące zabójstwa, przesłane przez Claude'a. Firma opublikowała w piątek późnym wieczorem raport potwierdzający kilka incydentów, w tym ten w Filadelfii, nie podała jednak szczegółów dotyczących pozostałych zaangażowanych agencji rządowych.Wymogi Białego Domu dotyczą wszystkich firm z sektora AI. „Firmy SI muszą niezwłocznie ujawniać incydenty z udziałem swoich modeli i podejmować szybkie, zdecydowane działania naprawcze” – podkreślił nowy organ.Zespół oczekuje od firm współpracy z poszkodowanymi systemami, by zapobiec podobnym zdarzeniom. Szef organu i zarazem dyrektor wywiadu narodowego Jay Clayton oraz przedstawiciele SI Force zażądali od Anthropic „natychmiastowej i pełnej transparentności” wobec podmiotów, których sprawa dotyczy, oraz opinii publicznej, a także zadośćuczynienia poszkodowanym.W oświadczeniu zapowiedziano, że opóźnione zgłoszenia, niewystarczające działania naprawcze i brak odpowiedzialności „nie będą tolerowane”. Oczekuje się też pełnej współpracy z organami ścigania na szczeblu federalnym i stanowym.Axios zwraca uwagę, że oświadczenie nie precyzuje mechanizmów egzekwowania ani kar za niedopełnienie obowiązku. Dotychczasowe podejście administracji do regulacji AI opierało się na samoregulacji i dobrowolnych zobowiązaniach, w tym na deklaracji podpisanej przez Trumpa i szefów sześciu firm podczas niedawnego spotkania w Białym Domu.Zgłoszone przez Anthropic incydenty to już kolejne w długiej serii transgresji dokonywanych przez szkolone przez firmy AI zaawansowane modele. Wcześniej ujawniono m.in. włamania modeli OpenAI na rządowe strony w Australii i USA, a także na systemy innej firmy AI, Hugging Face.Czytaj także: Zełenski krytykuje porozumienie Trumpa z Putinem. „Słaba decyzja”