Rząd USA mógł ograniczyć Claude Fable 5 z powodu Chin. Anthropic jednak temu zaprzecza

Kilka dni temu informowaliśmy, że rząd amerykański wyłączył Claude Fable 5 z powodu rzekomej metody obejścia jego zabezpieczeń. Nowe ustalenia dodają teraz do sprawy drugi, bardziej wrażliwy wymiar – obawę, że grupa powiązana z Chinami uzyskała dostęp do potężnego modelu Mythos. Żadna z wersji nie została potwierdzona, a Anthropic odrzuca drugi powód.

Drugi powód, który dotąd nie został ujawniony

Kiedy rząd ogłosił interwencję, publicznie podawanym powodem była luka umożliwiająca obejście zabezpieczeń modelu. Serwis Semafor pisze jednak, że równolegle istniała jeszcze jedna obawa: grupa powiązana z Chinami miała uzyskać dostęp do modelu Mythos. Według źródeł serwisu stanowiło to ryzyko dla bezpieczeństwa narodowego oraz możliwość, że konkurencja mogłaby poddać model analizie wstecznej.

Chodziło o Mythos, nie bezpośrednio o Claude Fable 5

Domniemany chiński dostęp dotyczy Mythosa – najpotężniejszej klasy modeli Anthropic, którą firma od momentu jej wprowadzenia oferowała tylko sprawdzonym partnerom. Według Anthropic, model potrafi wyszukiwać błędy w kodzie programowym, więc w niepowołanych rękach staje się narzędziem do wyszukiwania luk. Claude Fable 5 to jego publiczna wersja z zabezpieczeniami, które blokują wykorzystanie w cyberbezpieczeństwie. Kiedy rząd zażądał ograniczenia dostępu do Mythosa tylko dla obywateli amerykańskich, firma wolała wycofać oba modele jednocześnie.

Rząd USA mógł ograniczyć Claude Fable 5 z powodu Chin. Anthropic jednak temu zaprzecza Adam Kurfürst Zprávičky Adam Kurfürst Zprávičky

Co twierdzi rząd, a co Anthropic

Doradca Białego Domu ds. sztucznej inteligencji, David Sacks, stwierdził, że kiedy administracja zwróciła uwagę Anthropic na lukę, szef firmy Dario Amodei rzekomo nie uznał jej za poważne ryzyko i odmówił jej naprawy. Według Sacksa firma „przedłożyła dalsze działanie modelu konsumenckiego nad bezpieczeństwo”. Według Semaforu, na lukę miał zwrócić uwagę administracji również szef Amazonu, Andy Jassy. Anthropic natomiast zaprzecza, by Biały Dom w ogóle wspomniał o chińskim dostępie w rozmowach dotyczących jailbreaka Fable, dodaje, że blokuje dostęp do swoich produktów z Chin, a lukę określa jako wąską, a nie uniwersalną.

Co na razie nie jest jasne

W związku ze sprawą pozostaje wiele otwartych pytań. Nie jest jasne, jak rząd dowiedział się o domniemanym chińskim dostępie, o jaką grupę miało chodzić ani w jaki sposób miała ona uzyskać dostęp do modelu. Żadna z obu wersji nie została jeszcze niezależnie udowodniona. Anthropic informuje, że pracuje nad przywróceniem dostępu.

Jak według Państwa państwa powinny regulować dostęp do najpotężniejszych modeli sztucznej inteligencji?

Źródła: Semafor, The Verge