Rząd USA nakazał wyłączenie Claude Fable 5. Argumentuje to bezpieczeństwem narodowym

Anthropic musiał z dnia na dzień uniemożliwić dostęp do swojego najpotężniejszego modelu językowego. Za tym stoi dyrektywa rządu USA, opierająca się na bezpieczeństwie narodowym. Model Claude Fable 5 został zaprezentowany przez firmę zaledwie 10 czerwca – od jego wprowadzenia minęły zaledwie dwa dni.

Anthropicowi nie pozostało nic innego, jak całkowicie wyłączyć model

Anthropic w swoim oświadczeniu podaje, że dyrektywę otrzymał 12 czerwca o godzinie 17:21 czasu waszyngtońskiego (czyli po jedenastej wieczorem naszego czasu). Nakaz wynika z przepisów eksportowych i nakazuje zawieszenie dostępu do modeli Fable 5 i Mythos 5 dla wszystkich obcokrajowców, zarówno poza USA, jak i wewnątrz kraju – włączając w to zagranicznych pracowników samej firmy. W praktyce oznaczało to, że Anthropic musiał wyłączyć oba modele dla wszystkich klientów, aby zastosować się do zasady. Pozostałe modele firmy pozostają, zgodnie z jej oświadczeniem, dostępne bez zmian.

Spór o rzekome złamanie Claude Fable 5

Rząd, według Anthropic, uzasadnił ten krok tym, że dowiedział się o metodzie obejścia zabezpieczeń modelu – tak zwanego „jailbreaku”. Konkretne szczegóły bezpieczeństwa nie zostały jednak zawarte w dyrektywie, a dowody, według firmy, zostały przedstawione jedynie ustnie. Opisana technika polega na tym, że użytkownik przedstawia modelowi konkretny kod źródłowy i prosi go o naprawę błędów oprogramowania. Anthropic twierdzi, że jest to wąska, a nie uniwersalna luka, którą oferują również konkurencyjne modele.

Rząd USA nakazał wyłączenie Claude Fable 5. Argumentuje to bezpieczeństwem narodowym Adam Kurfürst Zprávičky Adam Kurfürst Zprávičky

Jak Anthropic się broni

Firma nie zgadza się z zawieszeniem. Argumentuje, że wycofywanie z użytku komercyjnego modelu, z którego korzystają setki milionów ludzi, z powodu wąskiej luki jest nieproporcjonalne – i że gdyby to samo kryterium zastosowano do całej branży, faktycznie zatrzymałoby to wdrażanie wszystkich nowych modeli. Według Anthropic, mechanizmy ochronne Fable 5 są skuteczniejsze niż w jakimkolwiek wcześniej wdrożonym modelu, a uniwersalnego sposobu na ich obejście nikt jeszcze nie znalazł.

Anthropic oświadczył, że szanuje nakaz i pracuje nad przywróceniem dostępu. Obiecał opublikować dalsze szczegóły w ciągu 24 godzin od swojego ogłoszenia. Jak do sprawy podejdą organy regulacyjne i czy modele wrócą do użytkowników, na razie nie jest jasne.

Czy rząd powinien mieć prawo nakazać wyłączenie komercyjnego modelu sztucznej inteligencji?

Źródła: Anthropic, BBC News