Rząd USA nakazał wyłączenie Claude Fable 5. Argumentuje to bezpieczeństwem narodowym

Anthropic musiał z dnia na dzień uniemożliwić dostęp do swojego najpotężniejszego modelu językowego. Za tym stoi dyrektywa rządu USA, opierająca się na bezpieczeństwie narodowym. Model Claude Fable 5 został zaprezentowany przez firmę zaledwie 10 czerwca – od jego wprowadzenia minęły zaledwie dwa dni.

Anthropicowi nie pozostało nic innego, jak całkowicie wyłączyć model

Anthropic w swoim oświadczeniu podaje, że dyrektywę otrzymał 12 czerwca o godzinie 17:21 czasu waszyngtońskiego (czyli po jedenastej wieczorem naszego czasu). Nakaz wynika z przepisów eksportowych i nakazuje zawieszenie dostępu do modeli Fable 5 i Mythos 5 dla wszystkich obcokrajowców, zarówno poza USA, jak i wewnątrz kraju – włączając w to zagranicznych pracowników samej firmy. W praktyce oznaczało to, że Anthropic musiał wyłączyć oba modele dla wszystkich klientów, aby zastosować się do zasady. Pozostałe modele firmy pozostają, zgodnie z jej oświadczeniem, dostępne bez zmian.

Spór o rzekome złamanie Claude Fable 5

Rząd, według Anthropic, uzasadnił ten krok tym, że dowiedział się o metodzie obejścia zabezpieczeń modelu – tak zwanego „jailbreaku”. Konkretne szczegóły bezpieczeństwa nie zostały jednak zawarte w dyrektywie, a dowody, według firmy, zostały przedstawione jedynie ustnie. Opisana technika polega na tym, że użytkownik przedstawia modelowi konkretny kod źródłowy i prosi go o naprawę błędów oprogramowania. Anthropic twierdzi, że jest to wąska, a nie uniwersalna luka, którą oferują również konkurencyjne modele.

Jak Anthropic się broni

Firma nie zgadza się z zawieszeniem. Argumentuje, że wycofywanie z użytku komercyjnego modelu, z którego korzystają setki milionów ludzi, z powodu wąskiej luki jest nieproporcjonalne – i że gdyby to samo kryterium zastosowano do całej branży, faktycznie zatrzymałoby to wdrażanie wszystkich nowych modeli. Według Anthropic, mechanizmy ochronne Fable 5 są skuteczniejsze niż w jakimkolwiek wcześniej wdrożonym modelu, a uniwersalnego sposobu na ich obejście nikt jeszcze nie znalazł.

Anthropic oświadczył, że szanuje nakaz i pracuje nad przywróceniem dostępu. Obiecał opublikować dalsze szczegóły w ciągu 24 godzin od swojego ogłoszenia. Jak do sprawy podejdą organy regulacyjne i czy modele wrócą do użytkowników, na razie nie jest jasne.

Czy rząd powinien mieć prawo nakazać wyłączenie komercyjnego modelu sztucznej inteligencji?

Źródła: Anthropic, BBC News