Claude Fable 5 powraca. USA zniosły blokadę, ale ma to kilka problemów

Saga wokół najpotężniejszych modeli Anthropicu posuwa się naprzód po prawie trzech tygodniach. Amerykańskie władze zniosły ograniczenia eksportowe, które od połowy czerwca utrzymywały Claude Fable 5 i Mythos 5 poza działaniem, a firma teraz przywraca oba modele. Powrót jednak wiąże się z tymczasowymi ograniczeniami dostępności do 7 lipca.

Zniesienie zakazu skomentował również amerykański sekretarz handlu

Przypomnijmy, że Anthropic zaprezentował Claude Fable 5 i Mythos 5 na początku czerwca – o obu modelach pisaliśmy już przy ich prezentacji, kiedy firma obiecywała wydajność Mythosu z solidniejszymi zabezpieczeniami. Zaledwie dwa dni później firma otrzymała nakaz eksportowy i musiała zawiesić dostęp do obu modeli dla wszystkich obcokrajowców, w tym dla własnych pracowników.

Powodem, według władz, był sposób na obejście zabezpieczeń Fable 5. Na słabość, według dostępnych informacji, zwrócił uwagę Amazon jako sprawdzony partner: udało się skłonić model do tego, aby w jednym przypadku zidentyfikował lukę w oprogramowaniu i wygenerował kod demonstrujący, jak ją wykorzystać. Pojawiły się jednak również doniesienia, że za wyłączeniem stoi obawa rządu USA przed rzekomym dostępem nieuprawnionej chińskiej grupy do modeli.

Claude Fable 5 powraca. USA zniosły blokadę, ale ma to kilka problemów Adam Kurfürst Zprávičky Adam Kurfürst Zprávičky

Nastąpił kilkutygodniowy przegląd rządowy. 26 czerwca władze zezwoliły na przywrócenie Mythos 5 dla wybranych krajowych organizacji, a 30 czerwca ograniczenia eksportowe całkowicie zniesiono. Anthropic w komunikacie potwierdził powrót obu modeli; sekretarz handlu Howard Lutnick stwierdził, że jego biuro przez dwa tygodnie współpracowało z firmą nad analizą i zatwierdzeniem Fable 5, aby zapewnić zgodność w całym rządzie i wzmocnić wiodącą rolę USA w dziedzinie sztucznej inteligencji.

Co Anthropic musiał zrobić, aby przywrócić modele?

Powrót nie był bezwarunkowy. Anthropic musiał najpierw bezpośrednio zablokować technikę, na którą zwrócił uwagę Amazon. Firma, zgodnie ze swoim oświadczeniem, przeszkoliła nowy klasyfikator bezpieczeństwa ukierunkowany dokładnie na ten sposób obchodzenia zabezpieczeń; według jej danych, wykrywa go w ponad 99 procentach przypadków.

Jednocześnie rozszerzyła swoje wielowarstwowe podejście do bezpieczeństwa, które łączy trening modelu, analizę wsteczną nadużyć i automatyczne klasyfikatory rozpoznające potencjalnie niebezpieczne zadania z obszaru cyberbezpieczeństwa. W przypadku Fable 5 dodatkowo celowo zwiększyła margines bezpieczeństwa klasyfikatora, dzięki czemu model zablokuje również dodatkową część nieszkodliwych zapytań. Bezpieczeństwo zyskało więc priorytet nad wygodą użytkownika – model, który przy prezentacji opisaliśmy jako Mythos z mocniejszym kagańcem, otrzymał jeszcze bardziej rygorystyczne zabezpieczenia.

Poza zmianami technicznymi firma zobowiązała się do ściślejszej współpracy z USA. Obiecuje dostęp do modeli jeszcze przed wydaniem, szybkie udostępnianie informacji o znalezionych lukach w zabezpieczeniach, dedykowane zespoły badawcze oraz udział w tworzeniu branżowych standardów bezpieczeństwa.

W dostępności nadal istnieje kilka problemów

Jeśli chodzi o dostępność, Anthropic prawdopodobnie was nie ucieszy. Claude Fable 5 jest częścią płatnych taryf (Pro, Max, Team i wybranych planów firmowych) tylko do 7 lipca, a do tego tylko do około połowy tygodniowych limitów wykorzystania. Po wspomnianej dacie dostęp przechodzi na model kredytowy – standardowe licencje firmowe będą wymagały aktywowanych kredytów do pracy z modelem.

Jeśli więc chcecie tworzyć z Fable 5 bez dodatkowych opłat, powinniście zacząć już teraz. Warto jednak przyznać, że firma już zapowiadała podobny krok podczas samej prezentacji modelu. Wtedy informowała, że wycofa go ze standardowych planów i będzie wymagać kredytów od 23 czerwca. Znacznie wcześniej jednak zdążył interweniować rząd Stanów Zjednoczonych.

Na Amazon Web Services, Google Cloud i Microsoft Foundry modele powrócą, gdy tylko będzie to technicznie możliwe, według Anthropicu.

Claude Fable 5 powraca. USA zniosły blokadę, ale ma to kilka problemów Adam Kurfürst Zprávičky Adam Kurfürst Zprávičky

Anthropic tym samym kończy trzy tygodnie, podczas których jego najpotężniejsze modele nie były dostępne dla setek milionów użytkowników. Pozostałe modele firmy działały bez ograniczeń podczas blokady.

Czy wrócicie do Claude Fable 5, gdy będzie ponownie w pełni dostępny?

Źródła: Anthropic, CNBC, CNN