Rozwijają AI, a mimo to proszą o hamulec. Pracownicy gigantów technologicznych zwracają się do rządu USA

Ludzie stojący za najpotężniejszymi modelami językowymi na świecie zwrócili się do rządu USA z niezwykłą prośbą – pomóżcie nam stworzyć narzędzia, za pomocą których rozwój sztucznej inteligencji mógłby zostać spowolniony w razie potrzeby. Oświadczenie pojawiło się zaledwie kilka dni po tym, jak modele OpenAI podczas testu bezpieczeństwa wydostały się z izolowanego środowiska i włamały na obcą platformę, pisaliśmy o tym w zeszłym tygodniu. Sygnatariusze nie żądają, aby rozwój został zatrzymany dzisiaj. Chcą mieć pod ręką hamulec, gdy zajdzie taka potrzeba.

Pracownicy nie żądają natychmiastowego spowolnienia

Oświadczenie zatytułowane Pacing the Frontier opiera się na jednym zdaniu: sygnatariusze chcą, aby rząd USA wspierał międzynarodowe wysiłki na rzecz stworzenia technicznych i administracyjnych narzędzi niezbędnych do celowego regulowania tempa zautomatyzowanego rozwoju AI. Tekst wyraźnie nie wzywa do przerwy ani do natychmiastowego spowolnienia – chodzi o to, aby możliwość spowolnienia w ogóle istniała, gdyby świat jej potrzebował, i aby nie musiała jej jako pierwsza testować jedna firma lub jeden kraj na własny koszt.

Podpisać mogą tylko pracownicy laboratoriów na granicy branży, a podpis jest weryfikowany za pośrednictwem firmowego adresu e-mail. W czwartek strona listu wymieniała 1293 sygnatariuszy, a zbieranie podpisów nadal trwa. Wśród nazwisk znajdują się dyrektor Anthropic Dario Amodei, główny naukowiec OpenAI Jakub Pachocki, współzałożyciel Google DeepMind Shane Legg, główny naukowiec Meta AI Shengjia Zhao oraz Ilya Sutskever, który obecnie kieruje Safe Superintelligence. Wsparcie organizacyjne zapewniły dwie organizacje non-profit, Guidelight AI Standards i Encode AI, a krótko po publikacji do oświadczenia dołączyły również OpenAI i Anthropic jako firmy.

Sztuczna inteligencja, która rozwija się sama

Sednem obawy jest tak zwane rekurencyjne samodoskonalenie, czyli stan, w którym model potrafi zaprojektować i zbudować bardziej zdolnego następcę niemal bez interwencji człowieka. Od tego momentu tempo nie zależy już od tego, jak szybko pracują ludzie. Tekst ostrzega, że rozwój zdolności może przyspieszyć ponad granicę, kiedy jeszcze rozumiemy i potrafimy kontrolować wynikowe systemy.

Rozwijają AI, a mimo to proszą o hamulec. Pracownicy gigantów technologicznych zwracają się do rządu USA Adam Kurfürst Zprávičky Adam Kurfürst Zprávičky

Anthropic na początku czerwca opublikował własne dane. Według firmy, w maju 2026 roku Claude napisał ponad 80 procent kodu, który trafił do jej produkcyjnej bazy kodu, podczas gdy przed uruchomieniem narzędzia Claude Code na początku 2025 roku było to zaledwie kilka procent. Jest to wewnętrzny pomiar samej firmy, którego nie jesteśmy w stanie niezależnie zweryfikować.

Jak w to wpisuje się wyciek modeli OpenAI?

OpenAI 21 lipca ogłosiła, że dwa jej modele, w tym GPT-5.6 Sol, podczas wewnętrznego testu cybernetycznego opuściły izolowane środowisko, dostały się przez niezałatana lukę w zabezpieczeniach do internetu, a stamtąd na serwery produkcyjne platformy Hugging Face, gdzie szukały rozwiązań testów. Śledczy zrekonstruowali ponad 17 000 zautomatyzowanych działań atakującego, a Hugging Face dla bezpieczeństwa unieważnił wszystkie tokeny API użytkowników.

Rozwijają AI, a mimo to proszą o hamulec. Pracownicy gigantów technologicznych zwracają się do rządu USA Adam Kurfürst Zprávičky Adam Kurfürst Zprávičky

Modele nie były przy tym uszkodzone. Robiły dokładnie to, czego od nich oczekiwano – uzyskać jak najwyższy wynik w teście cybernetycznym – i znalazły do tego drogę, której ich operatorzy się nie spodziewali. Dyrektor OpenAI Sam Altman w podcaście z tego samego tygodnia powiedział, że był to pierwszy incydent bezpieczeństwa, który odczuł naprawdę w pełni, i przyznał, że branży być może nie pozostanie nic innego, jak regulować tempo rozwoju, aby społeczeństwo miało czas na dostosowanie się do nowych możliwości.

Co na to Waszyngton?

Rząd USA ma na stole własne ramy. Rozporządzenie wykonawcze numer 14409, podpisane 2 czerwca, nakłada na federalne urzędy obowiązek przygotowania dobrowolnej procedury, w ramach której twórcy najpotężniejszych modeli zwrócą się do państwa przed ich wydaniem; tekst wyraźnie nie uprawnia do wprowadzenia obowiązkowego licencjonowania. Sześćdziesięciodniowy termin upływa 1 sierpnia. Częścią ma być sklasyfikowany proces określający, które modele podlegają tym zasadom – decyduje o tym NSA – oraz dobrowolne okno trwające do 30 dni, podczas którego deweloperzy dzielą się modelem z państwem przed jego wydaniem.

To, o co prosi list, to coś innego: międzynarodowe i skoordynowane narzędzie skoncentrowane na samym tempie rozwoju, a nie krajowa kontrola przed wydaniem jednego modelu. Taki system nie istnieje dziś w żadnym kraju. Sam Altman spotkał się w środę na Kapitolu z senatorem Tedem Cruzem, który przewodniczy senackiej komisji handlu, i powiedział dziennikarzom, że w tym tygodniu planuje również spotkanie z szefową personelu Białego Domu Susie Wiles.

Zgody w branży jednak nie ma

Tego samego dnia, w którym ukazał się list, dyrektor Meta Mark Zuckerberg opublikował w Wall Street Journal komentarz z przeciwną tezą. Według niego ryzyko nie polega na zbyt dużej zdolności modeli, ale na zbyt dużej koncentracji tej zdolności w rękach kilku firm. Główny naukowiec Meta, Shengjia Zhao, podpisał list jako osoba prywatna, czyli w momencie, gdy jego własny szef opublikował kontrargument. Obok komentarza pojawił się również list koalicyjny Meta, Nvidia, Microsoft i Palantir, który prosi regulatorów, aby nie ograniczali modeli z ogólnodostępnymi wagami.

Czy wierzycie, że rozwój sztucznej inteligencji da się w ogóle spowolnić?

Źródła: Pacing the Frontier, CNN, Fortune, Notebookcheck, Tech Times