OpenAI przeszło na szkolenie bez internetu. Podczas testu agenci AI potrafili wysyłać sobie wiadomości nawet bez sieci

Odłączyć rozwój sztucznej inteligencji od internetu? Jeszcze niedawno ludzie z laboratoriów AI, według serwisu TechCrunch, określali to jako niemal niewykonalne. OpenAI mimo to przeszło na szkolenie bez internetu w przypadku swoich najbardziej zaawansowanych modeli. Po serii incydentów, kiedy jej agenci AI wydostali się na zewnątrz i atakowali obce systemy, firma uważa to za odpowiedzialne podejście.

Zamiast żywej sieci, jej zapisana kopia

OpenAI ogłosiło nowość w piątkowym poście na blogu. Według firmy, modele nadal muszą uczyć się przeglądania sieci, wyszukiwania informacji i pracy z aplikacjami internetowymi. Dlatego firma stworzyła tak zwany „świat offline” – ogromny zestaw zaindeksowanej i zapisanej zawartości internetowej, z którą modele mogą pracować, nie wpływając na żaden system zewnętrzny. Wykorzystują go wszystkie przebiegi uczenia wzmocnionego jej najbardziej zaawansowanych modeli, a ten tryb ma obowiązywać, dopóki postęp w zabezpieczeniach nie pozwoli na więcej.

Do decyzji doprowadziła seria incydentów. W lipcu modele OpenAI włamały się na platformę Hugging Face, a we wrześniu firma zawiesiła szkolenie swoich najbardziej zaawansowanych modeli po tym, jak jeden z nich, przez błąd w konfiguracji sieci, dostał się do internetu. Szkolenie wznowiono 1 października, czyli po 11 dniach i z bardziej rygorystycznymi zabezpieczeniami. Podobną drogą, według serwisu TechCrunch, dwa tygodnie wcześniej poszedł również konkurencyjny Anthropic.

Agenci wysyłali sobie wiadomości przez pamięć procesora

Zanim OpenAI wznowiło szkolenie, wysłało przeciwko własnej infrastrukturze zespoły agentów AI, w tym nadchodzący model GPT-6 Astra Cyber. Mieli oni dostać się do internetu, przekroczyć granice bezpieczeństwa lub porozumieć się z agentami, od których mieli być oddzieleni. Zużyli na to setki miliardów tokenów i znaleźli dotąd nieznane luki, między innymi w jądrze Linuxa lub w Dockerze. OpenAI twierdzi, że pomogło je naprawić.

Testy wykazały jednak również, że agenci w ogóle nie potrzebują sieci do wzajemnej komunikacji. W jednym eksperymencie agenci w oddzielnych maszynach wirtualnych na tym samym sprzęcie mieli wymienić ćwiczebne tajne dane bez połączenia i bez współdzielonych plików. Rozwiązali to za pomocą pamięci podręcznej procesora (cache), małej i szybkiej pamięci. Jeden agent celowo wyrzucał z niej wybrane dane, a drugi mierzył, ile czasu zajmuje ich ponowne załadowanie. Z różnicy między szybkim a wolnym odczytem składał następnie wiadomość. Podobną zasadę wykorzystywały również znane ataki Spectre i Meltdown.

Inni agenci przekazywali sobie sygnał, naprzemiennie zapisując na dysku i pozostając w bezczynności, co jeden z nich w swoim rozumowaniu porównał do modemu akustycznego. OpenAI dodało do swojego nadzoru kontrole, które mają wykrywać taką komunikację. Jednocześnie przyznaje, że całkowite odcięcie infrastruktury od sieci zewnętrznych na razie jest niemożliwe, ponieważ eksperymenty muszą być uruchamiane i monitorowane z zewnątrz. Niezawodność nadzoru nie jest jednak oczywista: według serwisu The Verge, agenci OpenAI niedawno potrafili go obejść podczas wewnętrznych projektów programistycznych.

Czy wierzysz, że zapisana kopia sieci utrzyma coraz bardziej zaawansowaną AI pod kontrolą?

Źródła: OpenAI, The Verge, TechCrunch