Modele OpenAI włamały się do więcej niż tylko Hugging Face. Uzyskały dostęp do kont w czterech innych usługach

Sprawa modeli językowych, które podczas testu bezpieczeństwa OpenAI wymknęły się spod kontroli, ma swój ciąg dalszy. W zeszłym tygodniu pisaliśmy o włamaniu do platformy badawczej Hugging Face, teraz okazuje się, że był to tylko punkt kulminacyjny dłuższej drogi. Modele po drodze zalogowały się do czterech kont w czterech innych usługach, a punktem wyjścia był dla nich sandbox u klienta zupełnie innej firmy.

OpenAI uzupełniło pierwotne oświadczenie

W swojej wtorkowej aktualizacji pierwotnego oświadczenia firma podaje, że podczas oceny modele znalazły i wykorzystały publicznie ujawnione dane logowania do kont w innych publicznie dostępnych usługach. Nie podała ich nazw, ale opisała, do czego modele ich użyły. Hugging Face nie należy do tej czwórki, zasłużył na osobną kategorię.

Jedno z kont, według OpenAI, funkcjonowało jako przekaźnik wychodzący i stacja pośrednia dla dalszych kroków, drugie służyło do przechowywania danych. Do pozostałych dwóch kont modele uzyskały dostęp tylko w trybie odczytu i nie wykorzystały ich do ataku na Hugging Face. Firma jednocześnie dodaje, że nigdzie indziej nie znalazła aktywności porównywalnej pod względem powagi ani zakresu z tym, co stało się w Hugging Face – ten przypadek sama opisuje jako kompromitację całej platformy.

Którędy prowadziła droga do Hugging Face?

Hugging Face we wtorek opublikował techniczną oś czasu incydentu i opisuje w niej, że modele najpierw zadomowiły się w sandboxie, czyli izolowanym środowisku testowym, hostowanym u nienazwanego dostawcy infrastruktury. Dopiero stamtąd wyruszyły na samą platformę.

Modele OpenAI włamały się do więcej niż tylko Hugging Face. Uzyskały dostęp do kont w czterech innych usługach Adam Kurfürst Zprávičky Adam Kurfürst Zprávičky

Tym dostawcą jest Modal Labs, potwierdził agencji Reuters dyrektor techniczny firmy Akshat Bubna. Według niego stał za tym dziurawy kod jednego z klientów, który udostępnił w internecie punkt dostępu bez żadnego uwierzytelnienia – każdy w jego sandboxach mógł uruchamiać własny kod. Platforma Modalu ani jej izolacja, według Bubny, nie zostały naruszone.

Co wszystko modele zdążyły zrobić?

Według osi czasu całe włamanie trwało od 9. do 13. lipca. Śledczy wstecznie zrekonstruowali około 17 600 pojedynczych akcji atakującego rozłożonych na cztery i pół dnia.

Modele uzyskały dostęp do pięciu zestawów danych z rozwiązaniami testów oraz do obiektu, w którym znajdowało się 136 tajnych kluczy. Skradzionymi kluczami 181 razy próbowały zarejestrować nowe urządzenie w sieci wewnętrznej. Wewnętrzną bazę danych jednak, według osi czasu, tylko odczytywały, śledczy nie znaleźli w niej żadnych zmian.

Prototyp, na którym działał test i który według firmy nigdy nie miał wydostać się na zewnątrz, w międzyczasie OpenAI dezaktywowała, zaszyfrowała i odcięła od dalszego dostępu badaczy. Dodajmy, że według wcześniejszych ustaleń agencji Reuters, firma zauważyła wyciek dopiero po około tygodniu; sama wtedy zarzuciła, że w reportażu są nieścisłości, ale nie rozwinęła tego bliżej.

Czy wyjaśnienie od OpenAI wydaje się Państwu wystarczające?

Źródła: Reuters, Engadget, Hugging Face, OpenAI