Nie tylko modele OpenAI wymknęły się spod kontroli. Claude Cowork mógł czytać pliki na Macu, do których nie powinien mieć dostępu

Kilka dni temu pisaliśmy o tym, jak OpenAI straciło kontrolę nad swoimi modelami podczas testu i te przedostały się do obcej firmy. Teraz okazuje się, że podobna słabość nie dotyczy tylko konkurencji: firma zajmująca się bezpieczeństwem Accomplish zademonstrowała, że nawet Claude Cowork od Anthropicu zdołał ominąć własne zabezpieczenia i uzyskać dostęp do plików, które powinny być całkowicie poza jego zasięgiem.

Inteligentny pomocnik uciekł z izolowanego środowiska

Claude Cowork to asystent AI firmy Anthropic, który wykonuje zadania na komputerze za Ciebie – przegląda foldery, edytuje pliki, wyszukuje informacje. Aby nie wyrządzić szkód, działa w zamkniętym, izolowanym środowisku (fachowo sandbox, czyli rodzaj „piaskownicy”) i powinien widzieć tylko ten jeden folder, który mu udostępnisz.

Właśnie tę granicę udało się jednak przełamać. Badacze z firmy Accomplish uruchomili nową sesję, udostępnili agentowi jeden folder i wysłali mu jedną krótką wiadomość. „Obserwowaliśmy, jak agent uciekł z sandboxa” – opisał jeden z nich, Oren Yomtov. Zamiast pozostać w wyznaczonej przestrzeni, rozprzestrzenił się na pliki na całym koncie.

Agent mógł uzyskać dostęp do wrażliwych danych

Gdy agent wydostał się z sandboxa, mógł czytać i nadpisywać pliki w dowolnym miejscu na koncie – nawet tam, gdzie zwykły program nie ma dostępu bez pozwolenia. Wśród rzeczy, które zdołał odczytać, były również klucze logowania i dane dostępu do usług chmurowych – czyli dokładnie te wrażliwe informacje, którymi potencjalny atakujący może wyrządzić największe szkody.

Nie tylko modele OpenAI wymknęły się spod kontroli. Claude Cowork mógł czytać pliki na Macu, do których nie powinien mieć dostępu Adam Kurfürst Zprávičky Adam Kurfürst Zprávičky

Według badaczy problem dotyczył około pół miliona osób, które uruchamiały Cowork bezpośrednio na swoim Macu. Należy dodać, że nie był to rzeczywisty atak z zewnątrz – była to kontrolowana demonstracja przeprowadzona przez ekspertów ds. bezpieczeństwa, którzy opisali i zgłosili lukę. Ryzyko było jednak całkowicie realne.

Jak zareagował Anthropic?

Według badaczy firma zamknęła zgłoszenie jako „informacyjne”, nie wydając bezpośredniej poprawki. Nowsze wersje Coworku domyślnie działają jednak w chmurze, a nie bezpośrednio na Twoim komputerze – co omija drogę ucieczki z Maca. Kto jednak świadomie włączy uruchamianie bezpośrednio na urządzeniu, według ekspertów nadal pozostaje narażony na ryzyko.

Za oboma przypadkami – ucieczką modeli OpenAI i tym błędem w Coworku – stoi ten sam schemat. Sztucznej inteligencji dajemy coraz więcej samodzielności i dostępu do naszych danych, ale mury, które mają ją utrzymać w ryzach, nie są jeszcze tak solidne, jak mogłoby się wydawać na pierwszy rzut oka.

Pozwolisz asystentowi AI na dostęp do plików bezpośrednio na Twoim komputerze?

Źródła: Accomplish, The Hacker News, TechRadar