Claude nie jest prywatnym pamiętnikiem. Anthropic przekazał policji groźbę z konwersacji

Konwersację z Claudem postrzegała jako swój „pamiętnik”. Groźba, którą w nim napisała, dotarła jednak przez ludzkich kontrolerów Anthropic aż do policji. Kobieta z hrabstwa Lee na Florydzie jest teraz oskarżona o pisemną lub elektroniczną groźbę masowej strzelaniny lub aktu terrorystycznego, informuje Tom’s Hardware. Sprawa pokazuje konkretną granicę prywatności podczas rozmowy z AI: treść czatu może czytać ktoś inny niż jego autor.

Od wiadomości chatbota do kontroli ludzkiej

Według raportu policyjnego, który opisuje artykuł, użytkowniczka oznaczona jako Carli groziła ostrzelaniem biura szeryfa hrabstwa Lee. Następnego dnia miała wspomnieć w konwersacji o nowej broni. Policja zatrzymała ją następnie w domu bez incydentu.

Opisana procedura ma krok pośredni, który nie jest widoczny podczas zwykłego pisania z chatbotem. Raport policyjny podaje, że Anthropic monitoruje w czatach kluczowe frazy i potencjalnie groźne treści. W zależności od powagi, konwersacja może trafić do oceny ludzkiej. To właśnie ten zespół w danym przypadku zdecydował o przekazaniu ustaleń policji.

Co dopuszczają zasady ochrony prywatności

Anthropic nie skomentował samej sprawy, jak podaje artykuł. Jego publiczne zasady ochrony prywatności przewidują jednak przekazanie danych organom ścigania: firma może to zrobić, jeśli w dobrej wierze uzna, że jest to rozsądnie konieczne do zapobieżenia poważnym szkodom dla osoby lub mienia.

Ciekawy szczegół kryje się w statystykach. Raport Anthropic dotyczący wniosków rządowych za drugą połowę 2025 roku podaje zero pilnych wniosków od policji. Własne zgłoszenia firmy nie są jednak wliczane do tej kategorii. Zerowa liczba nie informuje zatem o tym, ile razy Anthropic sam powiadomił policję o niebezpiecznych treściach.

Dla korzystania z AI jako osobistego pamiętnika wynika z tego istotna różnica w porównaniu z wyobrażeniem zamkniętej rozmowy. Poufny ton odpowiedzi nie jest gwarancją, że treść pozostanie tylko między użytkownikiem a chatbotem.

Powiadomienie policji nie musi zakończyć się oskarżeniem

Tom’s Hardware przypomina również sierpniowy przypadek z San Francisco. Użytkownik w czacie z Claudem groził szefowi Anthropic, Dario Amodei, i twierdził, że kupił karabin AR-15. Firma skontaktowała się z policją, ale użytkownik ostatecznie nie został aresztowany ani oskarżony. Samo przekazanie konwersacji nie przesądza więc o wyniku sprawy.

W sprawie z Florydy na razie chodzi o oskarżenie, a nie o decyzję o winie. Dalsze szczegóły może przynieść rozprawa sądowa zaplanowana na 2 listopada.

Czy postrzegasz rozmowę z AI jako prywatny pamiętnik, czy jako komunikację z usługą online?

Źródła: tomshardware.com