ChatGPT w UE zacznie oznaczać teksty niewidzialnym znakiem wodnym. Kopiowanie go nie usunie

Tekst z ChatGPT po wklejeniu do e-maila lub dokumentu może nadal zawierać maszynowo rozpoznawalny ślad swojego pochodzenia. OpenAI ogłosiło, że w Unii Europejskiej zacznie dodawać niewidzialny znak wodny do wybranych tekstowych odpowiedzi ChatGPT i Codexu. Nie chodzi o widoczny podpis pod odpowiedzią: znak jest zakodowany bezpośrednio w wyborze słów, dlatego samo skopiowanie go nie usunie.

ChatGPT w UE, API dla deweloperów dobrowolnie

Wdrażanie ma nastąpić w ciągu najbliższych tygodni i objąć wspieranych użytkowników ChatGPT i Codexu we wszystkich wariantach subskrypcji w UE. OpenAI reaguje w ten sposób na wymóg europejskiego AI Actu, aby generowany tekst był maszynowo identyfikowalny. Deweloperzy korzystający z API mogą włączyć oznaczanie dla wybranych modeli na całym świecie, ale domyślnie pozostaje ono wyłączone.

W porównaniu do Claude’a, wdrożenie jest więc terytorialnie węższe. Anthropic wybrał globalne wdrożenie i wyjaśnił to tym, że na razie nie ma długoterminowo niezawodnego sposobu na ograniczenie oznaczania według regionu. OpenAI natomiast pozostawia automatyczne oznaczanie przy uruchomieniu tylko w UE.

Zamiast podpisu statystyczny wzorzec w słowach

Technologia nazywa się textGrain i wprowadza niewidzialny sygnał statystyczny do wyboru słów. Raport techniczny opisuje użycie tajnego klucza podczas sortowania kandydatów na kolejne słowo. Poszczególne drobne interwencje w dłuższym tekście składają się na wzorzec, który detektor może rozpoznać tylko za pomocą tekstu i odpowiedniego klucza. Czytelnik nie zobaczy żadnego znaku.

OpenAI podaje, że w benchmarkach modelu Astra nie odnotowano znaczącej różnicy w wydajności z oznaczeniem i bez niego. Znak wodny jednocześnie nie zawiera powiązania z konkretnym użytkownikiem, kontem, zadaniem ani konwersacją. Detekcja może więc wskazać ślad systemu OpenAI, a nie ustalić, kto zlecił napisanie tekstu.

Krótkie odpowiedzi i przepisywanie komplikują detekcję

Skuteczność w dużej mierze zależy od długości i treści. W testach OpenAI, przy docelowym wskaźniku fałszywie pozytywnych wyników wynoszącym 1%, detektor wykrył znak wodny w około 80% fragmentów o długości 200 tokenów i w 95% fragmentów o długości 400 tokenów, na przykład z dziedziny psychologii. W przypadku matematyki wyniki były znacznie słabsze: poprawna odpowiedź daje modelowi mniejszą swobodę w wyborze słów.

Jeszcze bardziej obrazowy jest samodzielny test edycji tekstu. W przypadku fragmentów o długości 400 tokenów, zastąpienie 10% słów synonimami zmniejszyło skuteczność detekcji z około 92% do 66%. Przy wymianie 25% słów spadła ona do 17%. Są to wyniki pomiarów OpenAI, a nie uniwersalna skuteczność dla dowolnego dokumentu.

Publiczna kontrola tekstów na razie nie będzie dostępna

Wynik detekcji nie powie również, ile pracy włożył w tekst człowiek, do kogo tekst należy ani czy jego twierdzenia są prawdziwe. Nawet niewykryty znak wodny nie potwierdza ludzkiego autorstwa: przeszkodą może być krótki lub zmodyfikowany tekst, nieobsługiwany model lub użycie innej AI.

Właśnie z powodu przeoczonych znaków wodnych i fałszywych wyników OpenAI nie udostępni detektora publicznie przy uruchomieniu. O dostęp mogą ubiegać się zatwierdzeni badacze i organizacje eksperckie, poszczególne wnioski będą rozpatrywane przez firmę indywidualnie. Zwykły użytkownik na razie nie otrzyma publicznego narzędzia, do którego włoży tekst i zweryfikuje obecność znaku textGrain.

Czy skorzystałbyś z narzędzia do kontroli pochodzenia tekstu?

Źródła: anthropic.com, openai.com, techcrunch.com