ChatGPT w Unii doda niewidoczny znak wodny do tekstów. Detektor dostaną tylko badacze

OpenAI ogłosił 5 października, że w najbliższych tygodniach doda niewidoczny znak wodny do tekstów, które piszą ChatGPT i Codex w Unii Europejskiej. Zmiana obejmie użytkowników wszystkich planów, także darmowego, więc dotyczy każdego, kto korzysta z ChatGPT w Polsce. Poza Unią firma na start znaku w aplikacjach nie włącza. Plan opisała w komunikacie na swoim blogu.

Powodem jest AI Act. Unijne przepisy wymagają od dostawców generatywnej AI, żeby wygenerowany tekst dało się rozpoznać maszynowo. OpenAI pisze wprost, że technika znakowania tekstu jest wczesna i ma poważne ograniczenia.

Jak działa znak w tekście

Technika OpenAI nazywa się textGrain. Model dobiera słowa tak, że zostaje w nich statystyczny ślad, niewidoczny dla człowieka. Na oko tekst niczym się nie różni. Osobny program, detektor, szuka tego śladu i na tej podstawie ocenia, czy dany fragment pochodzi z modelu OpenAI.

OpenAI twierdzi, że textGrain wypadł w jego testach co najmniej tak dobrze jak inne metody, w tym SynthID od Google. To deklaracja producenta. Firma opublikowała też wyniki testów na swoim najnowszym modelu GPT-6 Astra: według firmy wyniki w ośmiu testach są ze znakiem i bez niego niemal takie same.

Kiedy detektor się myli

Tokeny to kawałki słów, którymi liczy model. Przy krótkich tekstach detektor wypada gorzej, a edycja szybko zaciera znak. Tak wyglądają wyniki OpenAI; dwa pierwsze wiersze firma podaje przy ustawieniu, w którym detektor myli się na 1 proc. tekstów bez znaku:

Test	Wykryty znak
200 tokenów, odpowiedzi z psychologii	ok. 80 proc.
400 tokenów, odpowiedzi z psychologii	ok. 95 proc.
400 tokenów, bez zmian	ok. 92 proc.
400 tokenów, 10 proc. słów zamienionych na synonimy	66 proc.
400 tokenów, 25 proc. słów zamienionych na synonimy	17 proc.

W tekstach z matematyki wykrywalność była wyraźnie niższa, bo model ma tam mniej swobody w doborze słów. Testy edycji OpenAI zrobił na odpowiedziach po angielsku. Firma nie podaje wyników dla polskiego ani dla tłumaczeń, choć sama zaznacza, że tłumaczenie może uniemożliwić wykrycie.

Kto sprawdzi, czy tekst jest z ChatGPT

Na razie nie nauczyciel ani pracodawca. Detektor nie będzie publiczny. Od 5 października mogą o niego wnioskować zatwierdzeni badacze i organizacje eksperckie, a OpenAI rozpatruje każde zgłoszenie osobno. Detektor odpowiada tylko, czy widzi znak OpenAI. Nie wskazuje osoby ani konta i nie pokazuje treści rozmowy.

OpenAI wylicza też, czego znak nie mówi. Nie mierzy, ile pracy włożył człowiek, nie przesądza, kto jest właścicielem tekstu, i nie sprawdza, czy tekst jest prawdziwy. Brak znaku nie dowodzi, że tekst napisał człowiek: mógł być za krótki, poprawiony, przetłumaczony albo napisany modelem innej firmy.

Jeśli piszesz z ChatGPT maile albo raporty, nic nie musisz zmieniać. Komunikat nie mówi, czy znak da się wyłączyć w ustawieniach ani które odpowiedzi OpenAI uzna za objęte zmianą.

Firmy i API

Klienci API na całym świecie mogą od 5 października sami włączyć znak wodny dla wybranych modeli. Domyślnie pozostaje wyłączony. OpenAI zapowiada, że w ciągu kilku tygodni znak będzie dostępny także dla modeli OpenAI w chmurach partnerów. Narzędzia do sprawdzania obrazów i nagrań audio, w tym strona openai.com/verify, zostają publiczne.