ChatGPT sam zakończy rozmowę, gdy ktoś wraca do przemocy. Nastolatki dostaną mniej informacji o broni

OpenAI ogłosił 30 października, że ChatGPT będzie mógł sam zakończyć rozmowę, gdy ktoś obsesyjnie wraca do tematu przemocy wobec innych ludzi. Jeśli zdarzy się to na jednym koncie kilka razy, OpenAI może je czasowo zawiesić. Zmiany dotyczą wszystkich użytkowników ChatGPT, a osobne ograniczenia dostają osoby poniżej 18 lat. Firma opisała je w komunikacie o bezpieczeństwie i ochronie nastolatków.

Nowe zabezpieczenia mają się pojawiać w ciągu najbliższych tygodni. OpenAI nie podaje, czy w Polsce i Unii Europejskiej wejdą w tym samym czasie co w USA.

Co się zmieni dla dorosłych

Pierwsza zmiana dotyczy pytań o dawne masowe ataki i ich sprawców. ChatGPT dalej pomoże zrozumieć, co się stało i jak wpłynęło to na ofiary, a także nauczy rozpoznawać sygnały ostrzegawcze i zapobiegać przemocy. Nie będzie za to szczegółowo odtwarzał przebiegu ataku, opisywał użytej broni ani tego, skąd sprawca ją miał. Te ograniczenia obowiązują niezależnie od wieku i powodu pytania, także gdy informacje są dostępne gdzie indziej w sieci.

Druga zmiana dotyczy pamięci rozmów. ChatGPT bierze już pod uwagę krótkie podsumowania wcześniejszych sygnałów ostrzegawczych. Teraz, gdy niedawne rozmowy wskazują na możliwą przemoc, model ma ostrożniej podawać informacje, które dałoby się wykorzystać do zrobienia komuś krzywdy.

Trzecia zmiana to wspomniane kończenie rozmów. OpenAI nie opisuje, co zobaczy użytkownik, gdy ChatGPT przerwie czat, ani na jak długo konto może zostać zawieszone.

Nastolatki i rodzice

Konta, które OpenAI uznaje za należące do osób poniżej 18 lat, dostaną mniej praktycznych informacji o broni i systemach zabezpieczeń. Dotyczy to także pytań, w których nie widać złych zamiarów. Nastolatek dalej może prosić ChatGPT o pomoc w uspokojeniu konfliktu albo w znalezieniu zaufanego dorosłego.

OpenAI rozpoznaje wiek na podstawie zachowania użytkownika i innych sygnałów. Firma wzmocniła ten system tak, żeby oceniał nowe sygnały na bieżąco, w trakcie korzystania z ChatGPT. Jeśli jesteś dorosły, a ChatGPT potraktował cię jak nastolatka, możesz potwierdzić wiek przez firmę Persona, która weryfikuje wiek dla OpenAI. Po potwierdzeniu dodatkowe ograniczenia znikają.

Rodzice, którzy połączyli swoje konto z kontem dziecka, od lipca dostają powiadomienie, gdy OpenAI dezaktywuje konto nastolatka za łamanie zasad dotyczących przemocy. Firma pracuje nad powiadomieniem także przy czasowym zawieszeniu konta. Jak działa wersja ChatGPT dla młodszych, opisaliśmy przy nowych funkcjach do nauki dla nastolatków.

Raport co pół roku

OpenAI zapowiada, że zacznie publikować raport o przemocy i skuteczności swoich zabezpieczeń, z anonimowymi przykładami i danymi.

Co	Według OpenAI
Zgłoszenia do organów ścigania w III kwartale 2026	ponad 200
Pierwszy raport	początek 2027, za drugą połowę 2026
Kolejne raporty	co sześć miesięcy

Komunikat nie podaje, w ilu krajach były te zgłoszenia ani ile kont firma zablokowała. Zasady, według których modele OpenAI mają się zachowywać, firma zmieniła też dzień wcześniej w nowej wersji Model Spec.