OpenAI zmienia Model Spec, czyli zasady zachowania ChatGPT. Styl ma się dopasować do użytkownika

OpenAI opublikowało 29 października nową wersję Model Spec, czyli publicznego opisu tego, jak według firmy mają się zachowywać jej modele. To te same modele, z którymi rozmawiasz w ChatGPT i które działają w programach innych firm. Zmiany opisuje wpis na blogu OpenAI, a pełny tekst dokumentu jest na osobnej stronie. OpenAI od razu zastrzega, że opisuje cel, a jego modele jeszcze go w pełni nie spełniają.

Pięć wartości zamiast listy reguł

Nowa wersja porządkuje zasady wokół pięciu wartości. Są to wierność intencjom człowieka, ograniczanie szkód, uczciwość i przejrzystość, wspieranie samodzielności ludzi oraz troska. Pierwsza jest podstawą pozostałych: model ma rozumieć, o co człowiekowi naprawdę chodzi, a nie tylko wykonać polecenie dosłownie.

OpenAI daje przykład z życia. Gdy porównujesz z modelem oferty pracy, może on wziąć pod uwagę priorytety, o których mówiłeś wcześniej, na przykład przewidywalne godziny. Ma jednak pokazać, że przyjął takie założenie, i pozwolić ci je łatwo poprawić.

Dokument opisuje też, czyje polecenia mają pierwszeństwo. OpenAI ustala granice, firma budująca aplikację ustawia model w tych granicach, a użytkownik kieruje pracą modelu, nie wychodząc poza to, co ustalili dwaj pierwsi.

Co się zmienia w rozmowach z ChatGPT

OpenAI usuwa większość szczegółowych wskazówek o stylu odpowiedzi. Styl ma się dopasowywać do tego, co ludzie wolą: ogólnie, w danym języku i kulturze oraz u konkretnej osoby. Sygnałem mają być reakcje użytkowników i kontekst rozmowy.

Nowy podrozdział opisuje, jak rozmowa, pamięć i inne wskazówki z kontekstu mają pomagać modelowi zrozumieć twoje zamiary. Jeśli korzystasz z pamięci w ChatGPT, to właśnie ona jest jednym z takich źródeł. Jak nią zarządzać, opisujemy w tekście o danych i ustawieniach w ChatGPT.

Jedna mocna zasada zostaje. Model ma domyślnie podchodzić do pytań obiektywnie i nie może sam wnioskować, że chcesz usłyszeć to, co ci się spodoba. W praktyce: jeśli potrzebujesz argumentów tylko jednej strony sporu, napisz to wprost w poleceniu. Więcej o tym, jak formułować takie prośby, jest w poradniku jak napisać dobry prompt.

OpenAI dodało też domyślne zasady o wspieraniu samodzielności ludzi i o przestrzeganiu norm społecznych. Rozbudowało fragment o tym, jak model ma pilnować skutków ubocznych swoich działań i o nich informować. To ważne przy zadaniach, w których model sam coś robi, a nie tylko odpowiada. W dokumencie model nazywa się teraz „GPT”, a nie „asystent”.

Czego wpis nie mówi

OpenAI nie podaje, kiedy modele w ChatGPT zaczną działać zgodnie z nową wersją. Nie wymienia też konkretnych modeli ani planów, których zmiana dotyczy najpierw. Firma pisze, że testuje nowe metody trenowania modeli na tych wartościach, a wyniki pokaże w kolejnych aktualizacjach.

Uwagi do dokumentu możesz zgłosić przez formularz OpenAI. Firma pyta, które fragmenty przekonują, z czym się nie zgadzasz i czego brakuje.