Anthropic przed wyborami w USA pokazuje, gdzie Claude nie jest bezstronny

Anthropic opisał 14 października, jak ludzie rozmawiają z Claude'em o polityce i jak firma pilnuje go przed tegorocznymi wyborami połówkowymi w USA. Najciekawsze są liczby z analizy 250 tysięcy rozmów i przyznanie, gdzie model wciąż nie jest bezstronny. Nowe funkcje wyborcze dotyczą tylko użytkowników w USA. Filtry przeciw nadużyciom firma testowała też w Izraelu i Brazylii. Całość jest na blogu Anthropic.

O co ludzie pytają Claude'a

Anthropic przejrzał losową próbkę rozmów z aplikacji Claude.ai w USA, z tygodnia od 21 do 27 września. Analiza była automatyczna, a firma pisze, że chroniła prywatność rozmówców. O tym, na kogo głosować, pytano bardzo rzadko.

Rodzaj rozmowy	Udział w rozmowach w USA
polityka, sprawy publiczne, kwestie społeczne	ok. 5,75 proc.
wybory i głosowanie	ok. 0,51 proc.
prośba o wskazanie, na kogo albo za czym głosować	ok. 0,01 proc.
prośby łamiące zasady uczciwości wyborów	ok. 0,002 proc. (osobna próbka)

Ludzie częściej proszą o to, co pomaga im wyrobić sobie własne zdanie. Pytają na przykład, co kandydat sądzi o danej sprawie, albo każą zważyć argumenty za danym pomysłem politycznym i przeciw niemu.

Gdzie Claude nie trzyma równowagi

Firma podaje, że Claude Opus 5.5, Sonnet 5.5 i Haiku 5.5 mają 99 proc. w jej własnym teście bezstronności politycznej. To wynik z testu producenta. Ciekawsze jest to, co znaleźli trzej niezależni badacze, których Anthropic poprosił o ocenę.

The Future of Free Speech i Collective Intelligence Project ustaliły, że Claude rzadko odmawia. Za to czasem dopisuje zastrzeżenia i kontrargumenty, o które nikt nie prosił. Przykład z wpisu: wstawia przeciwny pogląd do maila, który miał przekonywać do jednej racji. Foundation for American Innovation sprawdziła starszy model Claude Sonnet 4.5 na parach podobnych próśb z lewa i z prawa. Model częściej łagodził argumenty za poglądami prawicowymi.

Anthropic pisze, że poprawił odpowiedzi na pytania „tak czy nie” i na prośby o krótką odpowiedź, bo tam równowaga była najsłabsza. Pracuje też nad tym, kiedy Claude dopisuje kontrargumenty. Jeśli dostajesz od niego listę „za i przeciw” do tekstu, który miał być jednostronny, to znany problem.

Kampania rozbita na drobne zadania

Instytuty ISD i McCaina testowały zabezpieczenia w USA, Izraelu i Brazylii. Claude odmawiał pojedynczej szkodliwej prośbie. Przeoczał jednak kampanię dezinformacji rozbitą na wiele niewinnych zadań, takich jak badanie odbiorców, budowa serwisu informacyjnego i pisanie treści.

Anthropic dodał więc nowe automatyczne filtry. Mają wyłapywać nadużycia złożone z wielu kroków, w tym zakładanie fałszywych kont i serwisów informacyjnych do dyskusji o polityce. Firma opisuje dwa zablokowane przypadki. W pierwszym operatorzy spoza USA prowadzili serwis z fałszywymi newsami o wyborach, przychylny narracjom Rosji, Iranu i Korei Północnej. W drugim ktoś zmyślał newsy dla zysku z reklam. Konta zablokowano. O operacjach wpływu, z których fałszywka trafiła też do polskich mediów, pisaliśmy przy raporcie OpenAI o rosyjskiej i irańskiej dezinformacji.

Co z tego jest dla użytkowników w Polsce

Dwie nowe funkcje są tylko dla USA. Jeszcze w październiku Claude zacznie podawać, gdzie głosować i jaki dokument zabrać, na podstawie danych organizacji Democracy Works. W noc wyborczą pokaże aktualne oficjalne wyniki.

Zasady obowiązują wszystkich. Regulamin zabrania używania Claude'a do wprowadzania wyborców w błąd i zakłócania wyborów. Jego nową wersję opisaliśmy w tekście o tym, jak Anthropic zmienia zasady korzystania z Claude'a. Wpis nie wspomina o Polsce. Firma zapowiada, że w najbliższych miesiącach pokaże pełniejszą analizę tego, jak ludzie korzystali z Claude'a w czasie kampanii.