Google DeepMind i Singapur uczą Gemmę ostrzegać przed oszustem na czacie

Google DeepMind i singapurska agencja rządowa GovTech Singapore przedstawiły 14 października model Gemma dostrojony do wykrywania oszustw w rozmowach na czacie. Model działa w całości w telefonie, bez wysyłania wiadomości na serwer. Dotyczy to na razie mieszkańców Singapuru, którzy zainstalują aplikacje z tym modelem. Szczegóły DeepMind opisał na swoim blogu.

Dlaczego zaczęli od Singapuru

Według DeepMind oszustwa to ponad połowa przestępstw zgłaszanych w Singapurze, od wyłudzeń „na inwestycję” po fałszywe oferty pracy i podszywanie się pod urzędników. Od 2019 roku mieszkańcy stracili przez nie ponad 4 mld dolarów singapurskich. To ponad 12 mld zł po kursie NBP z 14 października (3,0456 zł, tabela 200/A/NBP/2026).

Firma pisze, że oszuści odeszli od prostego phishingu, czyli fałszywych linków. Dziś najpierw prowadzą z ofiarą przekonującą rozmowę, a dopiero potem proszą o pieniądze. Takie oszustwa odpowiadają za nawet 80 proc. strat.

Ogólne modele językowe słabo radzą sobie z lokalnymi sztuczkami, dlatego zespół douczył model na lokalnych rozmowach oszustów. Były wśród nich podszywanie się pod urzędy, banki i znane osoby oraz schematy modne akurat w regionie.

Jak działa ostrzeżenie

Model ma trafić do aplikacji, które instalują mieszkańcy. Gdy wykryje w rozmowie wzorzec manipulacji, od razu pokaże ostrzeżenie. Radzi w nim, żeby się zatrzymać, zanim wyślesz pieniądze albo poufne dane.

Żeby nie wyczerpać baterii, analiza ma dwa etapy:

1. Mały, oszczędny program przegląda przychodzące wiadomości i wyłapuje podejrzane.
2. Dostrojony model Gemma czyta większy fragment rozmowy i potwierdza zagrożenie albo uznaje je za fałszywy alarm.

Najważniejsza jest tu prywatność. Zwykłe systemy wykrywania zagrożeń skanują wiadomości w chmurze. Ten model czyta rozmowy tylko na urządzeniu i tylko za zgodą użytkownika, na zasadach danej aplikacji. Według DeepMind ani rząd Singapuru, ani Google nie mają przez ten model dostępu do rozmów. Firma przedstawia to jako sposób na ochronę w komunikatorach z szyfrowaniem end-to-end, w których serwer i tak nie widzi treści.

Na czym go uczono

Element	Co podaje DeepMind
Miejsce trenowania	wydzielone środowisko GovTech Singapore w chmurze Google
Dane	zanonimizowane zgłoszenia oszustw i dane wywiadowcze, bez danych osobowych
Testy	sztuczne dialogi i lokalne zbiory tekstów
Wdrożenie	stopniowe, w aplikacjach, we współpracy z rządem Singapuru

Czego nie wiadomo

DeepMind nie podaje, w których aplikacjach model się pojawi ani kiedy. Nie podaje też, jak często model się myli, ani której wersji Gemmy użyto. Firma pisze tylko, że rozważa podobne wdrożenia w innych krajach. O Polsce nie ma ani słowa.

Pomysł, żeby mały model AI pracował w telefonie bez internetu, opisywaliśmy już przy EmbeddingGemma 2, która przeszukuje zdjęcia i nagrania offline. Inną drogę wybrał ElevenLabs, który rozpoznaje, czy na infolinię dzwoni AI. DeepMind zapowiada, że wkrótce poda więcej o współpracy z Singapurem.