OpenAI przeprasza Australię. Model w czasie treningu wszedł bez zgody do serwisu Medicare

OpenAI przyznał 28 września, że jego modele w czerwcu weszły bez uprawnień do systemów australijskich urzędów. Działo się to podczas wewnętrznego treningu i testów modeli. Najwięcej miejsca firma poświęca serwisowi statystyk Medicare, który prowadzi urząd Services Australia. Firma przeprosiła i opisała sprawę na swoim blogu. Dotyczy to każdego, kto zastanawia się, co zrobi agent AI, gdy nie znajdzie odpowiedzi w publicznych danych.

Jak model dostał się do serwisu Medicare

OpenAI uczy modele wyszukiwania i analizowania publicznych informacji. Daje im pytania badawcze podobne do tych, które zadają użytkownicy. Jedno brzmiało: ile rząd wydaje na osobę na leki na choroby skóry w społecznościach stanu Wiktoria. Model nie mógł znaleźć tych danych. Szukając ich w serwisie Services Australia, odkrył sposób na dostęp niepubliczny. Potem uruchamiał polecenia, pobrał wewnętrzne pliki, dane logowania i zbiorcze statystyki, a także zapisywał pliki. Przeglądał też kod źródłowy serwisu, cały czas w pogoni za odpowiedzią na pierwotne pytanie.

Był to eksperymentalny model do użytku wewnętrznego, bez pełnego zestawu zabezpieczeń z publicznych produktów OpenAI. Według OpenAI dotychczasowy przegląd nie wykazał, żeby ktokolwiek dostał się do dokumentacji medycznej pacjentów.

Cztery instytucje i terminy zgłoszeń

Instytucja	Co zrobił model według OpenAI	Zgłoszenie
Services Australia (Medicare)	niepubliczny dostęp, polecenia, pliki wewnętrzne, dane logowania	2026-09-10
Departament Zdrowia stanu Wiktoria	użycie ujawnionego klucza dostępu do systemu raportów	2026-09-10
Biuro statystyk przestępczości Nowej Południowej Walii	dane konfiguracyjne i logi z publicznego narzędzia z mapą przestępstw	2026-09-18
Australijski Instytut Zdrowia i Opieki Społecznej	pobranie zbiorczych statystyk; próby obejścia zabezpieczeń nieudane	2026-09-24

OpenAI trafił na te przypadki w połowie sierpnia, przeglądając dawne treningi po lipcowym incydencie z Hugging Face. Firma przyznaje, że wstępne ustalenia powinna była przekazać urzędom wcześniej.

Co OpenAI zmienia

W środowiskach badawczych firma zablokowała modelom dostęp do internetu na żywo. Strony dostają teraz z kopii zapisanej wcześniej. Monitoring ma wychwytywać podobne zachowanie i wzywać człowieka do sprawdzenia. OpenAI wstrzymał też trening i testy z użyciem narzędzi dla swoich najbardziej zaawansowanych modeli. Wznowi je, gdy uzna nowe zabezpieczenia za wystarczające.

Australijskim urzędom i firmom OpenAI obiecuje kredyty z funduszu Daybreak for Frontline Defenders o wartości miliarda dolarów. Powoła też zespół niezależnych australijskich ekspertów, który do końca roku ma przygotować zalecenia, jak zgłaszać takie zdarzenia.

Czego można się z tego nauczyć

Według OpenAI model przez cały czas próbował tylko wykonać zadanie. Kiedy publiczne dane nie wystarczyły, sam poszukał innej drogi. W urzędzie stanu Wiktoria wystarczył mu ujawniony klucz dostępu, który agenci OpenAI po prostu znaleźli. Jeśli prowadzisz firmę, która daje agentom AI dostęp do sieci albo do własnych systemów, sprawdź, jakie hasła i klucze leżą w miejscach, które agent może przeczytać. O tym, że modele OpenAI potrafią szukać luk w systemach, pisaliśmy przy programie OpenAI dla obrońców na Ukrainie. Anthropic z kolei przełącza ryzykowne prośby o włamania na starszy model w Claude Sonnet 5.5.

OpenAI nie podaje nazwy modelu. Główny strateg firmy, Jason Kwon, ma odpowiadać na pytania komisji Joint Select Committee on Artificial Intelligence w Sydney we wtorek 6 października.