OpenAI i NASK będą razem badać bezpieczeństwo AI. Co obejmuje porozumienie

OpenAI i NASK podpisały 23 października porozumienie o współpracy przy badaniach nad bezpieczeństwem sztucznej inteligencji. Po stronie polskiej pracować będzie działający w NASK ośrodek badań nad bezpieczeństwem AI, który działa jako polski instytut bezpieczeństwa AI. Jeśli używasz ChatGPT, nic się dla ciebie od dziś nie zmienia: porozumienie dotyczy badań, a nie aplikacji. Szczegóły OpenAI opisało w komunikacie na swoim blogu.

Co mają robić razem

Według OpenAI obie strony mają szukać sposobów oceniania coraz mocniejszych modeli AI, wykrywać w nich słabe punkty i wzmacniać zabezpieczenia. W praktyce chodzi o to, żeby ktoś spoza firmy sprawdzał model, zanim jego słabość wykorzystają oszuści albo przestępcy.

Dyrektor NASK Radosław Nielek wymienia w komunikacie obszary, którymi ośrodek już się zajmuje. To zabezpieczenia przed nowymi zagrożeniami, wykrywanie treści wygenerowanych przez AI, złośliwe użycie modeli i to, jak te problemy wyglądają w różnych językach. Ostatni punkt jest dla polskich użytkowników najciekawszy. Komunikat nie mówi jednak, czy modele OpenAI będą testowane właśnie po polsku.

OpenAI ma podobne umowy z amerykańskim CAISSI i brytyjskim AI Security Institute. Firma pisze, że ta współpraca pomogła już znaleźć i naprawić luki w agentach AI, czyli programach, które same wykonują zadania na komputerze.

Czego porozumienie jeszcze nie przesądza

OpenAI pisze, że strony umówiły się, by zbadać możliwości współpracy. To ostrożniejsze sformułowanie niż wspólny projekt z terminem. Komunikat nie podaje kwoty, czasu trwania porozumienia ani tego, czy NASK dostanie nowe modele do testów przed ich premierą. Nie wymienia też pierwszych tematów badań.

Tom Duff Gordon, który w OpenAI odpowiada za politykę w Europie, na Bliskim Wschodzie i w Afryce, mówi w komunikacie o sprawdzaniu systemów firmy przez zewnętrznych ekspertów. OpenAI łączy tę umowę ze swoim apelem o wspólne międzynarodowe zasady testowania najmocniejszych modeli.

Co było wcześniej

Porozumienie nie jest pierwszym kontaktem OpenAI z NASK. W lipcu CERT Polska, zespół reagowania na incydenty działający w NASK, dostał dostęp do modeli OpenAI do zadań z cyberbezpieczeństwa w programie Daybreak. Według OpenAI zespół znalazł z ich pomocą sześć luk w oprogramowaniu routerów MikroTik. Część z nich dało się połączyć tak, żeby przejąć urządzenie bez logowania. Wcześniej opisaliśmy, jak OpenAI daje Ukrainie AI do szukania luk w systemach.

Producent wydał poprawki. CERT Polska potwierdził, że blokują one ataki, które zespół wcześniej zaobserwował. Jeśli masz w domu albo w firmie router MikroTik, sprawdź, czy ma najnowsze oprogramowanie. Zasady, jak OpenAI obchodzi się z danymi użytkowników, opisaliśmy w tekście czy ChatGPT jest bezpieczny.