GitHub znalazł agentem AI 24 luki w aplikacjach na Androida, w tym w OsmAnd i Wikipedii

Zespół bezpieczeństwa GitHuba opisał 28 września, jak jego agent AI znalazł 24 luki w aplikacjach na Androida. Wśród nich są błędy w popularnej nawigacji OsmAnd i w aplikacji Wikipedii na Androida. Dotyczy to zwykłych użytkowników telefonów, a także twórców aplikacji, bo agent jest otwarty i każdy może go uruchomić na własnym kodzie. Szczegóły są na blogu GitHuba.

Mapa, która zdradzała trasę

OsmAnd to nawigacja oparta na mapach OpenStreetMap, pobrana na Androidzie ponad 10 milionów razy. Agent znalazł w niej trzy luki. Najpoważniejsza pozwalała dowolnej innej aplikacji w telefonie po cichu podmienić ustawienia OsmAnd. Taka aplikacja nie potrzebowała żadnych uprawnień.

Po podmianie ustawień OsmAnd pobierał kafelki mapy z serwera atakującego. Każdy kafelek zdradzał, jaki fragment mapy oglądasz, więc atakujący widział twoje położenie. Tą samą drogą trafiały do niego punkt startu i cel każdej wyznaczonej trasy. Użytkownik niczego nie zauważał.

Wikipedia i przejęcie konta

W aplikacji Wikipedii agent znalazł błąd w sprawdzaniu adresów. Aplikacja uznawała za swoją każdą stronę, której adres kończy się na „wikipedia.org”. Wystarczyła więc domena w rodzaju evil-wikipedia.org. Ofiara klikała link w przeglądarce, aplikacja Wikipedii otwierała się sama i ładowała fałszywą stronę. Drugi, podobny błąd sprawiał, że aplikacja wysyłała tej stronie ciasteczka logowania. Atakujący przejmował w ten sposób konto we wszystkich projektach Wikimedia, od Wikipedii po Wikidane.

GitHub pisze, że oba przypadki zostały już ujawnione. Wpis nie podaje, w których wersjach aplikacji błędy poprawiono. Jeśli używasz OsmAnd albo Wikipedii na Androidzie, zainstaluj najnowsze wersje ze sklepu.

Czego AI nie umie ocenić

Autor wpisu, Kevin Stubbings, dzieli się też uwagami, które przydadzą się każdemu, kto sprawdza kod z pomocą AI. Model dobrze znajduje błędy, ale źle ocenia ich wagę. Zgłaszał drobiazgi nawet wtedy, gdy wprost prosiło się go, żeby tego nie robił. Wskazywał też luki, które w praktyce nie istnieją, bo nie widział wszystkich zależności w aplikacji. Dlatego według autora każde zgłoszenie powinien sprawdzić człowiek, który zna bezpieczeństwo aplikacji mobilnych. Pomaga też polecenie, żeby model przygotował działający przykład ataku.

Wiele z 24 znalezisk to proste błędy. Krytycznych luk była garstka, a najciekawsze z nich GitHub opisał we wpisie. O tym, że AI pomaga obrońcom szukać luk, pisaliśmy też przy programie OpenAI dla Ukrainy, w którym CERT Polska znalazł błędy w routerach. Te same umiejętności bywają groźne, co pokazuje incydent modelu OpenAI w australijskich urzędach.

Kto może to uruchomić

Narzędzie nazywa się GitHub Security Lab Taskflow Agent i ma otwarty kod. Do uruchomienia potrzebna jest licencja GitHub Copilot. Agent zużywa przy tym zapytania premium, a pełny przegląd średniego projektu trwa według GitHuba godzinę albo dwie. Nowe znaleziska zespół publikuje na stronie securitylab.github.com/ai-agents.