Claude Managed Agents i NVIDIA OpenShell pilnują agentów AI. Agent nie widzi haseł firmy

Anthropic i NVIDIA połączyły dwa narzędzia, które pilnują agentów AI w firmach. Anthropic ogłosił 28 września, że jego usługa Claude Managed Agents działa razem z otwartym programem NVIDIA OpenShell. Zmiana dotyczy firm, które budują własnych agentów na Claudzie i dają im dostęp do firmowych systemów i danych. Szczegóły Anthropic opisał we wpisie na blogu Claude.

Agent AI to program, który sam wykonuje zadania krok po kroku, a nie tylko odpowiada na pytania. Im więcej dostępów dostaje, tym więcej może zepsuć. Anthropic pisze wprost, że firma, która daje agentowi szerszy dostęp, musi go dokładniej kontrolować i sprawdzać.

Agent nie widzi haseł

Claude Managed Agents to zestaw usług Anthropic do uruchamiania agentów w firmach. Agent pracuje w odizolowanym środowisku, czyli piaskownicy. Hasła i klucze dostępu leżą w osobnym sejfie, więc agent ich nie widzi. Usługa zapisuje też, co każdy agent zrobił, i łączy się z systemem uprawnień, który firma już ma.

W praktyce oznacza to, że nawet agent oszukany przez złośliwą instrukcję nie ma czego ujawnić. Hasła trzyma sejf, a nie model.

OpenShell blokuje wszystko, czego nie pozwolisz

NVIDIA OpenShell to otwarty program, który ustala, do czego agent może sięgnąć. Domyślnie blokuje wszystko. Agent korzysta tylko z tych plików, połączeń sieciowych i danych, na które pozwala reguła. OpenShell sprawdza każde narzędzie, którego agent chce użyć, i zapisuje każdą decyzję: co przepuścił, a co zablokował.

Anthropic proponuje taki sposób pracy:

1. Zacznij od wąskich uprawnień dla agenta.
2. Przejrzyj zapis tego, co OpenShell przepuścił i zablokował.
3. Poproś Claude'a o pomoc w zawężeniu reguł do minimum, którego wymaga zadanie.
4. Uruchom narzędzie OpenShell, które matematycznym dowodem potwierdza, do czego agent ma dostęp przy tych regułach.

Reguły działają poza agentem, a nie w nim. Anthropic podkreśla, że każda warstwa ochrony działa niezależnie od pozostałych, więc bezpieczeństwo nie zależy od jednego zabezpieczenia, a firma może wybrać tylko te warstwy, które pasują do jej systemów.

Kto już tego używa i ile to kosztuje

Anthropic wymienia trzy firmy, które budują na Managed Agents. Notion pozwala zespołom oddać pracę Claude'owi w swoim obszarze roboczym. Rakuten uruchomił agentów w inżynierii, sprzedaży, marketingu i finansach. Asana zbudowała AI Teammates, o których pisaliśmy w tekście o tym, jak Asana daje agentom AI role jak pracownikom. Wpis nie mówi, czy te firmy używają też OpenShell.

Managed Agents działa już teraz. Firma może uruchomić piaskownicę na własnych serwerach albo u zewnętrznego dostawcy. OpenShell jest otwarty, na licencji Apache 2.0, do pobrania z serwisu GitHub i ze strony NVIDIA dla programistów. Wpis nie podaje cen Managed Agents. Nie mówi też nic o dostępności w Polsce ani w Unii Europejskiej. Jeśli płacisz za Claude'a w aplikacji, ta zmiana cię nie dotyczy, bo chodzi o agentów budowanych przez firmy. Inny sposób, w jaki Anthropic korzysta z własnych agentów, opisaliśmy w tekście o tym, jak Anthropic sprzedaje Claude'a z pomocą agenta AI.