NVIDIA pokazuje system, który ma trzymać agentów AI na smyczy

Nowe ogłoszenie NVIDII zestawia dwa elementy: OpenShell, czyli izolowane środowisko do uruchamiania agentów, oraz mechanizm nadzoru pracujący na osobnym układzie scalonym. Rozwiązanie adresowane jest głównie do przedsiębiorstw, które wdrażają agentów operujących na plikach, zasobach sieciowych oraz usługach zewnętrznych. Firma zapewnia, że komponent Sentry jest w stanie odciąć i zablokować agenta w ciągu milisekund od momentu, gdy ten spróbuje wyjść poza wyznaczony zakres zadania lub przypisane mu uprawnienia.

OpenShell wyznacza ramy, Sentry pilnuje ich przestrzegania

Mechanizm działania opiera się na jasnym podziale ról. OpenShell umożliwia zdefiniowanie, do jakich plików, narzędzi, połączeń sieciowych czy zbiorów danych dany agent będzie miał dostęp. Za wymuszanie tych ograniczeń odpowiada samo środowisko uruchomieniowe, dzięki czemu zabezpieczenie funkcjonuje niezależnie od tego, czy model AI zdecyduje się respektować otrzymane polecenia. Z dokumentacji wynika ponadto, że system blokuje próby połączeń z niezaakceptowanymi adresami oraz ogranicza operacje odczytu i zapisu wyłącznie do wskazanych wcześniej lokalizacji.

Z kolei Sentry pełni funkcję warstwy nadzorczej, uruchomionej na układzie BlueField-4 - specjalistycznym procesorze przeznaczonym do przetwarzania danych. Komponent ten funkcjonuje poza środowiskiem, w którym pracuje agent, i ma za zadanie w sposób ciągły oceniać jego działania oraz egzekwować przyjęte reguły bezpieczeństwa. Odseparowanie tej warstwy od nadzorowanego agenta ma zapewniać skuteczność ochrony nawet wówczas, gdy samo środowisko wykonawcze agenta nie jest w pełni zaufane.

Nadzór nad agentami dostępny między innymi ze Slacka

Według danych podanych przez NVIDIĘ z technologiami tej platformy pracuje już ponad 100 organizacji, wśród nich Microsoft, Hugging Face, CrowdStrike oraz SAP. Jednym z przykładów wdrożenia jest integracja OpenShell ze Slackiem, zrealizowana we współpracy Salesforce i NVIDII. Dzięki niej zespoły mogą bezpośrednio z poziomu komunikatora śledzić aktywność agentów, przeglądać zdarzenia oraz akceptować lub odrzucać wnioski o przyznanie dodatkowych uprawnień. Wśród stu partnerów projektu zabrakło OpenAI, choć nie wiadomo, czy stan ten okaże się trwały - obecny jest za to Anthropic.

Kod OpenShell oraz towarzyszące mu komponenty programowe zostały udostępnione na GitHubie i w zasobach deweloperskich NVIDII. Platformą docelową dla OpenShell mają być procesory Vera, choć rozwiązanie da się dostosować także do architektur ARM oraz układów Intela. Sentry pozostaje na razie projektem referencyjnym opartym na BlueField-4. Organizacje zyskują więc narzędzie chroniące przed sytuacją, w której własny agent wymyka się spod kontroli i wyrządza szkody - firmie albo osobom trzecim. Nie jest to jednak rozwiązanie ani jedyne na rynku, ani pierwsze tego typu. Widać za to wyraźnie, że NVIDIA nie ogranicza się do zarabiania na sprzedaży ogromnych ilości układów, lecz stara się odpowiadać na realne problemy branży, trafnie wyczuwając potrzeby wynikające z coraz potężniejszych modeli trafiających do czołowych firm.