ONZ zabiera się za standaryzację agentów AI - powstaje grupa FG-TIDA

Systemy sztucznej inteligencji przestają ograniczać się do udzielania odpowiedzi - coraz częściej samodzielnie podejmują działania w imieniu swoich użytkowników. W związku z tym Międzynarodowa Unia Telekomunikacyjna (ITU) postawiła sobie za cel opracowanie technicznych fundamentów, które umożliwią weryfikację, kto faktycznie odpowiada za danego agenta, jakie kompetencje mu przyznano oraz w jakim momencie człowiek powinien mieć możliwość przerwania jego działań.

ITU, funkcjonująca jako agencja Organizacji Narodów Zjednoczonych odpowiedzialna za technologie cyfrowe, utworzyła nową jednostkę roboczą - Focus Group on Trust and Identity for Humans and Agentic AI, znaną pod akronimem FG-TIDA. Jej celem jest zbudowanie ram odnoszących się do tożsamości cyfrowej, wiarygodności oraz odpowiedzialności systemów działających autonomicznie. Informację o powstaniu grupy podano 9 lipca w trakcie genewskiego szczytu AI for Good.

Agenci AI wkrótce będą negocjować, dokonywać transakcji i podejmować decyzje w naszym imieniu

Debora Comparin, współprzewodnicząca grupy fokusowej

Comparin podkreśliła również, że konieczne jest wypracowanie wspólnych, międzynarodowych podstaw, by można było jasno określić, kim właściwie są poszczególni agenci oraz w jaki sposób i w jakich okolicznościach można im przyznać zaufanie.

Kwestia ta zyskuje na znaczeniu, gdyż agenci AI mają już dostęp do zewnętrznych narzędzi, interfejsów API oraz wewnętrznych systemów firmowych. Realnie przekłada się to na zdolność do samodzielnego zatwierdzania zakupów, inicjowania transakcji płatniczych czy odpalania procesów biznesowych bez konieczności potwierdzania każdej czynności przez człowieka. ITU zwraca uwagę na zagrożenie związane z podszywaniem się pod konkretne osoby lub organizacje, a także na ryzyko działań przekraczających zakres przyznanych uprawnień.

Przed nową grupą stoi zadanie opracowania wspólnej terminologii, architektur tożsamości cyfrowej, sposobów wykrywania agentów AI oraz kryteriów oceny ich bezpieczeństwa, odporności na błędy i rozliczalności. Kluczowym elementem prac będzie także zarządzanie całym cyklem życia agenta - od nadania mu uprawnień, przez ich ograniczanie, aż po całkowite ich odebranie.

Na razie nie mamy do czynienia z gotowymi standardami czy formalnymi przepisami. FG-TIDA zajmuje się etapem poprzedzającym proces standaryzacji, jednak rezultaty jej działań mogą w przyszłości kształtować wymagania wobec dostawców agentów AI oraz przedsiębiorstw wykorzystujących ich w procesach biznesowych. Pierwsze posiedzenie grupy zaplanowano na listopad 2026 roku w Paryżu, a następne odbędzie się w styczniu 2027 roku w Genewie.

W miarę jak autonomia systemów AI będzie rosła, samo testowanie jakości modelu okaże się niewystarczające. Na równie istotne znaczenie zyska kontrola dostępu, dokumentowanie podjętych decyzji, precyzyjne określenie zasad odpowiedzialności oraz zapewnienie możliwości natychmiastowego przejęcia kontroli przez człowieka.