Szef Microsoftu: pralka przechodzi więcej testów bezpieczeństwa niż systemy AI

Zanim pralka pojawi się na sklepowej półce, musi przejść serię obowiązkowych testów bezpieczeństwa. Tego samego nie można powiedzieć o systemach sztucznej inteligencji zdolnych samodzielnie realizować zadania i sięgać po firmowe dane — twierdzi Brad Smith, prezes Microsoftu, wskazując na brak spójnego, globalnego nadzoru nad tą technologią.

W rozmowie z BBC szef Microsoftu wezwał do wprowadzenia nowych regulacji. Domaga się niezależnego testowania modeli AI, prawnego obowiązku zgłaszania niebezpiecznych zdarzeń oraz narzędzi umożliwiających zatrzymanie systemu, zanim wyrządzi realną szkodę. Podkreśla, że poleganie wyłącznie na deklaracjach producentów to za mało.

Mleko i pralka mają normy, AI wciąż czeka na wspólne zasady

Podczas rozmowy z BBC Brad Smith, prezes i wiceprzewodniczący zarządu Microsoftu, sięgnął po obrazowe porównanie. Zauważył, że pralka musi dziś spełniać więcej wymogów bezpieczeństwa niż systemy sztucznej inteligencji.

Podał też przykład kartonu mleka — zanim trafi na półkę sklepową, musi przejść odpowiednie kontrole i spełnić określone normy. Dla najbardziej zaawansowanych modeli AI wciąż brakuje jednak jednolitych, ogólnoświatowych standardów weryfikacji bezpieczeństwa.

Smith nie twierdzi, że AI jest dosłownie bardziej niebezpieczna niż sprzęt AGD ani że działa poza wszelkim prawem. Chodzi mu raczej o różnicę w filozofii kontrolowania nowych produktów.

Urządzenia elektryczne muszą spełniać ściśle określone normy techniczne, a ich brak może zablokować wejście produktu na rynek. Nowe modele AI trafiają tymczasem do milionów odbiorców, zanim niezależni specjaliści zdążą dokładnie przeanalizować ich najbardziej zaawansowane funkcje. Zdaniem prezesa Microsoftu taka sytuacja będzie coraz trudniejsza do obrony, bo AI przestaje pełnić jedynie funkcję narzędzia odpowiadającego na pytania.

Microsoft proponuje awaryjny wyłącznik dla sztucznej inteligencji

Pierwszy z postulowanych mechanizmów przypomina bezpiecznik znany z maszyn przemysłowych. Smith uważa, że zaawansowane systemy AI powinny dysponować zabezpieczeniami pozwalającymi natychmiast przerwać lub ograniczyć ich działanie, jeśli zaczną zachowywać się w sposób niepożądany.

W branży technologicznej takie rozwiązanie bywa nazywane kill switchem. Nie chodzi jednak o jeden przycisk wyłączający wszystkie modele AI naraz, lecz o mechanizmy dające operatorom możliwość zatrzymania konkretnego systemu, konkretnego zadania albo dostępu do określonych narzędzi.

W przypadku agentów AI — programów, które nie ograniczają się do generowania tekstu — ma to kluczowe znaczenie. Takie systemy mogą samodzielnie przeglądać strony internetowe, uruchamiać kod, korzystać z baz danych i podejmować kolejne działania bez konieczności potwierdzania ich przez człowieka.

Drugim postulatem jest wprowadzenie prawnego obowiązku zgłaszania poważnych incydentów. Firmy musiałyby dokumentować przypadki niebezpiecznych zachowań swoich systemów, zamiast samodzielnie decydować, co warto ujawnić opinii publicznej.

Smith chce również, by osoby i instytucje poszkodowane działaniami agentów AI były o tym informowane — na przykład w sytuacji, gdy autonomiczny program uzyska nieautoryzowany dostęp do cudzego systemu informatycznego.

Skala problemu z agentami AI jest poważna

Rosnące zainteresowanie takimi zabezpieczeniami nie bierze się znikąd. Najnowsze systemy AI potrafią wykonywać polecenia składające się z wielu etapów, a niekiedy znajdują sposoby działania, których ich twórcy w ogóle nie przewidzieli.

We wrześniu opisywaliśmy przypadek agentów AI OpenAI, których działania wobec platformy Hugging Face wykryli badacze bezpieczeństwa. Z ich analizy wynikało, że programy próbowały obchodzić ograniczenia środowiska testowego, tworzyć dodatkowe narzędzia oraz łączyć się z zewnętrznymi usługami.

Nie wszystkie próby zakończyły się sukcesem i sam incydent nie oznaczał przejęcia kontroli nad internetem przez sztuczną inteligencję. Uwidocznił jednak, jak trudno przewidzieć zachowanie autonomicznego oprogramowania zdolnego do samodzielnego wykonywania kolejnych czynności.

Smith zwraca uwagę, że nawet największe laboratoria AI zaczęły publicznie ujawniać przykłady niepożądanych zachowań swoich systemów. Problem w tym, że takie ujawnienia nie wszędzie są wymagane prawem, a zakres przekazywanych informacji zależy w praktyce od decyzji samego producenta.

Na Spider's Web informowaliśmy niedawno, że najwięksi twórcy AI już teraz szykują się na scenariusze poważnego kryzysu związanego z tą technologią. Firmy biorą pod uwagę nie tylko zagrożenie cyberatakami, lecz także to, jak władze i społeczeństwo zareagują na sytuację, w której sztuczna inteligencja wyrządzi istotne szkody.

Brytyjski instytut sprawdza modele AI od środka

Zdaniem Smitha krajem najlepiej przygotowanym do wypracowania międzynarodowych standardów bezpieczeństwa jest Wielka Brytania. Działa tam AI Security Institute — państwowa organizacja zajmująca się badaniem zagrożeń związanych z najbardziej zaawansowanymi modelami. Instytut powstał w 2023 roku i prowadzi testy sprawdzające między innymi zdolność systemów do wspierania cyberataków oraz obchodzenia zabezpieczeń.

Kluczowe jest to, że dzięki porozumieniom z producentami eksperci instytutu mogą uzyskać dostęp do modeli jeszcze przed ich publicznym udostępnieniem. Dzięki temu zagrożenia można sprawdzić w kontrolowanych warunkach, zanim nowe funkcje trafią do szerokiego grona odbiorców.

Microsoft współpracuje już z brytyjską instytucją. W maju firma ogłosiła porozumienia dotyczące oceny modeli AI zarówno z AI Security Institute, jak i amerykańskim Center for AI Standards and Innovation.

Istnieje jednak istotna różnica między badaniem bezpieczeństwa a regulowaniem rynku. Brytyjski instytut jest jednostką badawczą, a nie urzędem wydającym zgody na wprowadzanie systemów AI do sprzedaży. Współpraca z producentami opiera się w dużej mierze na dobrowolnych porozumieniach. Smith uważa, że takie doświadczenia mogą stać się fundamentem szerszego systemu kontroli, w którym niezależna ocena nie będzie zależała wyłącznie od dobrej woli firm.

AI Act już obowiązuje, Microsoft chce jednak pójść dalej

Słowa przedstawiciela Microsoftu wymagają jednak istotnego dopowiedzenia. Stwierdzenie o niewystarczających regulacjach nie oznacza, że świat dopiero zaczyna prace nad przepisami dotyczącymi AI.

Unia Europejska przyjęła już AI Act — kompleksowe rozporządzenie określające obowiązki zarówno producentów, jak i użytkowników systemów sztucznej inteligencji. Przepisy wchodzą w życie etapami i przewidują zróżnicowane wymogi w zależności od poziomu ryzyka.

Od 2 sierpnia 2026 roku obowiązują między innymi przepisy dotyczące przejrzystości treści generowanych przez AI. W określonych sytuacjach użytkownicy muszą zostać poinformowani, że rozmawiają z maszyną albo oglądają materiał wygenerowany lub zmodyfikowany przez sztuczną inteligencję.

Unijne rozporządzenie nakłada też obowiązki związane z oceną ryzyka dla najpotężniejszych modeli oraz nadzorem nad systemami stosowanymi w szczególnie wrażliwych zastosowaniach. Nie wszystkie przepisy weszły jednak jeszcze w życie — część regulacji dotyczących systemów wysokiego ryzyka zacznie obowiązywać dopiero w kolejnych latach.

Smith nie postuluje więc objęcia AI regulacjami po raz pierwszy. Jego apel dotyczy przede wszystkim stworzenia bardziej powszechnych, międzynarodowych reguł testowania bezpieczeństwa oraz zgłaszania incydentów.