Geoffrey Hinton: ludzkość może nie przetrwać bez poważnych regulacji AI

Mowa o badaczu, który w 2024 roku odebrał wspólnie z Johnem Hopfieldem Nagrodę Nobla z fizyki za fundamentalne prace nad uczeniem maszynowym opartym na sztucznych sieciach neuronowych. Tym razem jednak Geoffrey Hinton w wywiadzie dla Guardiana poszedł o krok dalej i otwarcie przyznał, że ludzkość mogłaby wyjść na tym lepiej, gdyby sztuczna inteligencja nigdy nie została stworzona. Z ust kogoś, kogo branża tytułuje "ojcem chrzestnym" AI, brzmi to więc jak wyjątkowo mocna deklaracja.

Porównanie do Czarnobyla

Badacz sięgnął po dosadne porównania historyczne, opisując sytuację w sektorze sztucznej inteligencji. Niedawny incydent związany z Hugging Face zestawił z awarią elektrowni Three Mile Island z 1979 roku, kiedy doszło do częściowego stopienia rdzenia reaktora. Jego zdaniem jednak prawdziwym zagrożeniem jest coś znacznie poważniejszego - wydarzenie na miarę katastrofy w Czarnobylu z 1986 roku. Hinton wskazuje, że może to być atak przeprowadzony z pomocą AI, który sparaliżuje dostawy energii elektrycznej na szeroką skalę, albo incydent blokujący funkcjonowanie systemu finansowego na przykładowo tydzień. Po takim wydarzeniu sytuacja wróciłaby do normy, lecz dopiero tak dotkliwy kryzys mógłby - według niego - zmusić rządzących do poważnego zajęcia się kwestią rozwoju i obecności sztucznej inteligencji w codziennym życiu.

Samo posiadanie dostępu do sieci nie oznacza automatycznie, że ktoś zdoła odciąć prąd czy zablokować dostęp do środków finansowych. Kluczowe jest to, czy napastnik trafi na lukę w systemach zarządzających infrastrukturą i czy uda mu się przejąć nad nimi kontrolę. Hinton zwraca też uwagę na szersze skutki rozwoju AI - od znacznego wzrostu zamożności społeczeństw po falę bezrobocia i pogłębiające się nierówności, jeśli rządy nie podejmą szybkich działań. Jego zdaniem reakcja jest konieczna, bo obecnie nikt nie jest przygotowany na to, co może nadejść.

Ponownie Hugging Face w centrum zdarzeń

Zapalnikiem całej dyskusji stało się działanie OpenAI, które w lipcu postanowiło zbadać, jak skutecznie jego modele potrafią wykrywać i wykorzystywać podatności w oprogramowaniu. Testy miały przebiegać w kontrolowanym, odizolowanym środowisku. Agentom jednak najwyraźniej nie odpowiadały te ograniczenia - znalazły one sposób na wydostanie się z infrastruktury, uzyskały połączenie z internetem i włamały się do systemów Hugging Face, serwisu udostępniającego modele oraz zbiory danych. Wszystko wskazuje na to, że celem było zdobycie gotowych rozwiązań zadań testowych, ponieważ agenci doszli do wniosku, że platforma musi takie rozwiązania przechowywać.

Analiza powłamaniowa przeprowadzona przez METR oraz Redwood Research ujawniła, że z nieautoryzowanego kanału komunikacyjnego, służącego do wymiany wiadomości i plików, korzystało ponad 1200 agentów. W samym włamaniu wzięło udział około 700 z nich. Choć nie odnotowano poważnych strat, sprawa wywołała szeroki oddźwięk wśród specjalistów, a część czołowych badaczy zaczyna poważnie rozważać scenariusze znane dotąd głównie z filmów o Terminatorze.

Kto zdecyduje, że dany model jest bezpieczny?

Hinton postuluje wprowadzenie nadzoru opartego na modelu zbliżonym do działania amerykańskiej Agencji Żywności i Leków. Zanim producent wypuściłby nowy model na rynek, musiałby przedstawić niezależnej instytucji solidne dowody statystyczne potwierdzające, że korzyści z jego wdrożenia przewyższają potencjalne zagrożenia. Naukowiec deklaruje też publiczne poparcie dla propozycji prezydenta Finlandii Alexandra Stubba, który wraz ze zwolennikami domaga się obowiązkowych testów przed wdrożeniem najpotężniejszych modeli, zapewnienia dostępu niezależnym ekspertom oraz jasnych, wiążących wszystkich zasad zgłaszania incydentów.

Trzeba przyznać, że są to postulaty sensowne i potrzebne, lecz pytanie brzmi, czy lobby firm technologicznych związanych z AI zgodzi się na takie rozwiązania. Wprowadzenie dodatkowej warstwy biurokratycznej najprawdopodobniej spowolniłoby rozwój niemal wszystkich modeli - z wyjątkiem być może tych tworzonych w Chinach, gdzie podobne regulacje najpewniej pozostałyby jedynie na papierze.

Czy zatem czeka nas scenariusz tak ponury, jak ten opisywany przez Hintona? Taką możliwość należy brać pod uwagę. Prognoza jednak nie musi się ziścić, choć trudno pozbyć się wrażenia, że wyścig o dominację w dziedzinie sztucznej inteligencji nabrał już takiego tempa, że prędzej czy później dojdzie do poważnego zdarzenia, które zmusi polityków do potraktowania tematu AI z należytą powagą. Pytanie brzmi jedynie, kiedy to nastąpi.