Liderzy AI nagle wciskają hamulec. Nadella dołącza do apeli o kontrolę nad superinteligencją

Do niedawna największe firmy zajmujące się sztuczną inteligencją koncentrowały się na pokazywaniu, jak potężne stają się ich modele, jakie kolejne rekordy biją w testach oraz jak bardzo AI zmieni świat, stając się powszechnym cyfrowym asystentem. Obecnie narracja odwróciła się o sto osiemdziesiąt stopni. Zamiast tempa rozwoju, tematem numer jeden staje się pytanie, czy ten rozwój aby nie wymknął się spod kontroli.

W ostatnich dniach szefowie czołowych laboratoriów AI zaczęli otwarcie mówić o potrzebie zwolnienia tempa wyścigu technologicznego. Do tego grona dołączył Satya Nadella, prezes Microsoftu. Głos w tej sprawie zabrały też Chiny, amerykańscy politycy, specjaliści od bezpieczeństwa systemów oraz sami pracownicy laboratoriów tworzących te technologie.

Wszystko to sprawia, że rodzi się coś, co można określić pierwszym poważnym międzynarodowym sporem dotyczącym kierunku rozwoju superinteligencji.

Nadella: bez kontroli nad AI lepiej jej nie budować

Zapłonem obecnej dyskusji stał się szeroko komentowany tekst Dario Amodeia, szefa Anthropic, w którym wezwał on do wyhamowania prac nad najbardziej zaawansowanymi modelami AI. Jego zdaniem możliwości tych systemów rozwijają się szybciej, niż jesteśmy w stanie wypracować metody ich nadzorowania. Na ten głos zareagowali kolejni przedstawiciele branży - swoje poparcie zadeklarowali Sam Altman z OpenAI oraz Elon Musk z xAI, a teraz dołączył do nich również Satya Nadella.

Szef Microsoftu napisał, że każda praca nad superinteligencją powinna trzymać się jednej podstawowej reguły: jeżeli powstająca sztuczna inteligencja nie działa na korzyść ludzkości albo wymyka się spod ludzkiej kontroli, to lepiej jej w ogóle nie tworzyć. Nadella podkreślił, że nie chodzi o osiągnięcie kolejnego technologicznego kamienia milowego, lecz o zbudowanie systemów, nad którymi człowiek zachowa faktyczną władzę.

To istotna deklaracja, ponieważ pochodzi od szefa firmy, która na fali boomu AI zarobiła krocie. Microsoft zainwestował dziesiątki miliardów dolarów w OpenAI, rozwija własne modele MAI oraz czerpie zyski z rosnącego popytu na infrastrukturę AI w chmurze Azure. Równie interesujące jak sama deklaracja jest jednak to, co Nadella dał do zrozumienia niejako przy okazji.

Microsoft nie postuluje wstrzymania prac nad sztuczną inteligencją. Zamiast tego proponuje model, który można by nazwać przyspieszeniem pod kontrolą. Nadella uważa, że tempo rozwoju należy ograniczać tam, gdzie w grę wchodzi bezpieczeństwo, natomiast szybciej powinny być udostępniane korzyści płynące z AI - kolejnym krajom, firmom i społecznościom. Microsoft popiera też koncepcję świata, w którym obok siebie funkcjonują zarówno modele otwarte, jak i zamknięte. Propozycja brzmi rozsądnie, ale zarazem obrazuje, jak bardzo zmienił się klimat w całej branży - jeszcze niedawno wielkie firmy chwaliły się możliwościami swoich technologii, dziś częściej mówią o potrzebie hamowania.

Zaskakujące jest to, kto popiera stanowisko Anthropic

W innych okolicznościach apel Anthropic dałoby się zinterpretować jako zwykły chwyt korporacyjny - w Dolinie Krzemowej nierzadko zdarza się, że firmy próbują wykorzystywać regulacje jako narzędzie przeciwko rywalom. Tym razem jednak sprawa wygląda inaczej.

Sam Altman opowiedział się publicznie za tym, by niezależni eksperci mieli dostęp do modeli na poziomie zbliżonym do pracowników laboratoriów AI, a OpenAI zapowiedziało wdrożenie podobnych mechanizmów. Elon Musk również poparł stanowisko Amodeia. Oznacza to, że trzy najważniejsze amerykańskie ośrodki tworzące najbardziej zaawansowane systemy AI zaczynają mówić jednym głosem.

W tle pojawiają się przy tym coraz bardziej niepokojące sygnały płynące bezpośrednio od badaczy zajmujących się AI. W ostatnich dniach głośno komentowano wypowiedzi pracowników Anthropic i OpenAI dotyczące ryzyka utraty nadzoru nad systemami, które same udoskonalają swoje możliwości. Dyskusja koncentruje się zwłaszcza wokół tzw. rekurencyjnego samodoskonalenia, czyli mechanizmu, w którym AI uczestniczy w tworzeniu kolejnych, lepszych wersji samej siebie. Część badaczy alarmuje, że ten proces przyspiesza szybciej, niż wcześniej zakładano.

Przeciętnemu odbiorcy może się to wydawać scenariuszem rodem z filmu science fiction. Kłopot w tym, że osoby formułujące te ostrzeżenia nie są scenarzystami z Hollywood, lecz ludźmi, którzy na co dzień pracują nad systemami wykorzystywanymi przez setki milionów użytkowników.

Chiny reagują z coraz większym rozdrażnieniem

Chińskie ministerstwo spraw zagranicznych określiło część tych wypowiedzi jako „sianie strachu”. Rzecznik resortu Guo Jiakun stwierdził, że rozwój sztucznej inteligencji powinien mieć charakter otwarty, inkluzywny i przynoszący korzyści wszystkim, a straszenie, konfrontacja i zaciekła rywalizacja szkodzą globalnemu zarządzaniu tą technologią. To nie jest przypadkowa reakcja.

W swoim eseju Amodei nie ograniczył się do apelu o wolniejszy rozwój najbardziej zaawansowanych modeli. Wskazywał także na konieczność utrzymania przewagi technologicznej demokracji nad Chinami oraz dalszego ograniczania Pekinowi dostępu do zaawansowanych układów obliczeniowych.

Chiny mogą odczytywać wezwania do „bezpiecznego tempa rozwoju” jako próbę zabetonowania obecnego układu sił, w którym liderem najbardziej zaawansowanych modeli i infrastruktury AI pozostają Stany Zjednoczone. Nie dziwi więc, że chińskie media zaczęły przedstawiać niektóre z tych propozycji jako nową odsłonę technologicznej zimnej wojny. W praktyce dyskusja o bezpieczeństwie sztucznej inteligencji coraz mocniej splata się z geopolityką, a to znacznie utrudnia osiągnięcie porozumienia na poziomie międzynarodowym.

Nerwowość udziela się także politykom

Napięcie widać również w Waszyngtonie. Część kongresmenów domagała się nawet, by Kongres pozostał w sesji do momentu przyjęcia nowych zabezpieczeń dotyczących sztucznej inteligencji. Wśród proponowanych rozwiązań znalazły się projekty ustaw zobowiązujące do zachowania możliwości awaryjnego wyłączenia systemów AI przez człowieka oraz do stworzenia szerszych ram regulacyjnych dla najbardziej zaawansowanych modeli.

Jednocześnie spiker Izby Reprezentantów Mike Johnson zajął bardziej wstrzemięźliwe stanowisko. Uważa on, że nie powinno się wprowadzać gwałtownego moratorium na rozwój AI, ponieważ osłabiłoby to pozycję Stanów Zjednoczonych względem Chin. Johnson twierdzi, że zabezpieczenia są potrzebne, ale nie mogą kosztować utraty przewagi technologicznej. To w gruncie rzeczy streszczenie całego problemu - wszyscy deklarują troskę o bezpieczeństwo, ale nikt nie chce jako pierwszy realnie nacisnąć hamulec.

Paradoks, który najbardziej rzuca się w oczy

Przez lata ostrzeżenia przed sztuczną inteligencją formułowali głównie filozofowie, futurolodzy i obserwatorzy patrzący na branżę z zewnątrz. Dziś alarm podnoszą osoby, które same tworzą najbardziej zaawansowane modele na świecie. Równolegle te same firmy nadal inwestują miliardy dolarów w nowe centra danych, kupują kolejne akceleratory Nvidii, zatrudniają najlepszych badaczy i wypuszczają coraz mocniejsze modele.

Nadella stara się znaleźć złoty środek między tymi dwiema postawami. Z jednej strony opowiada się za „rozsądnym tempem”, niezależnymi ewaluatorami i większą kontrolą ze strony ludzi. Z drugiej strony w żadnym razie nie mówi o zatrzymaniu rozwoju AI - wręcz przeciwnie, Microsoft zamierza dalej rozwijać własne modele, publikować kodeksy postępowania i poszerzać dostęp do tej technologii. Być może właśnie w tym tkwi istota obecnej debaty.

Jeszcze rok temu takie rozważania wydawały się odległą przyszłością. Dziś prowadzą je publicznie szefowie Microsoftu, OpenAI i Anthropic, chińskie ministerstwo spraw zagranicznych oraz amerykańscy kongresmeni. To chyba najlepszy dowód na to, że sztuczna inteligencja przestała być zwykłą branżą technologiczną i stała się jednym z kluczowych tematów politycznych, gospodarczych oraz cywilizacyjnych naszych czasów.