Fukuyama: realne zagrożenia AI leżą gdzie indziej, niż sądzimy

Francis Fukuyama, znany na całym świecie politolog, zwraca uwagę, że rozmowa o sztucznej inteligencji od dawna toczy się między dwoma biegunami. Z jednej strony stoją entuzjaści technologicznego przyspieszenia, przekonani o nadchodzącej erze dobrobytu, z drugiej ci, którzy widzą w AI zagrożenie egzystencjalne dla ludzkości. Sam badacz przyznaje, że wizja powszechnego rozkwitu przekonuje go coraz mniej, a argumenty drugiej strony traktuje z rosnącą powagą.

Fukuyamie nie chodzi jednak o filmowy scenariusz buntu superinteligentnej maszyny. Jego niepokój ma bardziej konkretny, praktyczny wymiar, przez co powinien zainteresować firmy, rządy i całe społeczeństwa. Wskazuje trzy obszary: masową automatyzację zawodów wymagających intelektu, przekazywanie realnej władzy decyzyjnej autonomicznym agentom AI oraz łatwość, z jaką rozwinięte modele mogą wspierać cyberprzestępczość i tworzenie zagrożeń biologicznych.

Inteligencja nie zastąpi świata materialnego

Politolog nie zgadza się z tezą, że sztuczna inteligencja w krótkim czasie podniesie tempo wzrostu PKB w krajach rozwiniętych do poziomu 10-20 proc. rocznie. W jego ocenie takie szacunki nadmiernie eksponują rolę samej inteligencji jako motoru wzrostu, zapominając o ograniczeniach energetycznych, surowcowych, infrastrukturalnych i geopolitycznych.

Nawet bardzo zaawansowany system AI nie wydobędzie surowców, nie postawi fabryki i nie rozstrzygnie konfliktów politycznych utrudniających handel czy inwestycje. Może usprawnić projektowanie, analizę danych i optymalizację procesów, ale gospodarka wciąż zależy od świata fizycznego: energii, ziemi, materiałów, sprawnych instytucji i realnej zdolności wprowadzania decyzji w życie.

To istotne zastrzeżenie w momencie, gdy branża technologiczna często mówi o transformacji jako o procesie nieuchronnym i niemal samoczynnym. AI nie eliminuje problemu wykonania. Częściej po prostu zwiększa skalę skutków – zarówno dobrych, jak i błędnych decyzji.

Praca to więcej niż dochód

Najsilniejszy element rozumowania Fukuyamy dotyczy rynku zatrudnienia. Nie neguje on, że sztuczna inteligencja może w dłuższej perspektywie zwiększyć produktywność. Ostrzega jednak, że im skuteczniejsza automatyzacja, tym bardziej może ona podkopać społeczną wartość pracy wykonywanej przez ludzi.

Najbardziej narażone są zawody polegające na przetwarzaniu symboli i pracy biurowej – część zadań prawników, księgowych, analityków, konsultantów, wykładowców akademickich oraz pracowników administracji. To właśnie te grupy, wykształcone i sprawnie funkcjonujące w debacie publicznej, mogą stać się zalążkiem silnego oporu wobec niekontrolowanego wprowadzania AI.

Fukuyama zaznacza, że transfery socjalne, w tym dochód podstawowy, nie rozwiążą problemu w całości. Pensja to nie tylko środek do życia – praca zapewnia też poczucie sensu, uznania społecznego i godności. Odebranie dużej grupie obywateli możliwości wnoszenia wartościowego wkładu może przekształcić się w kryzys wykraczający daleko poza sferę ekonomii, sięgający psychologii i polityki.

Agent AI jako problem delegowania

Głównego ryzyka autor nie widzi w wyimaginowanej „superinteligencji”, lecz w gwałtownie rosnącej samodzielności agentów AI. Systemy te nie ograniczają się do odpowiadania na pytania czy generowania tekstów – realnie wykonują zadania: prowadzą korespondencję, działają w środowiskach IT, wspierają decyzje strategiczne, a niekiedy nawet procesy dotyczące bezpieczeństwa i obronności.

To przesuwa dyskusję z jakości odpowiedzi generowanych przez AI na kwestię jej faktycznej sprawczości. Delegowanie zadań jest w każdej organizacji nieodzowne, lecz zawsze niesie ryzyko: wykonawca może niewłaściwie zinterpretować cel, przekroczyć swoje uprawnienia albo wykorzystać przyznaną swobodę wbrew intencjom zleceniodawcy. W przypadku agentów AI stawka jest wyższa, bo systemy te działają szybciej, na większej skali i równolegle w wielu środowiskach.

Fukuyama wymienia dwa główne warianty zagrożeń. Pierwszy to celowe wykorzystanie agenta przez człowieka do szkodliwych działań, od oszustw finansowych do cyberatak. Drugi to tzw. niezgodność celów, kiedy system realizuje wyznaczone zadanie w sposób, jakiego jego twórcy nie zakładali, wykorzystując słabości w narzuconych ograniczeniach lub szukając niepożądanych sposobów na osiągnięcie rezultatu.

Od fantazji o zagładzie do realnych szkód

Autor nie utrzymuje, że zagłada ludzkości spowodowana przez AI jest obecnie scenariuszem najbardziej prawdopodobnym – uznaje go za odległy. Zarazem przekonuje, że nie trzeba wierzyć w apokalipsę, by docenić powagę problemu. Wystarczy pomyśleć o systemach zdolnych do włamań na konta bankowe, masowych oszustw, wywoływania eskalacji incydentów cybernetycznych czy wspierania projektowania niebezpiecznych patogenów.

Najważniejsza zmiana w podejściu do tematu to przejście od pytania „czy AI stanie się świadoma” do pytania, komu i w jakim zakresie oddajemy jej możliwość działania. Model nie potrzebuje własnej woli, by wywołać szkodę – wystarczą mu szerokie uprawnienia, niedoprecyzowany cel albo dostęp do podatnego na ataki systemu.

Z tego powodu wdrażanie agentów AI powinno być traktowane analogicznie do przyznawania uprawnień administratora w krytycznej infrastrukturze. Niezbędne staje się ograniczenie dostępu, nadzór człowieka nad działaniami wysokiego ryzyka, rozdzielenie kompetencji, prowadzenie dzienników aktywności oraz regularne testowanie odporności procesów na błędy i próby nadużyć.

Potrzebne jest tempo, nie hamulec ręczny

Fukuyama nie wzywa do całkowitego wstrzymania prac nad sztuczną inteligencją. Domaga się jednak wprowadzenia regulacji oraz wynegocjowanego zwolnienia tempa w miejscach, gdzie wdrożenia wyprzedzają zdolność instytucji do zarządzania powstającym ryzykiem.

Takie podejście można traktować jako wołanie o dojrzalszą politykę technologiczną – nie wybór między bezkrytycznym zapałem a paniką, lecz stworzenie zasad odpowiedzialnego korzystania z technologii: standardów bezpieczeństwa dla modeli i agentów AI, mechanizmów odpowiedzialności, ochrony infrastruktury krytycznej i polityk minimalizujących społeczne koszty automatyzacji.

Pytanie, które zadaje Francis Fukuyama brzmi nie, czy AI przyniesie wzrost produktywności, lecz czy instytucje publiczne, przedsiębiorstwa i społeczeństwo będą umiały zachować kontrolę nad sposobem, w jaki ta produktywność zostanie osiągnięta i podzielona?

Francis Fukuyama

Właśnie w tej rozbieżności między technologiczną możliwością a społeczną zdolnością jej opanowania Fukuyama widzi największe zagrożenie płynące z rozwoju sztucznej inteligencji.