Szefowie AI wołają "stop", Trump odpowiada "pełny gaz"

Do niedawna liderzy sztucznej inteligencji rywalizowali głównie o to, kto szybciej wypuści kolejną, potężniejszą wersję swojego modelu. Dziś z ust tych samych ludzi pada zdanie, które jeszcze niedawno uznano by za zaprzeczenie logiki branży: należy przyhamować. Dario Amodei, szefujący Anthropic, wzywa do ograniczenia tempa prac nad najbardziej zaawansowanymi systemami, a jego apel zyskał poparcie Sama Altmana, Elona Muska i Demisa Hassabisa. Donald Trump patrzy na sprawę zupełnie inaczej - dla niego kluczowe jest, by Stany Zjednoczone nie straciły przewagi nad Chinami.

Nagły zwrot w tonie największych laboratoriów AI

Impuls do całej dyskusji dał tekst Dario Amodei zatytułowany We Must Pace the Frontier. Autor stawia w nim tezę, że możliwości modeli AI rosną szybciej, niż firmy są w stanie je zrozumieć i odpowiednio zabezpieczyć.

Szef Anthropic nie postuluje wstrzymania prac nad AI w ogóle. W jego wizji modele powinny nadal powstawać, ale każdy kolejny skokowy wzrost możliwości powinien być poprzedzony weryfikacją ze strony zespołów bezpieczeństwa, niezależnych audytorów oraz regulatorów. To spore zaskoczenie w branży, gdzie przewaga liczona w miesiącach potrafi oznaczać dziesiątki miliardów dolarów różnicy.

Reakcje pozostałych liderów przyszły błyskawicznie. Elon Musk krótko przyznał rację Amodei. Sam Altman z OpenAI poparł ten kierunek i zapowiedział, że firma wpuści zewnętrznych ewaluatorów głębiej w swoje struktury. Do grona dołączył też Demis Hassabis z Google DeepMind, który ocenił propozycję szefa Anthropic jako słuszną. W ciągu zaledwie kilku godzin konkurenci walczący zwykle o modele, talenty, klientów i moce obliczeniowe znaleźli wspólny mianownik.

Modele zaczęły działać poza scenariuszem

Kilka dni wcześniej informowaliśmy na Spider's Web, że samo OpenAI zaczęło rozważać wyhamowanie prac nad najbardziej zaawansowanymi systemami. Wówczas wyglądało to na wewnętrzny problem jednej firmy. Teraz widać, że skala zjawiska jest znacznie większa. Amodei wskazuje dwa zjawiska, które szczególnie go niepokoją.

Pierwsze to rosnąca umiejętność AI wspierania tworzenia kolejnych generacji AI. Jeśli modele przejmują coraz większą część badań, kodowania i eksperymentów od swoich twórców, tempo postępu może zacząć nakręcać się samoistnie - to zjawisko określane jako rekurencyjne samodoskonalenie.

Drugie to konkretne, już zaobserwowane incydenty. Latem modele OpenAI wykorzystywane w testach cyberbezpieczeństwa wyszły poza wyznaczone środowisko testowe, uzyskały dostęp do internetu, zaczęły się ze sobą komunikować i włamały się między innymi do systemów Hugging Face. OpenAI samo przyznało, że agenci działali niezgodnie z powierzonym im zadaniem.

Podobne przypadki odnotował Anthropic. Firma ujawniła cztery sytuacje, w których modele Claude podczas ewaluacji uzyskały nieautoryzowany dostęp do rzeczywistych systemów należących do podmiotów trzecich.

To nie oznacza, że ChatGPT czy Claude dążą do przejęcia kontroli nad światem. Testy prowadzono w nietypowych, celowo osłabionych warunkach bezpieczeństwa, a modelom zlecano zadania z obszaru cyberbezpieczeństwa. Nie zmienia to jednak faktu, że systemy wykazały możliwości znacznie wykraczające poza przewidywania ich twórców.

Niezależni kontrolerzy mieliby wejść do środka Anthropic

Propozycja szefa Anthropic wykracza daleko poza ogólnikowe hasła o odpowiedzialnej AI. W pierwszym etapie do laboratoriów mieliby trafić niezależni specjaliści działający praktycznie jak pracownicy firmy - z dostępem pozwalającym oceniać nie tylko finalny model przed premierą, ale też sam proces treningu, wewnętrzne testy bezpieczeństwa i zgłoszone incydenty. Anthropic deklaruje, że wdroży to rozwiązanie u siebie niezależnie od tego, co zrobi konkurencja.

Drugi etap to koordynacja pomiędzy firmami z krajów demokratycznych, które miałyby wspólnie ustalić standardy bezpieczeństwa oraz granice niemożliwe do przekroczenia bez odpowiednich testów. Problem jest jednak bardzo praktyczny: jeśli zwolni tylko Anthropic, a OpenAI, Google czy xAI będą kontynuować dotychczasowe tempo, ostrożniejsza firma po prostu przegra rywalizację.

Dlatego Amodei liczy na zaangażowanie amerykańskiego rządu - między innymi po to, by współpraca konkurentów w obszarze bezpieczeństwa nie została uznana za niedozwoloną zmowę. Docelowo ma powstać porozumienie międzynarodowe, obejmujące również Chiny.

Trump wchodzi do gry z zupełnie innym priorytetem

Prezydent USA patrzy na całą sprawę z zupełnie innej perspektywy. Zapytany o apele szefów firm AI o spowolnienie rozwoju, odpowiedział, że Stany Zjednoczone prowadzą w wyścigu z Chinami i zamierza utrzymać ten stan rzeczy. Jego stanowisko można streścić jednym zdaniem: zwycięzca w wyścigu o AI zyska znacznie więcej niż samą technologię.

Trump nie wykluczył wprowadzenia pewnych zabezpieczeń, jednocześnie jednak nazwał część osób bijących na alarm negatywnymi siłami, które mówią o zagrożeniach jego zdaniem nierealnych.

To zresztą spójne z dotychczasowym kursem jego administracji, która od początku stawia na przyspieszenie rozwoju amerykańskiej AI, ograniczanie regulacji i zwiększanie inwestycji w infrastrukturę. Biały Dom wprost mówi o utrzymaniu globalnej dominacji Stanów Zjednoczonych w tej dziedzinie.

Powstaje więc paradoksalna sytuacja: firmy, którym jeszcze niedawno regulatorzy chcieli nałożyć ograniczenia, same zaczynają domagać się mechanizmów pozwalających zwolnić tempo. Rząd odpowiada im w praktyce, że mogą zachować ostrożność, ale nie mogą dopuścić do przegranej z Chinami.

Rynki finansowe też obawiają się spowolnienia

Do sporu dołącza trzeci gracz - kapitał. W poniedziałek notowania spółek najsilniej związanych z boomem na AI zaczęły spadać. Nvidia traciła w handlu przedsesyjnym około 3 proc., Intel jeszcze więcej, ASML znalazł się pod silną presją w Europie, a kurs SoftBanku w Tokio spadł o około 11 proc.

Przyczyna jest prosta: cały obecny boom inwestycyjny zakłada, że modele będą wymagały coraz większej liczby akceleratorów, centrów danych, pamięci i energii. Jeśli największe laboratoria świadomie zwolnią tempo skalowania, część tych prognoz trzeba będzie zweryfikować.

Sam Altman dodatkowo podsycił niepokój, potwierdzając, że OpenAI nie zadebiutuje na giełdzie w 2026 roku. Jako jeden z głównych powodów pozostania spółką prywatną wskazał kwestie bezpieczeństwa i dostosowania kolejnych modeli.

Jeszcze niedawno IPO OpenAI zapowiadano jako jedno z największych wydarzeń giełdowych roku. Teraz szef firmy tłumaczy inwestorom, że priorytetem może być coś zupełnie przeciwnego niż maksymalizacja krótkoterminowego wzrostu.

Hamulec zadziała tylko, gdy wciśnie go każdy z uczestników wyścigu

Dario Amodei od dłuższego czasu znajduje się w niewygodnej sytuacji - ostrzega przed technologią, którą sam jednocześnie rozwija w pełnym tempie. Dotąd tłumaczył to logiką wyścigu: jeśli Anthropic się zatrzyma, technologię i tak zbuduje ktoś inny.

Teraz próbuje rozwiązać ten paradoks w jedyny sposób, który daje realną szansę powodzenia - namówić konkurentów, rząd, a ostatecznie także Chiny, by żaden z graczy nie korzystał z chwilowej przewagi kosztem złamania wspólnie ustalonych zasad.

To zarazem największa słabość całej koncepcji. Wystarczy jeden liczący się gracz, który zdecyduje się nie zwalniać, a reszta natychmiast otrzyma pretekst, by również przyspieszyć. Donald Trump właśnie pokazał, że w Waszyngtonie bezpieczeństwo AI nie jest jedynym priorytetem - drugim, równie ważnym, jest zwycięstwo nad Chinami.

Dochodzimy więc do chyba najbardziej paradoksalnego momentu obecnego wyścigu technologicznego. Firmy budujące najpotężniejsze modele świata zaczynają przekonywać polityków, że rozwój tej technologii może być zbyt szybki. Politycy w odpowiedzi twierdzą, że właśnie dlatego trzeba biec jeszcze szybciej.