OpenAI rozważa przyhamowanie wyścigu o superinteligencję, bo boi się skutków własnej pracy

Minione lato zapamiętamy jako okres, w którym systemy sztucznej inteligencji coraz częściej działały wbrew intencjom swoich twórców. Model stworzony przez OpenAI dostał się bez zgody do infrastruktury platformy Hugging Face, a rozwiązania Anthropic przeniknęły do sieci trzech odrębnych przedsiębiorstw. Kiedy OpenAI zaczęło analizować sprawę incydentu na Hugging Face, wyszło na jaw, że ta sama technologia zdołała ingerować w systemy jeszcze czterech kolejnych firm. Później do listy modeli, które wymknęły się spod nadzoru, dopisano także rozwiązania Mety. To między innymi z tych powodów - i pewnie kilku innych, o których jeszcze nie napisano w mediach - OpenAI zaczyna zastanawiać się nad wyhamowaniem prac nad najpotężniejszymi wersjami swojej AI.

Sam Altman rozważa przyhamowanie prac nad AI i chce, by dołączyła do niego konkurencja

Jak podał Bloomberg, powołując się na osoby mające wiedzę o kulisach decyzji, szef OpenAI podczas rozmowy z zespołem zasygnalizował możliwość ograniczenia tempa rozwoju najbardziej zaawansowanych modeli firmy. Jednym z analizowanych wariantów jest zsynchronizowanie takiego kroku z innymi laboratoriami badającymi sztuczną inteligencję.

Altman ma jednak świadomość, że nie każdy gracz na rynku zechce się do takiego porozumienia przyłączyć. W realiach wyścigu technologicznego zwolnienie tempa przez jednego z uczestników niesie ryzyko, że rywale wykorzystają to jako szansę na dogonienie lub wyprzedzenie liderów.

OpenAI nie chce więc działać w tej sprawie samotnie. Firmie zależy, by podobny krok podjęli także konkurenci - przynajmniej do momentu, w którym uda się wspólnie ustalić standardy bezpieczeństwa obowiązujące najbardziej zaawansowane systemy.

Z doniesień Bloomberga wynika, że pewne działania w tym kierunku zostały już podjęte. OpenAI miało zwolnić tempo części prac badawczych, a niektóre wewnętrzne treningi modeli zostały wstrzymane właśnie z powodów bezpieczeństwa.

Alarm podnoszą też pracownicy firm zajmujących się AI

Za tymi decyzjami stoi najprawdopodobniej Jakub Pachocki, główny naukowiec OpenAI. W niedawnym wpisie ostrzegał on przed niebezpieczeństwami wynikającymi z tworzenia coraz mocniejszych systemów. Według niego firmy z branży AI powinny współpracować i - jeśli zajdzie taka potrzeba - wspólnie zwolnić tempo dalszego rozwoju technologii.

Pachocki zwrócił także uwagę na sens wprowadzenia dobrowolnych limitów, które obowiązywałyby do momentu wypracowania wspólnych progów bezpieczeństwa. Nie chodzi mu o całkowite wstrzymanie postępu w AI, ale o powiązanie kolejnych faz wyścigu z realną zdolnością zabezpieczenia nowych modeli.

We wtorek z branży odszedł badacz Jacob Coxon, który wcześniej miał na koncie pracę zarówno w Anthropic, jak i w OpenAI. W swojej wypowiedzi zarzucił obu firmom, że rywalizacja o stworzenie superinteligencji przypomina hazard, w którym stawką jest ludzkie życie.

grę hazardową z użyciem naszych żyć

Jacob Coxon

Jego słowa szybko obiegły media społecznościowe i wywołały reakcję polityków oraz innych osób z branży technologicznej.

Jeszcze wyraźniej wypowiedział się Evan Hubinger z Anthropic, który przyznał, że Coxon ma rację i że osoby zajmujące się rozwojem AI naprawdę biorą pod uwagę scenariusz, w którym technologia doprowadziłaby do wyginięcia ludzkości. Sam Hubinger ocenił prawdopodobieństwo takiego ryzyka na ponad 10 procent w perspektywie najbliższych dziesięciu lat. Zaznaczył przy tym, że Anthropic próbuje minimalizować zagrożenia, choć obecnie firma nie ma gotowego rozwiązania problemu dopasowania superinteligencji do wartości i celów ludzi.

W czwartek swoje obawy przedstawili publicznie także dwaj badacze, którzy wcześniej odeszli z Anthropic i Google DeepMind. Wśród ich apeli znalazło się wezwanie do większej przejrzystości firm zajmujących się AI w kwestii ryzyk związanych z nowymi modelami.

Pod koniec lipca ponad tysiąc osób pracujących w największych firmach z branży AI podpisało petycję, w której domagano się stworzenia mechanizmu umożliwiającego kontrolowanie tempa rozwoju technologii. W minionych miesiącach z dużych laboratoriów odchodzili też specjaliści zajmujący się bezpieczeństwem sztucznej inteligencji.

Największy problem? Nikt nie musi zrobić tego wspólnie z OpenAI

Ograniczenie tempa prac tylko przez jedną firmę nie miałoby większego sensu, jeśli inne laboratoria nadal rozwijałyby swoje systemy w niezmienionym tempie. Właśnie dlatego Altman liczy na wspólne, skoordynowane działanie kilku firm jednocześnie.

Wprowadzenie takiego scenariusza w życie byłoby jednak bardzo trudne. Firmy z branży konkurują ze sobą o przewagę technologiczną, klientów i kapitał inwestorów, a żadna z nich nie może być pewna, że rywale rzeczywiście dotrzymają dobrowolnie przyjętych ograniczeń. Sytuację komplikuje dodatkowo obecność firm działających poza granicami Stanów Zjednoczonych. Nawet jeśli OpenAI, Anthropic i inni amerykańscy liderzy zgodziliby się na wspólną przerwę, zagraniczne przedsiębiorstwa mogłyby dalej prowadzić swoje prace bez przeszkód. To groziłoby utratą przewagi technologicznej, na co żadna z amerykańskich firm nie może sobie pozwolić.

Warto przy tym pamiętać, że to nie pierwsza próba zahamowania rozwoju sztucznej inteligencji. W marcu 2023 roku organizacja non-profit Future of Life Institute opublikowała list otwarty z apelem o sześciomiesięczną przerwę w pracach nad AI. Ostatecznie z tej inicjatywy nic konkretnego nie wynikło - poza plotkami, że Elon Musk podpisał się pod listem jedynie po to, by spowolnić rozwój modeli GPT w OpenAI i dać swojemu startupowi xAI lepszy start.

Trudno więc uwierzyć, że OpenAI i inne firmy z branży rzeczywiście zdecydują się na realne zatrzymanie prac. A nawet jeśli dobre intencje przeważyłyby nad chłodną kalkulacją zysków i strat, na jakiekolwiek spowolnienie nie zgodzi się administracja Donalda Trumpa.

Źródło: Spider's Web