Kolejny ekspert ds. bezpieczeństwa odchodzi z OpenAI. Ostrzega przed niekontrolowanym rozwojem AI

Pierwsza wersja ChatGPT trafiła na rynek zaledwie cztery lata temu, lecz wrażenie jest takie, jakby sztuczna inteligencja towarzyszyła nam od dekady. Narzędzia oparte na AI stały się tak powszechne i oswojone, że zdążyły już spowszednieć. W efekcie wielkie koncerny technologiczne ścigają się w publikowaniu kolejnych, coraz sprawniejszych modeli, a odbiorcy reagują na to coraz bardziej sceptycznie - brakuje im świeżości, przełomów i momentów zachwytu. Nieustanny wyścig o ulepszenia może się jednak zemścić, o czym dobrze wiedzą osoby zajmujące kierownicze stanowiska w OpenAI czy Anthropic. David Robinson, który kierował zespołem odpowiedzialnym za bezpieczeństwo w firmie stojącej za ChatGPT, zrezygnował z pracy z istotnego powodu. To nie pierwszy taki przypadek w ostatnim czasie w świecie AI.

Firmy AI mają ostrożność w poważaniu? Ostrzeżenie z samej góry

Na razie nie musimy obawiać się armii zabójczych robotów sterowanych przez sztuczną inteligencję, ale realnym zagrożeniem stają się grupy autonomicznych agentów działających jak zorganizowane grupy hakerskie. To właśnie dążenie do pełnej autonomii - napędzane rywalizacją rynkową i chęcią zwiększania zysków - powoduje, że firmy pokroju OpenAI spychają bezpieczeństwo na dalszy plan. David Robinson do niedawna nadzorował tworzenie raportów bezpieczeństwa towarzyszących premierom kolejnych modeli w jednej z czołowych firm branży, a teraz ostrzega przed praktykami swojego byłego pracodawcy.

W artykule opublikowanym w „The Atlantic” Robinson ocenił, że kultura panująca w OpenAI jest zepsuta. Problemem jest tempo, w jakim rozwijane są autonomiczne agenty - OpenAI ma nad tym procesem tracić kontrolę. Pogoń za innowacjami odsunęła na bok kwestie bezpieczeństwa, a Robinson nie zostawia złudzeń, twierdząc, że firmy budujące tak zaawansowane technologie „nie są nawet w przybliżeniu wystarczająco ostrożne”.

W swoim krytycznym tekście zwraca uwagę na nieustanny pośpiech między kolejnymi premierami, w którym gubione są kluczowe mechanizmy zabezpieczające. Jako przykład podaje lipcowy incydent dotyczący Hugging Face - rój agentów AI zaatakował infrastrukturę tej popularnej platformy z modelami i zbiorami danych po tym, jak podczas wewnętrznych testów OpenAI system wydostał się poza izolowane środowisko testowe, uznając, że znajdzie tam rozwiązania zadania związanego z cyberbezpieczeństwem.

Robinson przestrzega, że tego typu zdarzenia mogą w przyszłości występować częściej i przybierać znacznie poważniejszą skalę - wskazuje choćby na możliwość ataków wymierzonych w placówki medyczne. Dla odpowiednio ukierunkowanego algorytmu cel działania nie stanowi bariery, bo każdy scenariusz da się logicznie uzasadnić. Ekspert uważa, że branża traktuje sztuczną inteligencję jak zwykły software, nie doceniając jej potencjału destrukcyjnego. Apeluje, by wzorować się na standardach stosowanych na lotniskach czy w elektrowniach jądrowych, gdzie funkcjonują wielowarstwowe systemy zabezpieczeń przed zagrożeniami.

To nie jest jednostkowy przypadek - specjaliści od AI uciekają, zanim mleko się rozleje

Sam Robinson przyznaje, że jego decyzja wpisuje się w szerszy trend. We wrześniu z Anthropic odszedł Jacob Coxon, przez trzy lata zajmujący się badaniami nad trenowaniem modeli zarówno w Anthropic, jak i w OpenAI. Według niego twórcy sztucznej inteligencji naprawdę obawiają się, że technologia ta może doprowadzić do zagłady ludzkości jeszcze przed końcem obecnej dekady. Podobne stanowisko zajął Evan Hubinger, szef zespołu zajmującego się dostosowaniem AI do ludzkich wartości w Anthropic, który oszacował to ryzyko na ponad 10 proc. Analogiczna sytuacja miała miejsce w maju 2024 roku, kiedy z OpenAI odszedł Jan Leike, współkierujący zespołem Superalignment. Ostrzegał wtedy, że procedury i kultura bezpieczeństwa zostały zdegradowane na rzecz „błyszczących produktów”.

nie są nawet w przybliżeniu wystarczająco ostrożne

David Robinson

Obecnie trudno jednoznacznie ocenić, czy te mroczne scenariusze mają realne podstawy, czy raczej są przejawem przesady. Można jednak przyjąć, że skoro osoby z tak wysokich stanowisk rezygnują z pracy z powodów etycznych, to problem rzeczywiście istnieje.