Sąd apelacyjny staje po stronie Pentagonu w sporze z Anthropic o Claude'a

Model Claude, podobnie jak inne popularne systemy językowe, miał swoje początki jako narzędzie do prostych, codziennych zadań - pisania e-maili, poprawiania kodu czy tworzenia planów treningowych. Był po prostu wygodną alternatywą dla samodzielnego szukania informacji. Z czasem jego możliwości rozwinęły się na tyle, że gdyby nie wprowadzone zabezpieczenia, najbardziej rozwinięte wersje modelu mogłyby teoretycznie posłużyć do przełamywania zabezpieczeń nawet dobrze chronionych systemów. Z tego powodu Anthropic, firma stojąca za rozwojem Claude'a, udostępnia wyłącznie wersje z wbudowanymi ograniczeniami funkcjonalności - tak, aby nie każdy użytkownik mógł zamienić się w cyfrowego przestępcę na wzór filmowego czarnego charakteru.

Taka polityka nie znajduje jednak uznania w oczach amerykańskich urzędników, którzy chcieliby, by Departament Obrony mógł korzystać z wersji Claude'a bez żadnych blokad. Anthropic nie zamierza jednak ustępować, co może się dla firmy skończyć poważnymi konsekwencjami. Federalny sąd apelacyjny potwierdził już decyzję o umieszczeniu przedsiębiorstwa na czarnej liście resortu obrony.

Trudna rozprawa dla Anthropic i możliwe poważne skutki

Firma stojąca za Claude'em poniosła istotną porażkę w batalii prawnej z administracją Donalda Trumpa. Sąd apelacyjny w Waszyngtonie orzekł, że Departament Obrony USA działał w granicach prawa, wykluczając twórców tego modelu ze swojego systemu zamówień. U podstaw sporu leży dość nietypowa kwestia - Anthropic nie przystał na propozycję usunięcia limitów dotyczących wykorzystywania jego technologii do w pełni samodzielnych operacji militarnych oraz masowego śledzenia obywateli USA.

Decyzja została wydana 25 września, a sędziowie Sądu Apelacyjnego Stanów Zjednoczonych dla Dystryktu Kolumbii byli podzieleni w głosowaniu 2:1. Zdaniem większości administracja miała prawo uznać Anthropic za potencjalne ryzyko dla bezpieczeństwa łańcucha dostaw. Co istotne, sąd nie stwierdził, że firma działała w złej wierze czy z zamiarem szkodzenia komukolwiek. Kluczowym argumentem było samo to, że Anthropic zachowuje kontrolę nad tym, do jakich celów Claude może być używany.

Źródłem konfliktu były zasady, które Anthropic uważa za istotny element swojej misji. Firma przystała na spore rozluźnienie zasad dotyczących wykorzystania Claude'a przez wojsko i służby - model może być używany m.in. do analizowania danych wywiadowczych, projektowania nowoczesnych systemów uzbrojenia czy operacji w cyberprzestrzeni. Nie zgodziła się jednak na zniesienie dwóch zasad, które uważa za nienegocjowalne: zakazu wykorzystania Claude'a do masowego monitorowania obywateli USA oraz do w pełni autonomicznego podejmowania decyzji o użyciu śmiercionośnej siły, czyli sytuacji, w której sztuczna inteligencja samodzielnie wybiera cel ataku.

Rządowa strona chciała natomiast wpisać do umowy klauzulę pozwalającą na wykorzystanie AI do „wszystkich zgodnych z prawem zastosowań”. Anthropic odrzucił tę propozycję, a gdy rozmowy się zerwały, Departament Obrony postanowił usunąć produkty firmy ze swojej infrastruktury i zabronił firmom realizującym rządowe kontrakty korzystania z jej technologii.

Argumentacja administracji opierała się na tym, że Anthropic - poprzez sposób szkolenia modelu, wewnętrzne reguły działania i mechanizmy zabezpieczające - ma realny wpływ na zachowanie Claude'a, co rodzi ryzyko odmowy wykonania zadania uznanego przez armię za legalne i konieczne. Taką interpretację przyjęła większość sędziów. W uzasadnieniu wyroku zaznaczono, że wcześniejsze wersje Claude'a rzeczywiście nie wykonywały niektórych poleceń wydawanych przez użytkowników rządowych, a w jednym przypadku pojawiły się zastrzeżenia co do wykorzystania modelu w trakcie operacji wojskowej za granicą.

Batalia sądowa nie jest jednak dla Anthropic całkowicie przegrana. Zaledwie kilka tygodni przed tym wyrokiem, federalna sędzia Rita Lin z Kalifornii orzekła, że decyzja administracji o umieszczeniu firmy na liście ryzyka dla łańcucha dostaw była niezgodna z prawem.