Anthropic chce kryptograficznie potwierdzać pochodzenie odpowiedzi AI

Anthropic rozpoczęło prace nad narzędziem FlashProve - otwartym systemem opartym na kryptografii, który ma rozstrzygać, jaki model AI faktycznie stoi za daną odpowiedzią. Dzięki dowodowi matematycznemu osoba korzystająca z narzędzia zyska możliwość sprawdzenia, czy wynik naprawdę pochodzi od modelu zadeklarowanego przez dostawcę. System ma też zablokować możliwość podszywania się jednego modelu pod inny - także wtedy, gdy próbowałaby tego sama firma odpowiedzialna za jego stworzenie.

Twórcy rozwiązania przywołują analogię do podpisów kryptograficznych stosowanych w poczcie elektronicznej, które pozwalają zweryfikować autentyczność nadawcy. FlashProve ma działać na podobnej zasadzie odporności na fałszerstwa - nawet gdyby to producent modelu próbował ukryć jego faktyczną tożsamość. Mechanizm ten mógłby przeciwdziałać praktykom polegającym na cichej podmianie droższego modelu na tańszy w celu redukcji kosztów, a także na sztucznym podbijaniu wyników testów wydajnościowych przez użycie innego modelu niż deklarowany.

Narzędzie mogłoby również służyć do potwierdzania oświadczeń składanych przez firmy i inne organizacje. Dla przykładu, producent oprogramowania mógłby wykazać, że jego kod faktycznie zbadano pod kątem podatności przy użyciu zaawansowanego modelu AI. Analogicznie przedsiębiorstwo byłoby w stanie udowodnić, że ocenę jego biznesplanu przeprowadził konkretny, deklarowany model, a nie prostsze narzędzie.

Aby FlashProve działało, laboratoria zajmujące się AI musiałyby publikować kryptograficzne odciski palca (fingerprint) dla poszczególnych modeli. Takie sygnatury porównuje się następnie z uzyskanymi wynikami, co pozwala ustalić ich rzeczywiste źródło. Co istotne, odciski te nie zdradzają wag modelu, czyli jego parametrów wewnętrznych - firmy mogą więc je publikować bez ujawniania rozwiązań stanowiących ich tajemnicę handlową. System zaprojektowano z myślą o tym, by weryfikację dało się przeprowadzić lokalnie, bezpośrednio na urządzeniu użytkownika.

Specyfikację techniczną oraz kod źródłowy poszczególnych komponentów FlashProve Anthropic opublikowało na GitHub na zasadach licencji open source. Projekt znajduje się jednak dopiero na wczesnym etapie rozwoju - firma nie deklaruje na razie jego wdrożenia ani u siebie, ani w ramach współpracy z innymi laboratoriami zajmującymi się AI. Zespół badawczy udostępnił dotychczasowe wyniki prac z nadzieją, że społeczność zajmie się ich testowaniem i dalszym rozwijaniem.