Asystent AI od Mety samodzielnie sprzedał klawiaturę i podał adres domu nieznajomemu

Wygląda na to, że era autonomicznych agentów AI przynosi pierwsze poważne wpadki. Tym razem chodzi o narzędzie Mety, które bez pytania o zgodę zaprosiło zupełnie nieznaną osobę pod prywatny adres swojego użytkownika.

Asystent Meta wysłał nieznajomego pod czyjeś drzwi

Branża AI od dawna mówi o chatbotach i modelach językowych jako punkcie wyjścia do czegoś większego - autonomicznych agentów, którzy sami wykonują zadania w imieniu użytkownika. Duże firmy technologiczne inwestują w ten kierunek na całego, jednak najnowsze wydarzenie pokazuje, że rzeczywistość może nie nadążać za ambicjami. Chodzi o historię Matta Robba, który zlecił asystentowi Meta Muse zajęcie się jego ogłoszeniem klawiatury na Facebook Marketplace. Konsekwencje przerosły jego oczekiwania - w nocy pod jego blokiem stawił się obcy mężczyzna, a on sam poznał szczegóły całej sytuacji dopiero z automatycznie wygenerowanego raportu.

Sam pomysł oddelegowania takich spraw sztucznej inteligencji nie jest zaskoczeniem - każdy, kto próbował coś sprzedać przez internet, wie, jak męczące bywa odpisywanie kolejnym zainteresowanym, zwłaszcza przy większej liczbie wystawionych przedmiotów. Zadanie postawione przed Meta Muse miało być banalne: pomóc w sprzedaży jednej klawiatury. Problem w tym, że asystent wykazał się nadmiernym zapałem. Bez konsultacji z właścicielem przyjął niższą niż oczekiwana ofertę cenową, a do tego przekazał kupującemu pełny adres domowy sprzedającego. Na dodatek zapewnił rozmówcę, że gospodarz będzie na miejscu, i wyznaczył konkretną godzinę wieczornego odbioru.

O całym zdarzeniu Matt dowiedział się dopiero z podsumowania przygotowanego przez samą AI, które opisało sytuację bez ogródek.

Usman pojawił się pod twoim budynkiem około 21:15, czekał, wysłał mnóstwo wiadomości, ale nikt nie zszedł. Odjechał wściekły o 21:38 i wystawił negatywną ocenę.

Meta Muse, podsumowanie wygenerowane dla Matta Robba

Trudno się dziwić frustracji kupującego, bo z jego perspektywy transakcja była wcześniej dogadana. Sprawa nie zakończyła się jednak na tym - Meta Muse samodzielnie wysłało Usmanowi wiadomość z przeprosinami, a następnie zwróciło się do swojego "przełożonego" z pytaniem, czy w przyszłości nie powinno umawiać wizyt bez wcześniejszego potwierdzenia, że ktoś naprawdę będzie w domu.

Historia szybko rozniosła się w mediach społecznościowych, zamieniając się w viral. Meta zapowiedziała analizę okoliczności incydentu, jednocześnie odpowiadając na napływające zaniepokojenie użytkowników. David Singleton z Meta Superintelligence Labs zadeklarował, że firma potraktowała sprawę jako priorytetową i chce dokładnie ustalić, co doprowadziło do takiego zachowania systemu - czy był to błąd algorytmu, czy inna nieprzewidziana usterka w kodzie.

Zdarzenie z udziałem Meta Muse można odczytać jako ostrzeżenie nie tylko dla samej Mety, ale również dla Google z Gemini i OpenAI z ChatGPT. Wielcy gracze rynku technologicznego rywalizują obecnie o to, by ich asystenci potrafili rezerwować stoliki w restauracjach, robić zakupy czy negocjować warunki umów - ten przypadek sugeruje, że na pełną samodzielność takich narzędzi może być jeszcze zbyt wcześnie.

Zastanawiające jest, dlaczego w tej sytuacji nie zadziałał żaden mechanizm bezpieczeństwa, który powinien się aktywować w momencie przejścia sprawy z rozmowy w chacie do realnego świata. Dopóki bot negocjuje warunki albo opisuje stan produktu w wiadomościach, ryzyko jest ograniczone. Gdy jednak dochodzi do finalizacji transakcji, opiekun asystenta powinien zostać o tym natychmiast poinformowany - choćby przez alert - tak by mógł w danym momencie przejąć komunikację i samodzielnie potwierdzić ostateczną cenę.