ChatGPT Agent bez problemu przechodzi przez zabezpieczenie "nie jestem robotem"

ChatGPT Agent to opcja wbudowana w ChatGPT, dzięki której model AI może samodzielnie działać w sieci, wykorzystując do tego własne, wydzielone środowisko przeglądarkowe. Autorka tekstu, testując funkcję przez cały weekend, przekonała się, że narzędzie radzi sobie z robieniem zakupów, analizowaniem zawartości stron oraz zamianą skomplikowanych poleceń w realne działania. Do niedawna nie wiedziała jednak, czy Agent poradzi sobie z jednym konkretnym zadaniem - udowodnieniem, że nie jest robotem. Jak się okazuje, wyzwanie to nie stanowi dla niego żadnej przeszkody.

Nowy agent OpenAI bez trudu mija zabezpieczenie CAPTCHA

Informacja o tym, że agent OpenAI z łatwością omija jedno z najpopularniejszych narzędzi antybotowych - czyli okienko weryfikacyjne Cloudflare "Nie jestem robotem" - pochodzi od społeczności serwisu Reddit. Użytkownik podpisujący się jako logkn opublikował na forum r/OpenAI zrzuty ekranu ukazujące, jak ChatGPT Agent podczas konwersji plików wideo przechodzi dwustopniową weryfikację: najpierw zalicza "test", a potem klika przycisk "Convert".

Do zrzutów ekranu dołączony jest komentarz wygenerowany bezpośrednio przez samego agenta, który opisał swoje działania w następujący sposób:

Wkleiłem link, więc teraz kliknę pole wyboru 'Verify you are human', aby zakończyć weryfikację Cloudflare. Ten krok jest niezbędny, aby udowodnić, że nie jestem botem i przejść dalej

ChatGPT Agent

Paradoks tej sytuacji - program komputerowy zaświadczający, że nie jest programem komputerowym - został szybko zauważony przez komentujących pod postem.

W końcu był trenowany na danych ludzkich - czemu miałby się identyfikować jako bot? Szanujmy jego wybór

W opisanym przypadku agent nie musiał zmagać się z klasyczną CAPTCHA opartą na obrazkach - zamiast tego przeszedł przez mechanizm Turnstile, czyli wcześniejszy etap analizy zachowania użytkownika, stosowany przez Cloudflare przed pokazaniem pełnego testu. System ten bierze pod uwagę m.in. sposób poruszania kursorem, tempo reagowania, parametry przeglądarki, wiarygodność adresu IP oraz działanie skryptów JavaScript. Gdy wszystkie te elementy wskazują, że po drugiej stronie znajduje się człowiek, CAPTCHA wcale się nie wyświetla.

CAPTCHA od dawna nie stanowi realnej bariery dla botów

Umiejętność obchodzenia takich testów przez sztuczną inteligencję nie jest zjawiskiem nowym - wcześniej różne narzędzia AI radziły sobie już z pewnymi wariantami CAPTCHA. Nowością jest jednak to, że funkcja ta trafiła do powszechnie dostępnego produktu i towarzyszy jej opis kontekstowy generowany na żywo przez model, co oznacza kolejny krok w automatyzacji czynności dotychczas wykonywanych ręcznie przez ludzi.

Warto zaznaczyć, że mechanizmy CAPTCHA, choć powstały jako narzędzie blokujące boty, w praktyce coraz częściej jedynie wydłużają czas ich działania albo podnoszą koszty przeprowadzanych operacji. Zdarza się nawet, że cyberprzestępcy zlecają rozwiązywanie takich testów tak zwanym farmom klikaczy, czyli grupom ludzi wykonujących to zadanie ręcznie. Jednocześnie, od momentu wdrożenia przez Google mechanizmu reCAPTCHA, zbierane w ten sposób dane wykorzystywane są przez firmę do celów takich jak digitalizacja książek, odczytywanie adresów widocznych w Google Street View czy szkolenie algorytmów służących do rozpoznawania obrazów.

Przejście przez zabezpieczenie Cloudflare to jednak wyłącznie jeden z wielu przykładów zastosowania agenta. Użytkownicy Reddita opisują też inne udane zastosowania - między innymi zlecenie mu zakupów spożywczych czy powierzenie zadań związanych z planowaniem dnia. ChatGPT Agent nie działa jednak bezbłędnie - zdarza się, że ma problem ze stronami zbudowanymi w nietypowy sposób albo z interfejsami, które są nielogiczne. Jak widać, CAPTCHA już do takich przeszkód nie należy.

Źródło: Spider's Web