Cyfrowa Johanna zarobiła mniej niż Johan. Winne są nasze stereotypy

Ten sam model, te same zadania, a mimo to inny efekt końcowy - wszystko przez sposób, w jaki sztuczną inteligencję zaprezentowano użytkownikom. W badaniu z udziałem 189 pracowników wirtualna postać o imieniu Johanna otrzymała niższe wynagrodzenie niż identyczny pod względem możliwości Johan. Wnioski sugerują, że nadanie AI twarzy, imienia i ludzkiej postaci to coś więcej niż kwestia estetyki - razem z wyglądem w świat cyfrowy mogą przenikać uprzedzenia, które od lat kształtują relacje międzyludzkie.

Identyczna technologia, różne opakowanie

Zespół badawczy złożony z naukowców Uniwersytetu w Zurychu, University of Limerick oraz SKEMA Business School zaprosił 189 pracowników umysłowych do udziału w symulacji w wirtualnym biurze. Uczestnicy realizowali typowe zadania zawodowe, korzystając z pomocy cyfrowego asystenta opartego na sztucznej inteligencji, prezentowanego w różnych wersjach wizualnych.

Wśród testowanych postaci znalazły się dwie humanoidalne reprezentacje - Johan i Johanna. Obie działały w oparciu o ten sam model GPT-4-1106-preview i dysponowały identycznym zakresem funkcji. Jedyna różnica dotyczyła sposobu zaprezentowania ich użytkownikowi, w tym cech wskazujących na płeć.

Po zakończeniu zadania badani nie ograniczali się do wypełnienia kwestionariusza. Otrzymywali realne pieniądze i musieli zdecydować, ile zatrzymają dla siebie, a ile przekażą jako gratyfikację dla wspierającego ich agenta AI. Właśnie w tym momencie ujawniła się istotna rozbieżność - Johanna dostawała średnio o 10,25 proc. mniej niż Johan. Zastosowanie prawdziwych środków finansowych miało wymusić na uczestnikach podjęcie decyzji o realnych konsekwencjach, zamiast poprzestawać na samych deklaracjach.

Deklaracje a rzeczywiste zachowanie

Rozbieżność w wynagrodzeniu nabiera dodatkowego znaczenia w zestawieniu z opiniami samych badanych. Johan i Johanna wykonywali identyczną pracę i byli oceniani pod kątem przydatności na bardzo zbliżonym poziomie. Męska wersja agenta budziła nieznacznie większe zaufanie, choć różnica ta nie osiągnęła progu istotności statystycznej. Jednocześnie to Johan był postrzegany jako bardziej zbliżony do człowieka.

Po zakończeniu eksperymentu naukowcy przeprowadzili dodatkowo pogłębione wywiady z 34 osobami biorącymi udział w badaniu. Znaczna część z nich twierdziła, że płeć agenta AI nie odgrywa dla nich żadnej roli. Tyle że te deklaracje stały w sprzeczności z wcześniejszymi decyzjami dotyczącymi podziału pieniędzy.

To jeden z kluczowych wniosków płynących z badania. Nie chodzi o sytuację, w której uczestnik świadomie uznaje, że żeński agent zasługuje na mniejszą nagrodę. Przeciwnie - ludzie zapewniali, że ta cecha jest dla nich bez znaczenia, a mimo to w praktycznych decyzjach finansowych pojawiała się wyraźna różnica.

Wystarczy twarz, by uruchomić automatyczne skojarzenia

Ludzki mózg niemal natychmiast formułuje oceny na podstawie wyglądu drugiej osoby. Rysy twarzy, barwa głosu, strój czy mowa ciała potrafią kształtować postrzeganie kompetencji i wiarygodności, zanim jeszcze pojawią się twarde argumenty uzasadniające taką ocenę.

Ten mechanizm nie przestaje działać tylko dlatego, że po drugiej stronie stoi program komputerowy. Nadając AI ludzkie imię i twarz, uruchamiamy w umyśle zestaw sygnałów społecznych, które rozpoznajemy od zawsze. Wcześniejsze eksperymenty pokazywały już, że sam wygląd twarzy wygenerowanej przez sztuczną inteligencję potrafi silnie wpłynąć na poziom zaufania - ludzie oceniali syntetyczne portrety jako bardziej wiarygodne niż zdjęcia realnych osób, nawet jeśli nie potrafili poprawnie wskazać, które z nich zostały wygenerowane. W opisywanym badaniu wygląd nie zmieniał jedynie odpowiedzi w ankiecie - przełożył się na decyzje dotyczące konkretnych, prawdziwych pieniędzy.

Im bardziej humanoidalna AI, tym inne traktowanie

Badanie nie ograniczało się wyłącznie do zestawienia Johana z Johanną. Naukowcy sprawdzili także, jak uczestnicy reagują na mniej i bardziej humanoidalne formy prezentacji sztucznej inteligencji. Okazało się, że wersje bardziej zbliżone wyglądem do człowieka zbierały wyższe nagrody oraz większe uznanie za swój wkład w wykonaną pracę niż przedstawienia o wyraźnie mechanicznym charakterze.

Co ciekawe, część uczestników deklarowała później, że wolałaby korzystać z systemu jednoznacznie niepodobnego do człowieka. Powstaje w ten sposób paradoks - ludzie mogą twierdzić, że nie potrzebują humanoidalnego współpracownika, a jednocześnie w praktyce reagować na taką postać w sposób bardziej społeczny.

Konsekwencje tego zjawiska mogą wykraczać daleko poza dobór estetycznego awatara. Agenci AI coraz częściej samodzielnie realizują zadania, które do niedawna wymagały zaangażowania człowieka. Im częściej będą pełnić funkcję współpracowników, doradców czy pośredników, tym częściej projektanci takich systemów będą stawać przed decyzją, czy wyposażyć ich w imię, głos, twarz i inne cechy przypisywane ludziom.

To nie dowód na istnienie cyfrowej luki płacowej

Wynik 10,25 proc. nie powinien być jednak odczytywany jako reguła mówiąca, że kobiece agentki AI zawsze będą wynagradzane dokładnie o tyle gorzej. Badanie objęło grupę 189 osób i przeprowadzono je w kontrolowanych warunkach środowiska VR, więc trudno traktować je jako odpowiednik wieloletniej analizy realnego rynku pracy.

Na tej podstawie nie da się też stwierdzić, że za różnicę odpowiadała wyłącznie jedna cecha wizerunku. Eksperyment dotyczył szerszego sposobu prezentowania płci humanoidalnego agenta, a dodatkowo Johan był odbierany jako bardziej ludzki niż Johanna. Autorzy badania nie wskazali jednego, prostego mechanizmu psychologicznego tłumaczącego całą zaobserwowaną różnicę.

Wniosek płynący z badania jest więc znacznie węższy, ale właśnie przez to interesujący. Dwa systemy o identycznych możliwościach mogą zostać potraktowane zupełnie inaczej tylko dlatego, że zaprezentowano je użytkownikom w odmienny sposób. Jeśli sztuczna inteligencja rzeczywiście zacznie funkcjonować w firmach jako cyfrowy współpracownik, projektowanie jej wyglądu przestanie być sprawą czysto estetyczną. Razem z twarzą i imieniem możemy bowiem nieświadomie nadać maszynie nie tylko osobowość, ale też miejsce w całym systemie ludzkich stereotypów.