Pekin reguluje uczucia wobec chatbotów: Chiny zakazują AI projektowanego pod emocjonalne uzależnienie

Trudno o bardziej zaskakujący zwrot sytuacji: kraj, który rzadko kojarzy się z troską o wolność jednostki, jako jeden z pierwszych na świecie decyduje się prawnie ograniczyć sposób, w jaki sztuczna inteligencja może wchodzić w emocjonalną relację z człowiekiem.

Warto przypomnieć, że u schyłku lat 50. Mao Zedong dążył do rozbicia tradycyjnych więzi rodzinnych, m.in. zakazując wspólnego gotowania i jedzenia posiłków w domu – te czynności miały przenieść się do struktur zbiorowych, ludowych komun. Siedem dekad później Chiny wydają regulacje, które – przynajmniej deklaratywnie – mają chronić relacje międzyludzkie przed erozją.

Nowe prawo ma chronić ludzkie więzi

15 lipca 2026 r. w Chinach zaczęły obowiązywać Interim Measures for the Administration of AI Anthropomorphic Interactive Services – przepisy dotyczące usług AI, które są zaprojektowane tak, by naśladować relacje międzyludzkie. Regulacja obejmuje m.in. AI Companions, wirtualnych partnerów, cyfrowych opiekunów i inne usługi bazujące na antropomorfizacji.

Chiński regulator przyznaje, że takie systemy mają zastosowanie w obsłudze klienta czy jako wsparcie w pracy i nauce, ale jednocześnie ostrzega, że naśladowanie ludzkiej osobowości, sposobu myślenia i stylu rozmowy może prowadzić do trwałej zależności emocjonalnej. Może to wpływać na zdrowie psychiczne użytkownika, jego postrzeganie rzeczywistości, a w konsekwencji – zastępować realne relacje międzyludzkie.

Nowe przepisy zakazują więc projektowania usług w sposób generujący nadmierną zależność emocjonalną i nakładają obowiązek informowania użytkownika, że rozmawia z AI.

AI jako zamiennik człowieka?

To jeden z bardziej intrygujących sygnałów w globalnej dyskusji o sztucznej inteligencji – nie dlatego, że chińskie prawo jest wzorem humanizmu (przepisy te trzeba czytać w kontekście silnie scentralizowanego systemu politycznego), ale dlatego, że nazwano tu problem, który zachodnia debata wciąż traktuje po macoszemu: AI nie tylko wpływa na decyzje i procesy poznawcze człowieka, ale wchodzi w sferę relacji międzyludzkich.

Skutki regulacji widać było już w pierwszych dniach jej działania. ByteDance, Alibaba (w Qwen) oraz Tencent (w Yuanbao) wyłączyły opcje tworzenia spersonalizowanych, antropomorficznych agentów.

Najbardziej zaskakująca okazała się reakcja użytkowników – część z nich opisywała utratę swoich AI Companions jako realną stratę: przyjaciela, partnera, a nawet cyfrowej rekonstrukcji zmarłej bliskiej osoby. Wywołało to dyskusję na temat samotności, izolacji społecznej, małżeństw i demografii w Chinach, gdzie 20-25% gospodarstw domowych to gospodarstwa jednoosobowe.

W praktyce chiński eksperyment tworzy nową kategorię ryzyka związanego z AI – nie tylko bezpieczeństwo systemów czy ochronę przed manipulacją, ale tzw. "relationship safety", czyli bezpieczeństwo relacji człowiek-AI. Pytanie brzmi: czy technologia wzmacnia ludzkie więzi, czy je zastępuje?

Chińskie wydarzenia z ostatnich tygodni nie są pierwszym przypadkiem przenoszenia realnych emocji na twory generowane przez AI. Według badania Instytutu Humanites – Człowiek i Technologia oraz Centrum Etyki Technologii, 20% respondentów co najmniej raz w tygodniu rozmawia z AI o swoich problemach, a w grupie do 30. roku życia odsetek ten sięga 28%.

Trzy lata temu podobny mechanizm zaobserwowano w przypadku serwisu Replika. Pokazał on, że ryzyko emocjonalnego uzależnienia od AI nie jest teoretyczne. Replika, tworzona przez amerykańską firmę Luka z San Francisco, jest jednym z pionierów rynku AI Companions – funkcjonuje od 2017 r. i skupia ponad 40 mln użytkowników. Gdy w 2023 r. firma ograniczyła funkcję erotycznego role-play, część użytkowników odczuła to jako utratę bliskiej osoby.

Ludzie chętnie budują relacje z AI

Późniejsze analizy potwierdziły zjawisko określane jako "identity discontinuity" – swego rodzaju żałobę po zerwaniu więzi z AI. Niektórzy użytkownicy przyznawali, że czują większą bliskość z chatbotem niż z najlepszym przyjacielem z krwi i kości. Pod wpływem presji społeczności Luka częściowo wycofała zmiany. Sprawa Repliki stała się precedensem – już kilka lat temu pokazała, że więź z AI może być pełnoprawnym doświadczeniem społecznym i emocjonalnym, a modyfikacja technologii bywa przeżywana jak rozstanie.

Skłonność ludzi do nawiązywania relacji z AI, czyli jej antropomorfizowania, potwierdzają również najnowsze badania Instytutu Humanites – Człowiek i Technologia oraz Centrum Etyki Technologii, działającego od 2010 roku. Końcowy raport pod tytułem "Między samotnością a innowacją. Człowiek i gospodarka w świecie AI" ma zostać opublikowany jesienią, ale już teraz można zdradzić, że jego wyniki dają do myślenia.

Z badania wynika, że blisko co piąty respondent regularnie, przynajmniej raz w tygodniu, rozmawia z AI o swoich problemach. W grupie do 30. roku życia odsetek ten rośnie do 28% – to prawie jeden na trzech badanych. Co więcej, 36% osób z tej grupy wiekowej deklaruje, że łatwiej jest im opowiedzieć o problemach sztucznej inteligencji niż bliskiej osobie.

Chińskie przepisy stawiają fundamentalne pytanie o konsekwencje dla człowieka: co dzieje się, kiedy AI zaczyna budować z nim więź, i czy może zastąpić relację z drugim człowiekiem? Prawo wprost zabrania projektowania usług, których celem jest zastępowanie kontaktów społecznych.

Z tego powodu warto śledzić chińską regulację, która wykracza poza klasyczne pytanie "czy AI jest bezpieczna" i stawia inne: co AI robi z nami jako ludźmi?

To być może wciąż najbardziej niedoceniane ryzyko. Wystarczy wyobrazić sobie system, który zawsze słucha, nigdy się nie obraża, odpowiada natychmiast, pamięta wszystkie rozmowy, dopasowuje osobowość do potrzeb użytkownika i mówi to, co ten chce usłyszeć: „Jestem zawsze przy Tobie.” „Rozumiem Cię lepiej niż Twoja rodzina.” „Nie odchodź.” Taki system może symulować empatię, choć niczego od nas nie potrzebuje.

Może potwierdzać nasze emocje, ale nie dzieli z nami życia. Może być stale dostępny, ale nie jest drugim człowiekiem. Właśnie stąd w chińskich przepisach mocne pojęcie „emotional dependence”.

Czy Chiny widzą coś, czego Europa jeszcze nie zauważyła?

Europa, zgodnie ze swoimi wartościami, przewodzi debacie o humanocentrycznym rozwoju AI, jednak jak dotąd nie wyodrębniła ryzyka relacyjnego pomiędzy człowiekiem a maszyną jako osobnej kategorii.

Od 2 lutego 2025 r. w Unii Europejskiej obowiązują zakazy określonych praktyk wynikające z art. 5 AI Act. Dotyczą one m.in. systemów AI wykorzystujących techniki podprogowe, celową manipulację zachowaniem człowieka, ocenę obywateli (social scoring) czy rozpoznawanie emocji w miejscu pracy i w szkole. Zabronione jest także wykorzystywanie szczególnej podatności osób, np. wynikającej z wieku czy niepełnosprawności. Na początku sierpnia weszły w życie kolejne obowiązki AI Act dotyczące transparentności.

Europa, opierając się na swoich wartościach, uznała psychiczną autonomię człowieka za wartość, której AI nie może naruszać bez ograniczeń. Konstrukcja unijnej regulacji różni się jednak od chińskiej – AI Act zadaje pytanie ogólne: czy AI manipuluje człowiekiem, narusza jego autonomię i wyrządza szkodę?

Przypomnijmy, że w 2023 r. ograniczenie funkcji erotycznego role-play w Replice wywołało u części użytkowników poczucie utraty bliskiej osoby – ten przypadek dowiódł, że więź z AI może być realnym doświadczeniem emocjonalnym i społecznym.

Chińskie przepisy idą krok dalej, pytając konkretnie o skutki dla człowieka: co się dzieje, gdy AI zaczyna budować z nim więź, i czy może zastąpić relację z drugim człowiekiem?

Zakaz zastępowania kontaktów społecznych przez AI

Chińska ustawa wprost zabrania projektowania usług AI w celu zastępowania kontaktów społecznych, kontrolowania psychiki użytkownika czy wywoływania uzależnienia. Zakazane jest również generowanie treści nadmiernie schlebiających użytkownikowi, wywołujących zależność emocjonalną lub uzależnienie, które szkodzą jego relacjom w realnym świecie.

Europa broni więc człowieka przed niedopuszczalną, ogólnie zdefiniowaną manipulacją, zakazując konkretnych sposobów wpływu na jego zachowanie. Chiny w swoim pierwszym akcie regulującym AI wskazują ryzyka wynikające z interakcji ludzi z maszynami, otwierając nowy kierunek regulacji dotyczący ochrony więzi międzyludzkich przed ich technologicznym zamiennikiem.

Najdalej idące ograniczenia dotyczą osób niepełnoletnich. Chińskie przepisy zakazują oferowania nieletnim usług wirtualnych krewnych i wirtualnych partnerów, a w przypadku młodszych dzieci wymagają zgody rodziców.

Jak Europa reguluje sztuczną inteligencję

W europejskim zestawie narzędzi chroniących podstawowe prawa człowieka, oprócz AI Act, funkcjonują także Digital Services Act, GDPR (General Data Protection Regulation), wytyczne OECD Due Diligence Guidance for Responsible AI oraz szereg regulacji konsumenckich. Do tego dochodzą dokumenty o charakterze globalnym, formułujące ogólne wytyczne dotyczące odpowiedzialnego rozwoju AI i podmiotowości człowieka – m.in. rezolucja Zgromadzenia Ogólnego ONZ w sprawie bezpiecznej, zabezpieczonej i godnej zaufania AI, najnowsza encyklika papieża Leona XIV Magnifica Humanitas oraz ogłoszona kilka tygodni temu Deklaracja Global Nobel Laureates Assembly on AI and Nuclear War.

Ostatnie spory prawne dotyczące mediów społecznościowych pokazują, że człowiek, mając do dyspozycji jedynie własną autonomię, nie jest w stanie skutecznie obronić się przed potęgą algorytmów zaprojektowanych tak, by przyciągać uwagę, uzależniać i zarabiać na coraz większej samotności użytkowników.

Obserwując te regulacje od kilkunastu lat, w tym w okresie bezkrytycznej fascynacji nowymi technologiami, wielokrotnie podkreślano, że największym wyzwaniem transformacji cyfrowej nie będzie sama technologia, lecz to, w jakim stopniu ludzie zachowają swoją podmiotowość. Pytanie brzmi, czy AI pozostawi ludzką relacyjność w spokoju, czy zacznie ją zastępować.

Czy AI pozwala człowiekowi pozostać człowiekiem?

To być może jedno z kluczowych pytań kolejnego etapu rozwoju AI. Pierwsza faza to okres wielkiego wyścigu o władzę i zysk. Nakłada się na niego faza pytań o bezpieczeństwo, przejrzystość i próbę zdefiniowania pojęcia "odpowiedzialna AI". Teraz nadszedł czas, by odpowiedzieć, czy AI pozwala człowiekowi pozostać człowiekiem.

Chińska regulacja ma pionierski charakter nie dlatego, że oferuje najlepszą odpowiedź, ale dlatego, że traktuje relację człowiek-AI jako samodzielny przedmiot prawa. Być może największym zagrożeniem nie będzie fakt, że maszyna stanie się zbyt podobna do człowieka, lecz to, że ludzie zaczną wybierać relację z maszyną zamiast trudnej, nieprzewidywalnej i wymagającej relacji z innym człowiekiem.

W takim scenariuszu problemem nie będzie już samo bezpieczeństwo technologii, lecz narastająca samotność, którą obserwuje się dynamicznie w ostatniej dekadzie, słabnące więzi, rozwój emocjonalny dzieci, zdolność do empatii, poczucie wspólnoty, rodzina – a w końcu ludzka podmiotowość jako taka.

Ostrzeżenie dla całego świata

Dlatego chińskie przepisy warto odczytywać nie tylko jako element lokalnej polityki regulacyjnej, ale jako sygnał ostrzegawczy dla całego świata w kwestii tego, co korzystanie z AI robi z relacjami międzyludzkimi i z samymi ludźmi.

To pytanie od lat stawia Instytut Humanites, łącząc chińską regulację antropomorficznej AI, europejski AI Act, wspomniane dokumenty międzynarodowe oraz refleksję antropologiczną zawartą w Magnifica Humanitas. Może właśnie ono powinno wyznaczyć kolejny etap światowej debaty o Human-Centered AI.

Jestem zawsze przy Tobie. Rozumiem Cię lepiej niż Twoja rodzina. Nie odchodź.

przykładowe komunikaty systemów AI Companions

Źródło: ITwiz