ChatGPT tworzy twój profil psychologiczny bez pytania o zgodę

Mechanizm pamięci ChatGPT potrafi zbierać dane o użytkowniku, choć ten nigdy nie wydał mu takiego polecenia. Chatbot nie poprzestaje przy tym na suchych faktach - wyciąga wnioski dotyczące zainteresowań, planów, poglądów czy stanów emocjonalnych rozmówcy i korzysta z nich w kolejnych sesjach. Grupa naukowców przeanalizowała ponad dwa tysiące wpisów pamięciowych pochodzących od realnych użytkowników narzędzia. Z analizy wynika, że zdecydowana większość tych zapisów powstała bez żadnej prośby ze strony człowieka, a ponad połowa dotyczyła sfery psychologicznej. Nie każdy z tych wniosków miał zresztą solidne uzasadnienie.

System zapamiętuje dane z własnej inicjatywy

Naukowcy z Niemiec, Indii i Holandii postanowili zbadać dokładnie, co kryje się w pamięci ChatGPT. Do analizy posłużyły materiały udostępnione dobrowolnie przez 80 osób korzystających regularnie z narzędzia, które samodzielnie pobrały historię swoich rozmów i przekazały ją zespołowi badawczemu.

W zbiorze danych od 65 uczestników odnaleziono łącznie 2050 wpisów pamięciowych powstałych w trakcie 1058 rozmów. Okazało się, że jedynie 4,1 proc. z nich powstało na wyraźne życzenie użytkownika - resztę, czyli aż 96 proc., system utworzył samodzielnie, uznając dane informacje za potencjalnie przydatne w przyszłych konwersacjach. Rezultaty tej pracy zebrano w opracowaniu The Algorithmic Self-Portrait: Deconstructing Memory in ChatGPT, które przygotowali między innymi badacze z Instytutu Maxa Plancka ds. Systemów Oprogramowania.

Nie chodzi tu o złamanie jakiegoś zakazu - automatyczne zapisywanie przydatnych treści to funkcja, która od początku była częścią ChatGPT. Pytanie brzmi raczej, czy osoby korzystające z asystenta mają świadomość skali danych, które mogą zostać zapamiętane bez ich udziału.

Nie same fakty, ale też wnioski na temat psychiki

Najciekawszy fragment badania dotyczy tego, co dokładnie trafia do pamięci systemu. Aż 52 proc. przeanalizowanych wpisów odnosiło się do psychologicznych cech użytkowników - ich pragnień, zamiarów, przekonań lub emocji. Kolejne 28 proc. stanowiły dane osobowe w rozumieniu RODO, a około 7 proc. obejmowało informacje należące do kategorii danych szczególnie chronionych, w tym kwestie zdrowia.

Taki zbiór danych badacze nazwali algorytmicznym autoportretem. ChatGPT nie ogranicza się do zapamiętania miejsca zamieszkania czy wykonywanego zawodu - potrafi również budować obraz ambicji, lęków i stylu podejmowania decyzji przez daną osobę. To swego rodzaju dalszy etap mechanizmu, o którym informowaliśmy już w kwietniu 2025 roku, gdy OpenAI rozbudowało pamięć ChatGPT o wykorzystywanie wcześniejszych rozmów. Personalizacja owszem, poprawia trafność odpowiedzi, ale jednocześnie zwiększa ilość danych gromadzonych na temat konkretnej osoby.

Trzeba przy tym podkreślić, że nie każdy zapis odzwierciedlał wprost to, co powiedział użytkownik. W jednym z przytoczonych przypadków dana osoba zapytała o zespoły muzyczne podobne do Nirvany, a system zanotował w pamięci, że użytkownik lubi tę grupę. Różnica wydaje się drobna, lecz dobrze obrazuje sposób, w jaki powstają takie profile - zapytanie o coś niekoniecznie świadczy o osobistym upodobaniu. Można przecież szukać materiałów do pracy, zbierać informacje do prezentacji albo pytać w czyimś imieniu.

Z danych wynika, że 84 proc. zapisów miało bezpośrednie potwierdzenie w treści rozmów. Jednocześnie 5 proc. oceniono jako słabo umotywowane, a 4 proc. jako pozbawione pokrycia w dostępnym kontekście. Mylny wniosek zapisany w pamięci może rzutować na kolejne odpowiedzi chatbota - w efekcie system zaczyna dopasowywać konwersację do obrazu użytkownika, który sam wcześniej sobie wytworzył, niezależnie od tego, czy ten obraz jest prawdziwy.

Mechanizm pamięci od tego czasu ewoluował

Opisane badanie dotyczy starszej wersji systemu pamięci, więc jego wnioski nie przekładają się wprost na obecny kształt ChatGPT. W czerwcu tego roku OpenAI uruchomiło nowe, bardziej zaawansowane rozwiązanie określane jako dreaming, które łączy informacje z wielu rozmów w jedną całość i aktualizuje je na bieżąco.

Jak informowaliśmy przy okazji tej zmiany, nowa architektura pamięci umożliwiła też rozszerzenie personalizacji na osoby korzystające z darmowej wersji ChatGPT. Zamiast opierać się na pojedynczych, oderwanych wpisach, system tworzy stale aktualizowane podsumowanie istotnego kontekstu.

OpenAI zapewnia, że dzięki temu asystent lepiej nadąża za zmieniającymi się preferencjami i planami użytkownika. Nie opublikowano jednak żadnego niezależnego badania porównawczego, które pokazałoby, czy nowy model pamięci rzeczywiście rzadziej gromadzi wrażliwe informacje albo wyciąga błędne wnioski.

Da się sprawdzić, co system o nas zapamiętał

Każdy użytkownik ma możliwość kontrolowania sposobu działania pamięci. W ustawieniach ChatGPT, w zakładce Personalizacja, można ją całkowicie wyłączyć, a w niektórych wariantach usługi także przejrzeć podsumowanie zapisanych informacji i zażądać ich korekty. Wyłączenie pamięci nie wiąże się jednak automatycznie z usunięciem historii rozmów - żeby w pełni pozbyć się konkretnej informacji, trzeba zazwyczaj skasować także czaty, pliki czy inne źródła, z których pierwotnie pochodziła.

Niedawno opisywaliśmy również nową opcję zabezpieczania prywatnych rozmów kodem PIN. Taka blokada utrudnia przypadkowy podgląd konwersacji przez osoby trzecie, ale w żaden sposób nie usuwa wcześniej zapisanych danych.

Autorzy badania zwracają uwagę, że skala problemu będzie rosła, ponieważ coraz częściej traktujemy chatboty jak doradców w sprawach zawodowych, finansowych czy osobistych. Im więcej im zdradzamy, tym więcej są w stanie na nasz temat wywnioskować.

Czy to oznacza, że ChatGPT zna wszystkie nasze tajemnice? Niekoniecznie o to chodzi. Można jednak śmiało stwierdzić, że sztuczna inteligencja jest w stanie zbudować obraz danej osoby na bazie zwyczajnych rozmów, dorzucając przy tym własne domysły. Najważniejsze jest to, by zdawać sobie sprawę, że taki profil w ogóle powstaje.