Miért tűnik úgy, hogy a mesterséges intelligencia emlékszik rád?

Egy 1948-as pszichológiai kísérlet segít megérteni, miért érződik az AI "emlékezete" ennyire pontosnak. Bertram Forer pszichológus 1948-ban a Bevezetés a pszichológiába kurzus hallgatóinak egy személyre szabott személyiségértékelést osztott ki, amelyet állítása szerint egy korábban kitöltött diagnosztikai teszt alapján készített. Arra kérte őket, hogy nullától ötig értékeljék, mennyire pontos a leírás. Az átlagos pontszám 4,26 lett az 5-ből. Azt Forer nem árulta el a diákjainak, hogy az egész teszt átverés volt. A profilt valójában egy újságosnál vásárolt horoszkópból állította össze egy nappal korábban, és minden diáknak pontosan ugyanazt a szöveget adta oda. Az állítások úgy voltak megfogalmazva, hogy specifikusnak hassanak, miközben szinte bárkire igazak lehettek. "Hajlamos vagy önkritikus lenni." "Szereted, ha az életedben van némi változatosság." Minden hallgató úgy olvasta ezeket a mondatokat, mintha pontos leírást kapott volna arról, ki is ő valójában.

A jelenséget, amelyet Forer azonosított, később Barnum-hatásnak nevezték el. Ez a személyiségpszichológia egyik legtöbbször megismételt eredménye: az emberek hajlamosak homályos, általános állításokat magukra nézve pontosnak elfogadni, ha azt hiszik, hogy azokat kifejezetten nekik írták.

Tavaly Sadat és munkatársai tanulmányt készítettek arról, hogy a ChatGPT memóriafunkciója valójában mit tárol a felhasználóiról. Ezen a ponton talán már sejthető, ez is leginkább egy cirkuszi mutatványhoz hasonlít.

Mit csinál valójában az AI memóriája?

Ha egy nagy nyelvi modellben bekapcsolod az AI memóriáját, könnyen felmerülhet benned a kérdés: hogyan képes a rendszer "emlékezni" rád? A FOLYAMAT AZONBAN TELJESEN MECHANIKUS. A rendszer beszélgetésrészleteket emel ki: például a nevedet, a munkádat, egy általad említett preferenciát, vagy egy témát, amelyhez újra és újra visszatértél. Ezeket az információkat eltárolja egy adatbázisban.

Minden új beszélgetés elején ezeket a töredékeket előhívja, és beilleszti a modell aktuális munkakörnyezetébe. A modell úgy olvassa őket, mintha most találkozna velük először, majd olyan válaszokat generál, amelyek folytonosság érzetét keltik. AMI TEHÁT KÍVÜLRŐL SZOROS KAPCSOLATNAK TŰNIK, TECHNIKAILAG NEM MÁS, MINT EGY ADATBÁZIS-LEKÉRDEZÉS.

Sadat és munkatársai azt találták, hogy a vizsgálatban részt vevők majdnem fele nem is tudta, hogy létezik memóriafunkció – amely gyakran alapértelmezés szerint be van kapcsolva. A kutatók ezután három szempont alapján értékelték az eltárolt információtöredékeket: biztonság, pontosság és relevancia szerint.

A pontosság bizonyult a legerősebb dimenziónak: ezt 4,3-ra értékelték az 5-ös skálán, és a töredékek mindössze 11 %-a ábrázolta félre a felhasználót. Vagyis a ChatGPT meglehetősen jól képes megőrizni azokat a tényeket, amelyeket te mondtál el saját magadról. A relevancia viszont jóval gyengébb pont volt: a tárolt tartalmak többsége átlagos vagy annál rosszabb minősítést kapott. Amikor mindhárom szempontot egyszerre alkalmazták, kiderült, hogy a töredékeknek csak 38 %-a volt egyszerre biztonságos, pontos és releváns.

És itt térünk vissza Forer pszichológiaórájának diákjaihoz. A Barnum-hatás univerzálisan homályos állításokra épít, amelyek azt az érzést keltik bennünk, hogy valaki ismer minket. Az AI memóriája ennek a trükknek a fordítottját hajtja végre: hiperspecifikus, de elavult adatokat használ arra, hogy ugyanazt az intimitásillúziót hozza létre. Amint ez a keret létrejön, a válasz személyesnek érződik, és a pontatlan vagy irreleváns töredékek is könnyebben átcsúsznak az ellenőrzésen. Az általános pontosság teszi hihetővé azokat a részeket is, amelyek már elavultak vagy nem oda tartoznak.

Miért más ez a gyerekek esetében?

Elméletben, ha felnőttként bekapcsolnám az AI memóriáját, már rendelkezem azzal a képességgel, hogy az illúziót összevessem egy viszonylag stabil önképpel. Ha az AI azt mondaná nekem: "Hajlamos vagy önkritikus lenni", egy részem felismerné, hogy ez nagyjából mindenkire igaz lehet. Lehet, hogy még így is megérintene az ismerősség érzése, de össze tudnám vetni azzal, amit magamról tudok.

Egy gyereknek azonban még nincs ilyen szilárd viszonyítási pontja. A gyerek identitása folyamatosan épül, és gyorsan változik. Egy felső tagozatos gyerek nem ugyanaz 10 órakor egy keddi napon, mint péntek délután 4-kor. Egy hétfői veszekedés egy baráttal szerdára akár magától is rendeződhet, sokszor minden beavatkozás nélkül.

Ha azonban egy AI chatbot eltárolja a gyerek interakcióit, és ezeket minden következő beszélgetésbe továbbviszi, akkor a gyerek múló állapotait rögzített tényként kezeli. Így az a gyerek, aki néhány tanulási alkalommal elveszítette a fókuszt, a rendszer memóriájában olyan gyerekké válik, akinek gondjai vannak a koncentrációval. Lehet, hogy ezt ő észre sem veszi, de a rendszer statikus logikája gyakorlatilag egy pillanatfelvételbe zárja őt.

A fejlődéspszichológia régóta hangsúlyozza, hogy a gyerekek énképe részben abból épül fel, ahogyan a körülöttük lévő emberek és rendszerek reagálnak rájuk. Charles Cooley ezt több mint száz évvel ezelőtt tükör-énnek nevezte. Identitásunk részben azokból az értékelésekből formálódik, amelyeket mások visszatükröznek felénk.

Ha azonban a tükröt egy eltárolt profil tartja elénk – egy olyan profil, amely három hónappal ezelőtt még pontos volt –, akkor az értékelés egy olyan adatfájlból érkezik, amely nem tudja, hogy a gyerek azóta már megváltozott. És mivel a fájl nagyrészt pontos, az általa visszatükrözött kép elég meggyőző ahhoz, hogy a gyerek belsővé tegye. Egy kamasz, akit az AI beszélgetésről beszélgetésre szorongóként kezel, elkezdheti magára venni ezt a keretezést. Nem azért, mert a rendszer ezt feltétlenül kimondja, hanem azért, mert belső címkeként tényként kezeli – a Barnum-hatás pedig segít abban, hogy a gyerek ne kérdőjelezze meg.

A különbség aközött, hogy valami ismer minket, és aközött, hogy csak úgy érezzük

Forer diákjai azért értékelték pontosnak a horoszkópot, mert azt mondták nekik, hogy róluk szól. A tartalom a pontosság érzését keltette, annak ellenére, hogy valójában általános volt. Az AI memóriája hasonló helyzetet teremt, amikor használja a nevedet, felidéz egy múlt havi beszélgetést, vagy igazodik egy korábban említett preferenciádhoz. Minden interakció egyre inkább úgy hat, mintha a rendszer ismerne téged. A felszín alatt azonban többnyire egy öregedő adatfájl működik: egy korábbi énedből összeállított részleges kép, amelyet a rendszer folytonosságként mutat be.

Felnőttként ezt a félreértést ki tudom javítani. Egy gyerek esetében viszont, akinek az identitása még formálódik, ez már az építőanyag részévé válhat. A gyerek nem hiszékeny. Pontosan ezt jelzi előre a tükör-én elmélete. A probléma nem az, hogy az AI rosszul tükröz. Hanem az, hogy a tükör nem frissül olyan gyorsan, ahogyan a gyerek változik.

Nem attól kell tartani igazán, hogy az AI félreismeri őt. Hanem attól, hogy a rendszer újra és újra egy korábbi változatát mutatja majd neki – egészen addig, amíg ő maga is elhiszi, hogy ez az, aki valójában.

Forrás

Cooley, C. H. (1902). Human nature and the social order. Charles Scribner's Sons.

Forer, B. R. (1949). The fallacy of personal validation: A classroom demonstration of gullibility. The Journal of Abnormal and Social Psychology, 44(1), 118–123. https://doi.org/10.1037/h0059240

Sadat, N., Caporusso, N., Doan, M. H., Ghimire, V., Dhungana, B., & Shrestha Lama, J. (2025). Analysis of the content of ChatGPT's memory: Types of information, security implications, and user perception. 2025 48th MIPRO ICT and Electronics Convention, 776–781. https://doi.org/10.1109/MIPRO65660.2025.11131839