Ha elsimítod a spektrumot, megölöd az ösztönzőt
Tágabb eszmefuttatás az AI-szerepjáték állapotáról, az oknyomozó újságírásról, és arról, miért árt azoknak az embereknek, akiket mind védeni próbálunk, ha ezt elrontjuk.
Háttérolvasmány:
- Pontról pontra adott válaszunk: Egy órán át interjúvoltak minket. Íme, ami nem került be a cikkbe.
- A cikk, amely kiváltotta: Meet the Developers Cashing In on AI Intimacy — The Bureau of Investigative Journalism, 2026. június 7.
- A francia kiadás: « C'est effrayant de voir à quel point les gens font confiance » : ces développeurs de chatbots qui profitent de l'économie de l'intimité — Le Monde, 2026. június 7.
Ma közzétettünk egy választ a Bureau of Investigative Journalism AI-társalkotó és szerepjáték-platformokról szóló cikkére. Az az írás konkrét volt — részletezte, mit épített valójában az AICHIKI, és mit hagyott ki a cikk. Ez itt a nagyobb összefüggésekről szól, mert a cikk problémái jócskán túlmutatnak rajtunk.
A cikk tágabb tézise — hogy kis AI-platformok bukkannak fel gyenge biztonsági intézkedésekkel, és kizsákmányolják a magányos felhasználókat — részben igaz. Vannak fejlesztők ezen a területen, akiknek valóban nincs moderálásuk, nincsenek korkapuik, és nincs is szándékukban ezeket felépíteni. Néhányan kamerába is kimondták. Tudósítsatok erről. Kérlek.
A baj az, hogy a vizsgálat egy spektrumot talált, mégis egy monolitot tett közzé. A semmilyen biztonsági intézkedéssel nem rendelkező platformok a többrétegű moderációs infrastruktúrával bíró platformok mellé kerültek, és a cikk ugyanannak a történetnek a részeként kezelte őket. A különbség bizonyítékát összegyűjtötték, majd eldobták, mert bonyolította a tiszta narratívát.
Mélységesen félrevezető történetet is fel lehet építeni kizárólag igaz idézetekből, ha valaki megszabja, mely idézetek jelennek meg, és hogyan tálalják őket. Minden egyes idézet lehet pontos, miközben az összkép, amelyet festenek, hamis. És épp ez történik, amikor valaki visszafelé ír meg egy cikket — a következtetéssel kezdi, kiválogatja az azt illusztráló bizonyítékot, és csendben félretesz mindent, ami az ellenkező irányba mutat.
Ennek a módszertannak van egy híres előzménye a tudományban. Az 1950-es években az amerikai fiziológus, Ancel Keys be akarta bizonyítani, hogy az étrendi zsír szívbetegséget okoz. 22 országból gyűjtött adatokat. Amikor megjöttek az eredmények, néhány ország nem támasztotta alá a hipotézisét — lakosságuk rengeteg zsírt fogyasztott, mégis alacsony volt a szívbetegségek aránya. Keys erre eltávolította ezeket az országokat az adathalmazból, és csak azokat az adatokat felhasználva tette közzé a Seven Countries Study-t, amelyek megerősítették azt, amit eleve hitt. Az a tanulmány évtizedekig formálta a globális táplálkozáspolitikát. A kormányok rá hivatkozva szorgalmaztak alacsony zsírtartalmú étrendet. Óriási volt a befolyása. Az egész pedig kiválogatott bizonyítékra épült — valós adatokra, amelyeket szelektíven tálaltak egy olyan következtetés alátámasztására, amely már a kutatás megkezdése előtt készen állt.
A TBIJ-cikk ugyanezt a módszertant követi. Az újságíró több platformról gyűjtött információt. Ennek egy része azt mutatta, hogy egyes fejlesztők komoly mérnöki erőfeszítést fektetnek a biztonságba. Ezt az információt félretette. Ami megmaradt, az tiszta, riasztó történetet mesélt — technikailag valós idézetekre építve, leszámítva azokat az adatpontokat, amelyek bonyolították volna a képet. Keys megnézte azokat az országokat, amelyek nem illettek a tézisébe, és törölte őket a tanulmányból. Ez a cikk megnézte azokat a biztonsági architektúrákat, amelyek nem illettek a tézisébe, és törölte őket a történetből.
A spektrum elsimításának azokon a fejlesztőkön túl is vannak következményei, akiket tévesen ábrázol.
Egy fejlesztőnek ezen a területen most két lehetősége van. Hónapokat tölthet bizalmi rendszerek, tartalommoderálás, visszaélés-felismerés, képbiztonsági folyamatok építésével — valódi mérnöki munka, amely valódi időbe és valódi pénzbe kerül. Vagy kihagyhatja mindezt, és elindíthat egy csupasz platformot egy API-kulccsal és egy fizetési oldallal.
Ha a felelős és a felelőtlen fejlesztők ugyanazt a sajtóbánásmódot kapják — ugyanaz a cikk, ugyanaz a tálalás, ugyanaz a burkolt vád —, akkor minden új fejlesztő, aki belép erre a területre, világos üzenetet kap: a biztonsági munka nem térül meg. Ugyanúgy fognak ábrázolni, bármit is teszel. A racionális lépés mindenki számára, akiben nincs erős személyes lelkiismeret, hogy teljesen kihagyja ezt a befektetést.
És épp ez az igazi kár, amit az ilyen tudósítás okoz. Ha minden platformot egyformán kezelünk, az tevőlegesen elveszi a kedvet pont attól a viselkedéstől, amelyet a cikk állítólag elvárna. Törékeny az az ösztönzőrendszer, amely teljes egészében attól függ, hogy az egyes fejlesztőknek van-e lelkiismeretük. Egy ilyen rendszernek a helyes cselekvést kellene jutalmaznia, az a tudósítás pedig, amely nem tud különbséget tenni erőfeszítés és hanyagság között, az ellenkező irányba taszít.
A magány kérdése ott lebeg mindezek felett, és a nyilvános vitában szinte senki sem foglalkozik vele őszintén.
A fiatalok azért fordulnak AI-társalkotó és szerepjáték-platformokhoz, mert valami kielégítetlen marad az életükben — kapcsolódás, kreatív önkifejezés, az az érzés, hogy meghallgatják őket. A kereslet valós, és mély. Tiltsuk be holnap az összes AI-platformot, az az igény akkor sem tűnik el. Kielégítetlen marad, vagy sötétebb csatornákat talál magának, még kevesebb felügyelettel.
A TBIJ-cikk adottnak veszi a keresletet, és teljes egészében a kínálati oldalra összpontosít — kik építik ezeket a platformokat, és mennyire felelőtlenek. Ez a tálalás lehetővé teszi, hogy a vita termékenynek tűnjön anélkül, hogy valaha is megérintené a nehezebb kérdést: miért nyúl ennyi ember, különösen ennyi fiatal, egyáltalán az AI-hoz? Ha komolyan vesszük az emberek védelmét, foglalkoznunk kell azzal, mi hajtja őket oda. A horrortörténetek arról, mit találnak, amikor megérkeznek, nem pótolják ezt a beszélgetést.
A szabályozási környezet sem segít. A társalkotó AI-ra alkalmazott törvényeket és kereteket a közösségi médiához tervezték — tartalomfolyamokhoz, ajánlóalgoritmusokhoz, követői dinamikákhoz, vírusos megosztáshoz. Egy chatbot-beszélgetés szerkezetileg különbözik egy TikTok-folyamtól. A károk másképp működnek, a mechanizmusok másképp működnek, és a beavatkozásoknak is másképp kell működniük. A szabályozók viszont a már meglévő eszközökhöz nyúlnak, azokat az eszközöket pedig egy egészen más problémára építették.
Ha az AI-platformokat termékként kezeljük, termékbiztonsági követelményekkel — alapszintű normákkal, lépcsőzetes kockázati profilokkal, mozgástérrel azok különböző teljesítési módjai számára —, az közelebb áll a helyeshez, mint a jelenleg javasoltak többsége. A termékbiztonsági keretek lehetővé teszik, hogy valódi minimumokat állítsunk fel, miközben elismerjük, hogy egy kétfős csapat és egy milliárd dolláros vállalat másképp fogja teljesíteni őket. Az általános tiltások és az egy kaptafára szabott szabályok kiszorítják a felelős fejlesztőket, és szinte semmit sem tesznek a felelőtlenek megállításáért, akik egyszerűen joghatóságot váltanak, vagy figyelmen kívül hagyják a végrehajtást.
Ami azonban a leginkább aggaszt, az a kulturális szakadék.
Azok, akik a politikai döntéseket hozzák ezekről a platformokról — szabályozók, törvényhozók, szerkesztőbizottságok —, jórészt nem használják őket, és nem értik a körülöttük kialakult kultúrát. Olyan tudósításra támaszkodnak, amely — ahogy a tapasztalatunk mutatja — az érthetőség és a hatás kedvéért megfosztja a dolgokat a kulturális kontextusuktól.
A TBIJ-cikk a káros tartalom bizonyítékaként hoz felszínre egy chatbot-párbeszédet egy „kettős öngyilkosságról". Bárki, aki járatlan az anime világában, úgy hallja, mintha egy AI önkárosításra biztatna. A Bungo Stray Dogs több tízmillió rajongója viszont azonnal felismeri benne Oszamu Dazai jellegzetes karaktervonását — a sötét komédiába hajló visszatérő poént, amely a modern manga egyik legnépszerűbb karakterét határozza meg. Kontextusban körülbelül annyira riasztó, mint amikor egy Sherlock Holmes-bot azt mondja: „Elemi, kedves Watson."
Az idősebb olvasó azt látja, hogy „az AI kettős öngyilkosságra biztat", és érthetően megrémül. A fiatalabb olvasó, aki nézi a BSD-t, ugyanazt az idézetet látja, és tudja, hogy kioperálták belőle a jelentést. Az idősebb olvasó félretájékoztatva távozik. A fiatalabb olvasó pedig úgy távozik, hogy megtanulta: azok, akik a világáról írnak, nem értik azt — és ez a tanulság gyorsan általánossá válik. Ha Dazait félreértették, mi mást értettek még félre? Miért bíznék bármi másban ebben a cikkben? Miért bíznék a mögötte álló intézményekben?
A bizalomnak ez az erodálódása csendben zajlik, és veszélyes. Az a generáció, amely végignézi, ahogy a kultúráját következetesen félremagyarázzák azok az intézmények, amelyek állítólag védik őt, nem lesz óvatosabb. Egyszerűen nem figyel többé oda. És amikor nem figyel többé, a következő valódi figyelmeztetést — egy olyan platformról, amely tényleg veszélyes — minden mással együtt figyelmen kívül hagyja.
A kulturális kontextus nem opcionális csiszolóréteg, hanem előfeltétele annak, hogy komolyan vegyenek azok, akikről azt mondod, hogy védeni akarod őket. Nélküle csak olyan közönséghez beszélsz, amely már eleve egyetért veled. Akiknek a leginkább hallaniuk kellene az üzenetet, már rég kikapcsoltak.
Az AI-szerepjáték és -társalkotás itt van velünk. A szellemet nem lehet visszazárni a palackba. A kérdés az, hogy átgondolt keretet építünk-e köré — olyat, amely különbséget tesz erőfeszítés és hanyagság között, őszintén foglalkozik azzal, miért létezik a kereslet, és tiszteletben tartja azt a kulturális világot, amelyet szabályozni próbál —, vagy újra meg újra ugyanazt a riogató történetet írjuk meg, miközben a tényleges problémák kezeletlenül maradnak.
Mi igyekeztünk jól csinálni. Szeretnénk, ha a körülöttünk zajló beszélgetés is megpróbálná.
— Rudolf, AICHIKI 2026. június