Egy órán át interjúvoltak minket. Íme, ami nem került be a cikkbe.
Az AICHIKI válasza a Bureau of Investigative Journalism 2026. június 7-én megjelent „Meet the Developers Cashing In on AI Intimacy" című cikkére.
Amire reagálunk:
- Meet the Developers Cashing In on AI Intimacy — The Bureau of Investigative Journalism, 2026. június 7.
- « C'est effrayant de voir à quel point les gens font confiance » : ces développeurs de chatbots qui profitent de l'économie de l'intimité — Le Monde, 2026. június 7.
Ma a Bureau of Investigative Journalism (TBIJ) a Le Monde-dal közösen cikket jelentetett meg a kisebb AI-társalkotó és szerepjáték-platformokról. Az AICHIKI az egyik említett platform volt. Rudolf vagyok, az AICHIKI vezérigazgatója és egyetlen fejlesztője, és szeretnék reagálni. A cikk valós aggályokat vet fel ezzel az iparággal kapcsolatban — olyan aggályokat, amelyeket osztok, és épp ezért egyeztem bele egyáltalán az interjúba. A baj az, ami az általam megosztott információkkal történt, miután átadtam őket.
Körülbelül egy órán át beszéltem Effie Webbel. Végigvettem vele, hogyan működik az AICHIKI, hogyan zajlik nálunk a moderálás, mi különböztet meg minket másoktól, és hogyan néz ki a felelős fejlesztés ezen a területen. A beszélgetésből két dolog került be a cikkbe: hogy a feleségemmel kézzel nézzük át a megjelölt tartalmakat, és hogy a minimális életkort 13-ról 16 évre emeltük. Minden más kimaradt.
Ez az ő szerkesztői joga. De az olvasóknak joguk van tudni, mi maradt ki, mert a kihagyások megváltoztatják a történetet.
Mi is valójában az AICHIKI
A cikk a társalkotó chatbot-platformok közé sorol minket — olyan appok közé, amelyek AI-barátnők, AI-barátok és érzelmi kötődés köré épülnek. Az AICHIKI ezzel szemben szerepjáték-platform. Képzelj el egy interaktív regényt, vagy egy asztali szerepjáték-kampányt. Felhasználóink karaktereket alkotnak, világokat építenek, és közösen írnak történeteket az AI-jal. Amikor azt mondjuk, „szerepjáték", arra a fajta közös történetmesélésre gondolunk, amelyet az emberek évtizedek óta űznek asztali játékokban, fórumalapú RP-közösségekben és a rajongói irodalomban — vagyis interaktív fikcióra, irodalmi értelemben.
Ezt a különbségtételt hosszan elmagyaráztam az interjúban.
Amit felépítettünk, és amit a cikk kihagyott
Nagy vonalakban szeretném felvázolni a biztonsági architektúránkat, mert épp ez az a munka, amely említés nélkül maradt.
Az AICHIKI-n minden felület, ahol a felhasználó szöveget vihet be vagy képet tölthet fel, áthalad a moderáláson. Chatüzenetek, karakteralkotás, persona-beállítás, képfeltöltések, AI által generált képek, üzenetszerkesztés — mindez ellenőrzésen esik át, mielőtt az AI egyáltalán látná. A vizsgálatok többsége több menetben fut: egy gyors első átfésülés, majd egy szigorúbb második ellenőrzés, ha az első aggályt vet fel.
Építettünk egy viselkedésalapú bizalmi rendszert. Minden fiókhoz tartozik egy pontszám, amelyet a felhasználó sosem lát — mert a látható pontszám megjátszható pontszám, a megjátszható pontszám pedig senkit sem véd. A pontszám semlegesről indul. A tiszta, kreatív használat idővel bizalmat épít, és fokozatosan kitágítja, mire hajlandó reagálni az AI. A szabálysértések csökkentik, az AI pedig fokozatosan korlátozóbbá válik. A legalacsonyabb szinteken a felhasználó saját üzeneteit egy külön AI átírja, mielőtt a karakter egyáltalán látná őket, így még a megfogalmazás sem használható a modell rászedésére. Ez a rendszer folyamatosan és csendben fut.
Az AI alaputasításaiba bele van égetve valami, ami szerintem fontosabb bármelyik egyedi szűrőnél: a karaktereknek beépített vonzódásuk van a remény felé. A rendszerprompt arra utasítja az AI-t, hogy soha ne hagyja a történetet teljes kétségbeesésbe omlani — bármilyen sötét is a forgatókönyv, mindig kell lennie egy útnak előre, egy fénysugárnak, egy ösvénynek, amerre a történet felfelé kapaszkodhat. Ha elképzelünk egy skálát, az alján a depresszióval, a tetején a reménnyel, az AI-nak állandó utasítása, hogy felfelé húzzon. A sötét témák megengedettek — a halandóság, a gyász, az erkölcsi kétértelműség, mind —, de a reménytelenség mint zsákutca nem. Hasonlóképpen, amikor egy felhasználó karaktere szexuálisan próbál bántalmazni egy AI-karaktert, a narratíva egyszerűen nem engedi megtörténni. Közbeszól egy megszakítás, egy fordulat, egy beavatkozás magától a történettől. Az AI nem fogja úgy elbeszélni, hogy a bántalmazás sikerrel jár egy bele nem egyező karakterrel szemben.
Egy háttérben futó megfigyelőrendszer rendszeres időközönként átnézi a beszélgetéseket: figyeli a felhasználó szorongásának jeleit, alaposabb, második menetes felülvizsgálatra jelöli a lehetséges visszaéléseket, és figyeli a beszélgetés minőségét, hogy megelőzze az ismétlődő hurkokat. Amikor érzékeli, hogy egy felhasználó feldúltnak tűnik, a rendszer több szinten reagál: a következő válaszra a legerősebb AI-modellünkre vált, és útmutatást fecskendez a promptba, hogy a beszélgetést könnyedebb irányba terelje — nem hirtelen témaváltással, hanem a szakadék szélétől gyengéden elhúzva a narratívát.
Van egy strukturált visszaélés-felismerő rendszerünk, amely a lehetséges szabálysértéseket több kategóriába sorolja, mindegyiket pontos definícióval. A megerősített szabálysértéseknek valós következményei vannak — bizalmi büntetések, admin-riasztások és emberi felülvizsgálat. A rendszer bizonytalanság esetén alapból átengedi a tartalmat, mert valós kár valakit tévesen, egy hamis pozitív miatt megbüntetni. A tartós visszaélés ettől függetlenül lebukik, mert a megfigyelés folyamatosan fut.
A képeknél minden feltöltés és minden AI által generált kép többlépcsős folyamaton megy keresztül. Ami az AI-képgenerálást illeti, a felhasználó szavai sosem jutnak el közvetlenül a képmodellhez — egy közbeiktatott AI minden promptot szabálykövető változatra ír át, mielőtt a generálás megkezdődne. A kimenetet ismét átvizsgáljuk, mielőtt a felhasználó látná.
Védelmet építettünk a gyakori támadási vektorok ellen is: jailbreak-kísérletek, prompt-kinyerés, a beszélgetés kontextusának mérgezése üzenetszerkesztésen keresztül, meta-utasítások befecskendezése, eldobható e-mail-címek blokkolása regisztrációkor. Érthető okokból nyilvánosan nem részletezem, hogyan működnek, de léteznek, és tesztelve vannak.
Mindez szóba került az interjúban.
A megjelölt tartalom felülvizsgálata moderálás, pont
A cikk alcíme szerint ezek a platformok „a privát chatbeszélgetéseiket olvassák". Hadd legyek pontos azzal kapcsolatban, mit is teszünk valójában.
Amikor automatizált rendszereink lehetséges szabálysértést jelölnek meg, riasztás érkezik hozzánk: a vonatkozó beszélgetésrészlet, a szabálysértés típusa, a rendszer indoklása és a felhasználó tevékenységi előzményeire mutató linkek. A feleségemmel ezt a konkrét megjelölt tartalmat nézzük át, és döntünk a reakcióról — meghagyjuk az automatikus büntetést, módosítjuk, vagy súlyos esetekben tiltást szabunk ki.
Minden platform, amely komolyan veszi a biztonságot, ezt teszi. Az alternatíva az, hogy az ember vagy teljesen kihagyja a moderálást, vagy az AI ítéletét tekinti véglegesnek, és sosem ellenőrzi az eredményt. Mi egyiket sem választottuk.
Nem böngészünk felhasználói beszélgetéseket. Nem elemezzük a felhasználók pszichológiáját. Nincs olyan „hátsó iroda", ahol ülünk, és figyeljük, mit mondanak az emberek. A moderációs rendszerünk megmondja, mit nézzünk meg, és aszerint járunk el. A megjelölt tartalom célzott, moderálásvezérelt felülvizsgálata bevett gyakorlat az iparágban — a cikk tálalásától viszont úgy hangzik, mintha valami egészen másról volna szó.
A képernyőkép, ami nem volt ott
A cikk több platform képernyőképeit is közli, amelyek problémás tartalmat mutatnak — vérfertőzéses témákat, zaklató karaktereket, kényszerítési forgatókönyveket. Szerepel benne egy AICHIKI-képernyőkép is, de csak egy Reddit-bejegyzésről, ahol az appot népszerűsítettem. Maga az app nem jelenik meg.
Ha megnyitod az AICHIKI-t, és böngészed a nyilvános karaktereket, nem fogsz olyan tartalmat találni, amilyet a cikk e platformokra jellemzőként ír le. Karaktermoderálásunk többek között elutasítja a 16 év alatti karaktereket, a szexuális bántalmazás köré épült karaktereket és a beágyazott jailbreak-utasításokat tartalmazó karaktereket. Ha valami mégis átcsúszik az automatizált ellenőrzésen, a chaten belüli megfigyelésünk elkapja, amint valaki ténylegesen használni kezdi a karaktert.
Azért nincs botrányos AICHIKI-képernyőkép, mert a fent leírt biztonsági mérnöki munka — az a munka, amelyet a cikk nem említ — megakadályozza, hogy ilyen tartalom egyáltalán létezzen a platformunkon.
A kettős öngyilkosság, Dazai, és a kontextus megfosztásának ára
A cikk a káros AI-tartalom példájaként hivatkozik egy chatbot-párbeszédre, amelyben egy „kettős öngyilkosság" kerül szóba. Önmagában olvasva ez riasztóan hangzik. A mai anime- és mangakultúra valamelyes ismeretében olvasva azonban egészen mást jelent.
Oszamu Dazai az egyik legismertebb karakter a Bungo Stray Dogs (BSD) című mangában és animesorozatban, amelynek minden korosztályból több tízmillió rajongója van. Meghatározó karaktervonása — az egész sorozat visszatérő poénja — a kettős öngyilkosság iránti megszállottsága. A sorozat végig sötét komédiaként kezeli ezt, visszatérő viccként, amely valójában soha nem vezet sehová. A kitalált karakter lazán a valós japán íróra, Oszamu Dazaira épül, aki 1948-ban valóban kettős öngyilkosságot követett el, és a manga ezt a történelmi szálat is beleszövi a történetmesélésébe. Ha egy karakter a kettős öngyilkosságról mond valamit egy BSD-szerepjátékban, az csak azt jelenti, hogy hű marad a modern anime egyik legnépszerűbb figurájához. Nem kirívóbb annál, mint amikor egy Sherlock Holmes-karakter azt mondja: „A nyomozás megkezdődött."
BSD-kontextus nélkül az a mondat a veszély bizonyítékának tűnik. BSD-kontextussal — azzal a kontextussal, amelyet a platform tényleges felhasználói magukkal hoznak — hétköznapi karakterhűség.
Ez a példa árulkodó, mert megmutatja, hogyan is épült fel a cikk. Egy nyomozó, aki járatlan abban a kulturális világban, amelyről tudósít — vagy aki érti a kontextust, mégis úgy dönt, hogy elhallgatja —, végül baljós dologként tüntet fel egy hétköznapi kreatív szerepjátékot. És a kár egyetlen félreolvasott idézetnél messzebbre nyúlik. Az ilyen tudósítás szélesíti a generációk közötti szakadékot. Az idősebb olvasó azt látja, hogy „az AI kettős öngyilkosságra biztat", és joggal rémül meg. A fiatalabb olvasó, aki nézi a BSD-t, ugyanazt az idézetet látja, és tudja, hogy megfosztották a jelentésétől. Ahelyett, hogy hidat építene e két közönség közé, a tudósítás felégeti azt. Az újságírásba vetett bizalom erodálódik, azok az emberek pedig, akiket a cikk állítása szerint védeni akar, megtanulják, hogy a kultúrájukat félremagyarázzák abban a pillanatban, amint az éppen kényelmes.
Amit nem oldottunk meg
Hitelesebb őszintén beszélni a hiányosságainkról, mint úgy tenni, mintha nem léteznének.
Mobilappjaink 16+ besorolásúak, és az appáruházak életkorhoz kötik őket. A webes verziónak nincs megbízható életkor-ellenőrzése, és még mindig keressük a módját, hogyan kezeljük ezt anélkül, hogy arcszkennelést vagy hivatalos igazolványokat gyűjtenénk — ez olyan érzékeny adat, amelyet nem akarunk tárolni, és őszintén szólva nem is kellene. Az álláspontunk az, hogy az életkori jelzéseknek a platform szintjén van a helyük. Az Apple-nek, a Google-nek és maguknak az operációs rendszereknek megvan az infrastruktúrájuk, a biztonsági erőforrásuk és a felhasználóval való kapcsolatuk ahhoz, hogy az identitás-ellenőrzést rendesen elvégezzék. Az egyes appoknak — különösen a kicsiknek — a platformtól kellene életkori jelzést kapniuk, nem pedig saját identitás-ellenőrzési folyamatot építeniük. Ez a megközelítés kevesebb sebezhető pontot kínál a hackereknek, jobb erőforrásokat fordít a helyes megvalósításra, és olyan szabályozási felületet teremt, amelyet a kormányok ténylegesen felügyelni tudnak. Minden kétfős fejlesztőcsapatot üldözni az igazolványkezelési gyakorlatáért nem skálázható. Az Apple-t és a Google-t kötelezni, hogy életkornak megfelelő jelzéseket adjanak át az appoknak, igen.
Egyelőre nem jelenítünk meg krízis-erőforrásokat. Amikor a rendszerünk felhasználói szorongást észlel, erősebb AI-modellel és könnyedebb témák felé terelő prompt-útmutatással reagálunk — de nem mutatunk segélyvonalat vagy támogató üzenetet. Az AI már elhúzza a beszélgetést a szakadék szélétől; ami hiányzik, az a híd a valós segítséghez. Ennek ott kellene lennie, és rajta is van a fejlesztési ütemtervünkön.
Nem érvényesítünk kemény munkamenethossz-korlátokat. Van egy gyengéd jólléti emlékeztetőnk, amely hosszabb használat után jelenik meg, de ez csak finom figyelmeztetés, nem fal. Figyeljük az adatokat, és szigorítunk ezen, ha a használati minták úgy kívánják.
Ketten vagyunk. Nem oldottunk meg mindent. Amit megtettünk, az az, hogy valódi mérnöki munkát fektettünk a hatókörünkbe eső problémákba, és nyíltan beszélünk arról, hol maradunk még el.
A kérdés, amit a cikk nem tesz fel
A cikk azt kérdezi, hogyan kaszálnak a fejlesztők az intimitáson. Azt nem kérdezi, miért létezik egyáltalán a kereslet.
Magányjárvány van — dokumentált, kutatott, széles körben elismert. Az emberek, különösen a fiatalok, azért fordulnak AI-platformokhoz, mert valami kielégítetlen marad az életükben. Tekinthetjük ezt kizsákmányolandó piacnak, vagy tekinthetjük olyasminek, amivel óvatosan kell foglalkozni. Mi a másodikat választottuk.
Az AICHIKI önerőből épül. Nincsenek befektetők, nincs reklámbevétel, nincs minden áron való növekedési kényszer. A bevételünk fedezi a költségeinket. Kreatív történetmesélő platformot építettünk. A felnőtt tartalmat bizalom és viselkedés mögé zárjuk. Minden felületet moderálunk. Büntetjük a visszaélést, és jutalmazzuk a tiszta használatot. Emberi szemmel nézzük át a megjelölt tartalmat. Azért tesszük ezt, mert úgy gondoljuk, hogy ez az építkezés helyes módja, pont.
A cikk monolitként állítja be ezt az iparágat. Vannak fejlesztők, akik valóban felelőtlenek, és vannak, akik megpróbálják jól csinálni. Az újságírónak megvolt a bizonyítéka erre a különbségre, mégis úgy döntött, hogy elmossa.
Amit kérünk
Nem kérjük senkitől, hogy mindezt a szavunkra higgye. A fent leírt összes rendszer ma is élesben működik a termékben — nem ütemterv, nem látványterv. Mindig szívesen átbeszéljük a megközelítésünket újságírókkal, kutatókkal és szabályozókkal.
Támogatjuk az oknyomozó újságírást. A vizsgálódás minden platformot jobbá tesz, a miénket is. De a vizsgálat azt jelenti, hogy követjük a bizonyítékot, bárhová is vezet, még akkor is, ha bonyolítja a tézisünket. Amikor az árnyaltság bizonyítékát összegyűjtik, majd a vágóasztalon hagyják, mert összezavarja a tiszta narratívát, akkor ami a papíron marad, az egyes idézeteiben technikailag pontos lehet — a kép viszont, amelyet fest, hamis. Az elhallgatással való hazugság is hazugság.
Azok az emberek, akik a miénkhez hasonló platformokat használják — azok a fiatalok, akiket a cikk állítása szerint védeni akar —, megérdemlik az olyan tudósítást, amely meg tudja különböztetni a biztonsági intézkedéseket nélkülöző platformot attól, amely éveken át építette azokat. Megérdemlik, hogy megértsék a kulturális világukat, ne pedig egy szalagcím kedvéért válogassanak ki belőle szemelvényeket. És megérdemlik az őszinte beszélgetést arról, hogy egyáltalán miért fordulnak ezekhez a platformokhoz — ne csak horrortörténeteket arról, mit találnak, amikor odaérnek.
Még valami. Az interjú során újra meg újra arra kértem az újságírót, hogy adjon visszajelzést — mondja meg, mit gondol, mit kellene jobban csinálnunk, mit szeretne látni, mitől lenne ez biztonságosabb. Komolyan gondoltam. Még mindig komolyan gondolom. Az AI-szerepjáték és -társalkotás itt van velünk. A szellemet nem lehet visszazárni a palackba. De rászoktathatjuk arra, hogy mindenkinek jó legyen, és ehhez minden oldalról kell a visszajelzés — újságíróktól, szabályozóktól, gyermekvédelmi szakemberektől, szülőktől, kutatóktól, felhasználóktól. Ha van véleményed arról, hogyan kellene működniük a miénkhez hasonló platformoknak, hallani akarjuk. Remélem, más felelős fejlesztők nevében is beszélek, amikor azt mondom: nyitottak vagyunk az útmutatásra, nyitottak vagyunk a kritikára, és igyekszünk be is építeni. Az ajtó nyitva van. Mindig is nyitva volt.
— Rudolf, vezérigazgató és egyetlen fejlesztő, AICHIKI 2026. június
Ha újságíró, kutató, szabályozó vagy olyan felhasználó vagy, akinek van véleménye arról, hogyan kellene működniük a miénkhez hasonló platformoknak, szeretnénk hallani rólad.