Am stat de vorbă o oră într-un interviu. Iată ce nu a ajuns în articol.
Un răspuns din partea AICHIKI la articolul „Meet the Developers Cashing In on AI Intimacy" al Bureau of Investigative Journalism, publicat pe 7 iunie 2026.
La ce răspundem:
- Meet the Developers Cashing In on AI Intimacy — The Bureau of Investigative Journalism, 7 iunie 2026
- « C'est effrayant de voir à quel point les gens font confiance » : ces développeurs de chatbots qui profitent de l'économie de l'intimité — Le Monde, 7 iunie 2026
Astăzi, Bureau of Investigative Journalism (TBIJ), în parteneriat cu Le Monde, a publicat un material despre platformele mici de companioni AI și de roleplay. AICHIKI a fost una dintre platformele menționate. Sunt Rudolf, CEO și singurul dezvoltator al AICHIKI, și vreau să răspund. Articolul ridică probleme reale legate de această industrie — probleme pe care le împărtășesc și eu, motiv pentru care am acceptat interviul de la bun început. Problema e ce s-a întâmplat cu informațiile pe care le-am oferit, după ce le-am pus la dispoziție.
Am vorbit cu Effie Webb aproximativ o oră. I-am arătat cum funcționează AICHIKI, cum lucrează moderarea noastră, ce ne diferențiază și cum arată dezvoltarea responsabilă în acest domeniu. Din toată acea conversație, două lucruri au ajuns în articol: că soția mea și cu mine revizuim manual conținutul semnalat și că am ridicat vârsta minimă de la 13 la 16 ani. Tot restul a fost lăsat pe dinafară.
Este dreptul ei editorial. Dar cititorii merită să știe ce a fost omis, pentru că omisiunile schimbă povestea.
Ce este de fapt AICHIKI
Articolul ne pune în aceeași categorie cu platformele de chatboți companioni — aplicații construite în jurul iubitelor și iubiților AI și al atașamentului emoțional. AICHIKI este o platformă de roleplay. Gândiți-vă la un roman interactiv, la o campanie de RPG pe masă. Utilizatorii noștri creează personaje, construiesc lumi și scriu împreună cu AI-ul povești la care contribuie amândoi. Când spunem „roleplay", ne referim la genul de povestire colaborativă pe care oamenii o practică de zeci de ani în jocurile pe masă, în comunitățile de RP de pe forumuri și în fan fiction — ficțiune interactivă, în sens literar.
Am explicat această distincție pe larg în interviu.
Ce am construit și ce a lăsat articolul pe dinafară
Vreau să prezint arhitectura noastră de siguranță în linii mari, pentru că tocmai aceasta este munca rămasă nemenționată.
Fiecare loc în care un utilizator poate introduce text sau încărca o imagine pe AICHIKI trece prin moderare. Mesajele din chat, crearea de personaje, configurarea personei, încărcările de imagini, imaginile generate de AI, editarea mesajelor — totul este verificat înainte ca AI-ul să apuce să vadă conținutul. Cele mai multe dintre aceste verificări rulează în mai multe etape: o primă scanare rapidă și o a doua verificare, mai strictă, dacă prima ridică o suspiciune.
Am construit un sistem de încredere bazat pe comportament. Fiecare cont are un scor pe care utilizatorul nu îl vede niciodată — pentru că un scor vizibil este un scor care poate fi păcălit, iar un scor care poate fi păcălit nu protejează pe nimeni. Scorul pornește de la neutru. Utilizarea curată și creativă, în timp, câștigă încredere și lărgește treptat zona pe care AI-ul e dispus să o abordeze. Încălcările regulilor îl scad, iar AI-ul devine tot mai restrictiv. La nivelurile cele mai joase, chiar și mesajele utilizatorului sunt rescrise de un AI separat înainte ca personajul să le vadă, astfel încât nici măcar formularea să nu poată fi folosită pentru a constrânge modelul. Acest sistem rulează continuu și în tăcere.
Mai există ceva integrat în instrucțiunile de bază ale AI-ului care cred că atârnă mai greu decât orice filtru luat separat: personajele au o înclinație înnăscută către speranță. Prompt-ul de sistem îi cere AI-ului să nu lase niciodată o poveste să se prăbușească într-o disperare totală — oricât de întunecat ar fi scenariul, trebuie să existe o cale înainte, o rază de lumină, un drum pe care povestea poate urca. Dacă vă imaginați o scară care urcă de la depresie, jos, până la speranță, sus, AI-ul are o instrucțiune permanentă de a tinde în sus. Temele întunecate sunt permise — moartea, doliul, ambiguitatea morală, toate — dar nu și deznădejdea ca fundătură. La fel, atunci când personajul unui utilizator încearcă să agreseze sexual un personaj AI, narațiunea pur și simplu nu lasă asta să se întâmple. O întrerupere, o răsturnare de situație, un gest al poveștii înseși care intervine. AI-ul nu va relata o agresiune dusă la capăt împotriva unui personaj care nu consimte.
Un sistem de monitorizare ce rulează în fundal revizuiește conversațiile la intervale regulate, căutând semne că utilizatorul suferă, semnalând posibilele abuzuri pentru o a doua revizuire, mai amănunțită, și urmărind calitatea conversației ca să prevină buclele repetitive. Când sesizează că un utilizator pare tulburat, sistemul răspunde pe mai multe niveluri: comută pe cel mai puternic model AI pe care îl avem pentru următorul răspuns și introduce în prompt indicații care orientează conversația spre un teren mai luminos — nu o schimbare bruscă de subiect, ci o atragere narativă blândă, departe de marginea prăpastiei.
Avem un sistem structurat de detectare a abuzurilor, care clasifică posibilele încălcări în mai multe categorii, fiecare cu definiții precise. Încălcările confirmate atrag consecințe reale — penalizări de încredere, alerte către administratori și revizuire umană. Când e nesigur, sistemul permite conținutul în mod implicit, pentru că a pedepsi pe nedrept pe cineva pentru un fals pozitiv este, la rândul lui, un cost real. Abuzurile persistente sunt prinse oricum, pentru că monitorizarea rulează continuu.
În cazul imaginilor, fiecare încărcare și fiecare imagine generată de AI trece printr-un lanț de procesare cu mai multe etape. Iar la generarea de imagini cu AI, cuvintele utilizatorului nu ajung niciodată direct la modelul de imagini — un AI intermediar rescrie fiecare prompt într-o versiune conformă înainte să înceapă generarea. Rezultatul este verificat din nou înainte ca utilizatorul să îl vadă.
Am construit și protecții împotriva celor mai obișnuiți vectori de atac: încercări de jailbreak, extragerea prompt-urilor, otrăvirea contextului conversației prin editarea mesajelor, injectarea de meta-instrucțiuni, blocarea adreselor de e-mail temporare la înregistrare. Din motive evidente, nu voi detalia public cum funcționează, dar ele există și sunt testate.
Toate acestea au fost aduse în discuție în interviu. Am pregătit și un document detaliat de informare privind siguranța — aproape 400 de rânduri, cu trimiteri la codul sursă care implementează efectiv fiecare sistem — și l-am oferit reporterei în timpul conversației. Nu l-a luat. Ne-am oferit și să facem o prezentare a codului în direct. Nici asta nu s-a întâmplat.
Revizuirea conținutului semnalat este moderare, punct
Subtitlul articolului spune că aceste platforme „le citesc conversațiile private". Permiteți-mi să fiu precis în privința a ceea ce facem.
Când sistemele noastre automate semnalează o posibilă încălcare a regulilor, primim o alertă cu fragmentul relevant din conversație, tipul de încălcare, raționamentul sistemului și linkuri către istoricul de activitate al utilizatorului. Soția mea și cu mine revizuim exact acel conținut semnalat și decidem cum răspundem — lăsăm penalizarea automată în vigoare, o ajustăm sau, în cazuri grave, aplicăm o interdicție.
Orice platformă care tratează siguranța în serios face asta. Alternativa ar fi fie să sari complet peste moderare, fie să consideri judecata AI-ului definitivă și să nu pui niciodată un om să verifice rezultatul. Nu am ales niciuna dintre variante.
Nu răsfoim conversațiile utilizatorilor. Nu le analizăm psihologia. Nu există vreun „birou din spate" unde stăm și urmărim ce spun oamenii. Sistemul nostru de moderare ne spune la ce să ne uităm, iar noi acționăm în consecință. Revizuirea țintită a conținutului semnalat, pornită de la moderare, este o practică standard în industrie — iar felul în care o prezintă articolul o face să pară cu totul altceva.
Captura de ecran care nu era acolo
Articolul include capturi de ecran ale mai multor platforme care arată conținut problematic — teme de incest, personaje care fac bullying, scenarii de constrângere. Include și o captură de ecran a AICHIKI, dar doar a unei postări de pe Reddit în care am promovat aplicația. Aplicația în sine nu apare.
Dacă deschideți AICHIKI și răsfoiți personajele publice, nu veți găsi genul de conținut pe care articolul îl descrie ca fiind tipic pentru aceste platforme. Moderarea personajelor respinge, printre altele, personajele sub 16 ani, personajele construite în jurul agresiunii sexuale și personajele care conțin instrucțiuni de jailbreak ascunse. Iar dacă totuși ceva scapă de verificarea automată, monitorizarea din chat îl prinde în momentul în care cineva chiar folosește personajul.
Nu există nicio captură de ecran scandaloasă cu AICHIKI tocmai pentru că ingineria de siguranță descrisă mai sus — cea pe care articolul nu o menționează — împiedică acel conținut să existe pe platforma noastră.
Sinuciderea în doi, Dazai și prețul ruperii din context
Articolul face referire, ca exemplu de conținut AI dăunător, la un schimb de replici cu un chatbot care implică o „sinucidere în doi". Citit la rece, sună alarmant. Citit cu un minim de familiaritate cu actuala cultură anime și manga, sună cu totul altfel.
Osamu Dazai este unul dintre cele mai recognoscibile personaje din Bungo Stray Dogs (BSD), o serie manga și anime cu zeci de milioane de fani din toate grupele de vârstă. Trăsătura lui definitorie — gluma recurentă a întregii serii — este obsesia de a comite o sinucidere în doi. Este tratată ca o comedie neagră de-a lungul întregului serial, o glumă care revine mereu, dar care de fapt nu duce nicăieri. Personajul fictiv este inspirat în linii mari de autorul japonez real Osamu Dazai, care chiar a murit printr-o sinucidere în doi în 1948, iar manga împletește acest fir istoric în povestea sa. Un personaj care spune ceva despre o sinucidere în doi într-un roleplay BSD nu face decât să rămână fidel rolului uneia dintre cele mai populare figuri din anime-ul modern. Este la fel de banal ca un personaj Sherlock Holmes care spune „Elementar, dragul meu Watson."
Fără contextul BSD, replica aceea pare o dovadă de pericol. Cu contextul BSD — contextul pe care utilizatorii reali ai platformei îl poartă cu ei — este pură fidelitate față de personaj.
Acest exemplu este revelator pentru că arată cum a fost construit articolul. Un investigator nefamiliarizat cu lumea culturală despre care relatează — sau unul care îi înțelege contextul și alege să îl omită — ajunge să prezinte un roleplay creativ banal ca pe ceva sinistru. Iar prejudiciul merge mai departe de un singur citat înțeles greșit. Relatările de acest fel adâncesc prăpastia dintre generații. Un cititor în vârstă vede „AI-ul încurajează sinuciderea în doi" și este, pe bună dreptate, oripilat. Un cititor mai tânăr care se uită la BSD vede același citat și știe că a fost rupt de sensul lui. În loc să construiască o punte între aceste două categorii de public, relatarea arde una. Încrederea în jurnalism se erodează, iar oamenii pe care articolul pretinde că vrea să îi protejeze învață că propria lor cultură va fi denaturată în clipa în care devine convenabil.
Ce nu am rezolvat
Onestitatea în privința lacunelor noastre este mai credibilă decât pretenția că ele nu există.
Aplicațiile noastre mobile au clasificarea 16+ și sunt restricționate de magazinele de aplicații. Versiunea web nu are o verificare robustă a vârstei și încă încercăm să găsim o soluție care să nu presupună colectarea de scanări faciale sau acte de identitate emise de stat — sunt date sensibile pe care nu vrem să le deținem și, sincer, nici nu ar trebui să fim nevoiți. Poziția noastră este că semnalele privind vârsta țin de nivelul platformei. Apple, Google și sistemele de operare în sine au infrastructura, resursele de securitate și relația cu utilizatorul pentru a gestiona corect verificarea identității. Aplicațiile individuale — mai ales cele mici — ar trebui să primească un semnal privind vârsta de la platformă, nu să își construiască propriul lanț de verificare a identității. Această abordare înseamnă mai puține puncte vulnerabile pentru hackeri, resurse mai bune îndreptate spre a face lucrul cum trebuie și o suprafață de reglementare pe care guvernele chiar o pot supraveghea. Să fugărești fiecare echipă de doi dezvoltatori pentru felul în care gestionează actele de identitate nu se poate scala. Să le ceri Apple și Google să transmită aplicațiilor semnale potrivite vârstei, da.
Încă nu afișăm resurse de criză. Când sistemul nostru detectează suferința unui utilizator, răspundem cu un model AI mai puternic și cu indicații în prompt care orientează spre teme mai luminoase — dar nu afișăm o linie de asistență telefonică sau un mesaj de sprijin. AI-ul atrage deja conversația departe de margine; ce lipsește este puntea către ajutorul din lumea reală. Ar trebui să existe și se află pe foaia de parcurs.
Nu impunem limite stricte de durată a sesiunilor. Avem un memento blând de stare de bine care apare după o utilizare prelungită, dar este un îndemn, nu un zid. Urmărim datele și vom strânge șurubul dacă tiparele de utilizare o vor cere.
Suntem doi oameni. Nu am rezolvat tot. Ce am făcut a fost să punem muncă inginerească autentică în problemele aflate la îndemâna noastră și suntem deschiși în privința lucrurilor unde încă nu reușim.
Întrebarea pe care articolul nu o pune
Articolul întreabă cum profită dezvoltatorii de pe urma intimității. Nu întreabă de ce există cererea.
Există o epidemie a singurătății — documentată, studiată, larg recunoscută. Oamenii, mai ales cei tineri, se îndreaptă către platformele AI pentru că ceva din viața lor rămâne neîmplinit. Poți trata asta ca pe o piață de exploatat sau ca pe ceva de abordat cu grijă. Noi am ales a doua variantă.
AICHIKI este construită pe cont propriu. Fără investitori, fără venituri din publicitate, fără un mandat de creștere cu orice preț. Veniturile noastre ne acoperă costurile. Am construit o platformă creativă de povestire. Punem conținutul pentru adulți în spatele unei bariere de încredere și comportament. Moderăm fiecare punct de intrare. Penalizăm abuzul și recompensăm utilizarea curată. Revizuim conținutul semnalat cu ochi de om. Facem asta pentru că, pur și simplu, credem că ăsta este modul corect de a construi.
Articolul prezintă această industrie ca pe un monolit. Există dezvoltatori cu adevărat iresponsabili și există dezvoltatori care încearcă să facă lucrurile cum trebuie. Reportera avea dovezile pentru această distincție și a ales să o aplatizeze.
Ce cerem
Nu cerem nimănui să ne creadă pe cuvânt în nimic din toate astea. Documentul nostru de informare privind siguranța — același pe care l-am oferit reporterei — este disponibil la cerere. Include trimiteri la codul sursă din spatele fiecărui sistem descris mai sus. Oferim în continuare o prezentare a codului în direct oricărui jurnalist, cercetător sau autoritate de reglementare care dorește să ne verifice afirmațiile în raport cu implementarea reală.
Susținem jurnalismul de investigație. Examinarea atentă face fiecare platformă mai bună, inclusiv pe a noastră. Dar investigația înseamnă să urmărești dovezile oriunde te-ar duce, chiar și atunci când îți complică teza. Când dovezile de nuanță sunt adunate și apoi lăsate pe podeaua sălii de montaj pentru că tulbură o narațiune curată, ceea ce rămâne pe pagină poate fi exact din punct de vedere tehnic în fiecare citat luat separat — dar imaginea de ansamblu pe care o zugrăvește este falsă. Minciuna prin omisiune este tot minciună.
Oamenii care folosesc platforme ca a noastră — tinerii pe care articolul spune că vrea să îi protejeze — merită relatări care să poată face diferența între o platformă fără nicio măsură de siguranță și una care a petrecut ani de zile construindu-le. Merită ca lumea lor culturală să fie înțeleasă, nu triată pe sprânceană pentru un titlu de articol. Și merită o conversație onestă despre motivul pentru care se îndreaptă către aceste platforme de la bun început, nu doar povești de groază despre ce găsesc când ajung acolo.
Încă un lucru. În timpul interviului, i-am cerut reporterei în mod repetat să ne dea un punct de vedere — spuneți-ne ce credeți că ar trebui să facem mai bine, ce ați vrea să vedeți, ce ar face lucrurile mai sigure. Am vorbit serios. Vorbesc serios și acum. Roleplay-ul și companionia cu AI sunt aici. Nimeni nu mai poate băga duhul înapoi în sticlă. Dar le putem modela ca să fie bune pentru toți, iar asta cere contribuție din toate părțile — jurnaliști, autorități de reglementare, susținători ai siguranței copiilor, părinți, cercetători, utilizatori. Dacă aveți o opinie despre cum ar trebui să funcționeze platforme ca a noastră, vrem să o auzim. Sper că vorbesc și în numele altor dezvoltatori responsabili când spun: suntem deschiși la îndrumare, suntem deschiși la critică și vom încerca să le integrăm. Ușa este deschisă. A fost dintotdeauna.
— Rudolf, CEO și singurul dezvoltator, AICHIKI Iunie 2026
Dacă sunteți jurnalist, cercetător sau autoritate de reglementare și ați dori să revizuiți documentația noastră de siguranță sau să primiți o prezentare a codului, vă rugăm să ne contactați. Documentul nostru de informare privind siguranța este disponibil integral la cerere.