Când aplatizezi spectrul, omori stimulentul
O reflecție mai amplă despre starea roleplay-ului cu AI, despre jurnalismul de investigație și despre de ce a greși acest lucru îi rănește pe oamenii pe care încercăm cu toții să îi protejăm.
Lecturi de context:
- Răspunsul nostru, punct cu punct: Am stat de vorbă o oră într-un interviu. Iată ce nu a ajuns în articol.
- Articolul care l-a provocat: Meet the Developers Cashing In on AI Intimacy — The Bureau of Investigative Journalism, 7 iunie 2026
- Ediția franceză: « C'est effrayant de voir à quel point les gens font confiance » : ces développeurs de chatbots qui profitent de l'économie de l'intimité — Le Monde, 7 iunie 2026
Astăzi am publicat un răspuns la articolul Bureau of Investigative Journalism despre platformele de companioni AI și de roleplay. Acel material a fost punctual — detalia ce a construit de fapt AICHIKI și ce a lăsat articolul pe dinafară. Acesta este despre tabloul de ansamblu, pentru că problemele acelui articol trec cu mult dincolo de noi.
Teza mai amplă a articolului — că micile platforme AI răsar peste tot cu măsuri de siguranță slabe și exploatează utilizatorii singuratici — este parțial adevărată. Există în acest domeniu dezvoltatori care chiar nu au nicio moderare, nicio restricție de vârstă și nicio intenție de a le construi. Unii au recunoscut-o chiar pe cameră. Scrieți despre asta. Vă rog.
Problema este că investigația a găsit un spectru și a publicat un monolit. Platforme cu zero măsuri de siguranță au fost așezate lângă platforme cu o infrastructură de moderare pe mai multe straturi, iar articolul le-a tratat ca pe aceeași poveste. Dovezile diferenței au fost adunate și apoi aruncate pentru că încurcau o narațiune curată.
Poți construi o poveste profund înșelătoare folosind exclusiv citate adevărate, dacă controlezi care citate apar și cum sunt încadrate. Fiecare citat luat separat poate fi exact, în vreme ce imaginea de ansamblu pe care o compun este falsă. Și exact asta se întâmplă când scrii un articol de-a-ndoaselea — pornești de la concluzie, alegi dovezile care o ilustrează și pui discret deoparte orice indiciu care arată în direcția opusă.
Există un precedent celebru pentru acest gen de metodologie în știință. În anii 1950, fiziologul american Ancel Keys și-a propus să demonstreze că grăsimile din alimentație cauzează boli de inimă. A adunat date din 22 de țări. Când au venit rezultatele, unele țări nu i-au confirmat ipoteza — populațiile lor mâncau multă grăsime și aveau rate scăzute ale bolilor de inimă. Așa că Keys a scos acele țări din setul de date și și-a publicat Seven Countries Study folosind doar datele care confirmau ceea ce credea deja. Acel studiu a modelat politica nutrițională globală timp de zeci de ani. Pe baza lui, guvernele au promovat diete sărace în grăsimi. Influența a fost enormă. Iar totul a fost clădit pe dovezi triate pe sprânceană — date reale, prezentate selectiv ca să susțină o concluzie care exista deja înainte să înceapă cercetarea.
Articolul TBIJ urmează aceeași metodologie. Reportera a adunat informații de la mai multe platforme. O parte dintre ele arătau dezvoltatori care investesc un efort ingineresc serios în siguranță. Acele informații au fost puse deoparte. Ce a rămas spunea o poveste curată și alarmantă — clădită, tehnic, pe citate reale, dar fără punctele de date care ar fi complicat lucrurile. Keys s-a uitat la țările care nu se potriveau cu teza lui și le-a șters din studiu. Articolul acesta s-a uitat la arhitecturile de siguranță care nu se potriveau cu teza lui și le-a șters din poveste.
Aplatizarea spectrului are consecințe dincolo de dezvoltatorii care ajung să fie denaturați.
Un dezvoltator din acest domeniu are, chiar acum, două opțiuni. Să petreacă luni întregi construind sisteme de încredere, moderare de conținut, detectare a abuzurilor, lanțuri de procesare pentru siguranța imaginilor — muncă inginerească reală, care costă timp real și bani reali. Sau să sară peste toate astea și să lanseze o platformă goală, cu o cheie de API și o pagină de plată.
Dacă dezvoltatorii responsabili și cei iresponsabili primesc același tratament în presă — același articol, aceeași încadrare, aceeași acuzație implicită — mesajul către fiecare nou dezvoltator care intră în acest domeniu este limpede: munca de siguranță nu se rentează. Vei fi prezentat la fel, oricum ai face. Mișcarea rațională, pentru oricine nu are o conștiință personală puternică, este să sară complet peste investiție.
Și acesta este prejudiciul real pe care îl fac relatările de acest fel. Tratând fiecare platformă la fel, descurajezi activ tocmai comportamentul pe care articolul pretinde că îl vrea. O structură de stimulente care depinde în întregime de conștiința fiecărui dezvoltator în parte este fragilă. Ar trebui să recompenseze faptul de a face ce trebuie, iar relatările care nu pot face diferența între efort și neglijență împing în direcția opusă.
Întrebarea singurătății planează peste toate acestea și aproape nimeni din conversația publică nu o abordează cu onestitate.
Tinerii se îndreaptă către platformele de companioni AI și de roleplay pentru că ceva din viața lor rămâne neîmplinit — conexiunea, exprimarea creativă, sentimentul că sunt ascultați. Cererea este reală și este adâncă. Interzice mâine toate platformele AI și acea nevoie tot nu dispare. Rămâne neîmplinită sau își găsește debușeuri mai întunecate, cu și mai puțină supraveghere.
Articolul TBIJ tratează cererea ca pe ceva de la sine înțeles și se concentrează în întregime pe partea de ofertă — cine construiește aceste platforme și cât de iresponsabili sunt. O astfel de încadrare lasă conversația să pară productivă fără să atingă vreodată întrebarea mai grea: de ce caută atât de mulți oameni, mai ales tinerii, refugiul în AI de la bun început? Dacă vrei cu adevărat să protejezi oamenii, trebuie să te confrunți cu ceea ce îi împinge într-acolo. Poveștile de groază despre ce găsesc când ajung acolo nu pot ține locul acelei conversații.
Nici peisajul de reglementare nu ajută. Legile și cadrele aplicate AI-ului conversațional au fost concepute pentru rețelele sociale — fluxuri de conținut, algoritmi de recomandare, dinamici ale urmăritorilor, distribuire virală. O conversație cu un chatbot este structural diferită de un feed de TikTok. Daunele funcționează altfel, mecanismele funcționează altfel, iar intervențiile trebuie și ele să funcționeze altfel. Dar autoritățile de reglementare apucă uneltele pe care le au deja la îndemână, iar acele unelte au fost construite pentru o altă problemă.
A trata platformele AI ca pe niște produse cu cerințe de siguranță proprii — standarde de bază, profiluri de risc graduate, loc pentru abordări diferite de a le îndeplini — este mai aproape de corect decât majoritatea propunerilor actuale. Cadrele de siguranță a produselor îți permit să stabilești praguri minime reale, recunoscând totodată că o echipă de doi oameni și o corporație de un miliard de dolari le vor îndeplini diferit. Interdicțiile generale și regulile de tip „un singur tipar pentru toți" îi împing afară pe dezvoltatorii responsabili și nu fac aproape nimic ca să-i oprească pe cei iresponsabili, care pur și simplu vor schimba jurisdicția sau vor ignora aplicarea legii.
Ce mă îngrijorează cel mai mult, totuși, este prăpastia culturală.
Oamenii care iau deciziile de politici privind aceste platforme — autorități de reglementare, legiuitori, comitete editoriale — în mare parte nu le folosesc și nu înțeleg cultura din jurul lor. Se bazează pe relatări care, după cum arată experiența noastră, smulg contextul cultural de dragul clarității și al impactului.
Articolul TBIJ scoate la suprafață, ca dovadă de conținut dăunător, un schimb de replici cu un chatbot despre o „sinucidere în doi". Pentru oricine nefamiliarizat cu anime-ul, asta sună ca un AI care încurajează autovătămarea. Pentru zecile de milioane de fani ai Bungo Stray Dogs, este imediat de recunoscut drept trăsătura definitorie a personajului Osamu Dazai — o glumă recurentă de comedie neagră care definește unul dintre cele mai populare personaje din manga modernă. În context, este cam la fel de alarmant ca un bot Sherlock Holmes care spune „Elementar, dragul meu Watson."
Un cititor în vârstă vede „AI-ul încurajează sinuciderea în doi" și este oripilat, pe bună dreptate. Un cititor mai tânăr care se uită la BSD vede același citat și știe că i s-a smuls sensul. Cititorul în vârstă pleacă dezinformat. Cititorul tânăr pleacă după ce a învățat că oamenii care scriu despre lumea lui nu o înțeleg — iar lecția aceea se generalizează rapid. Dacă au greșit la Dazai, ce altceva or mai fi greșit? De ce aș avea încredere în orice altceva din acest articol? De ce aș avea încredere în instituțiile din spatele lui?
Această eroziune a încrederii se produce în tăcere și este periculoasă. O generație care își vede cultura denaturată în mod constant de instituțiile care pretind că o protejează nu devine mai prudentă. Pur și simplu încetează să mai asculte. Iar când încetează să mai asculte, următorul avertisment real — despre o platformă care chiar este periculoasă — este ignorat odată cu toate celelalte.
Contextul cultural este o condiție prealabilă pentru a fi luat în serios de oamenii pe care spui că îi protejezi, nu un strat opțional de finisaj. Fără el, vorbești doar cu un public care e deja de acord cu tine. Tocmai oamenii care au cea mai mare nevoie să audă mesajul s-au deconectat deja.
Roleplay-ul și companionia cu AI sunt aici. Nimeni nu mai poate băga duhul înapoi în sticlă. Întrebarea este dacă vom construi în jurul lor un cadru chibzuit — unul care să facă diferența între efort și neglijență, să se confrunte onest cu motivul pentru care există cererea și să respecte lumea culturală pe care încearcă să o reglementeze — sau dacă vom continua să scriem la nesfârșit aceeași poveste alarmistă, în timp ce problemele reale rămân nerezolvate.
Noi am încercat să facem asta cum trebuie. Ne-ar plăcea ca și conversația din jurul nostru să încerce la fel.
— Rudolf, AICHIKI Iunie 2026