Quando appiattisci lo spettro, uccidi l'incentivo
Una riflessione più ampia sullo stato del roleplay con IA, sul giornalismo investigativo e sul perché sbagliare in questo danneggia le persone che tutti diciamo di voler proteggere.
Letture di contesto:
- La nostra risposta punto per punto: Ci hanno intervistato per un'ora. Ecco cosa non è finito nell'articolo.
- L'articolo che l'ha provocata: Meet the Developers Cashing In on AI Intimacy — The Bureau of Investigative Journalism, 7 giugno 2026
- L'edizione francese: « C'est effrayant de voir à quel point les gens font confiance » : ces développeurs de chatbots qui profitent de l'économie de l'intimité — Le Monde, 7 giugno 2026
Oggi abbiamo pubblicato una risposta all'articolo del Bureau of Investigative Journalism sulle piattaforme di compagnia e roleplay con IA. Quel testo era circostanziato — spiegava nel dettaglio cosa AICHIKI ha davvero costruito e cosa l'articolo ha tralasciato. Questo, invece, riguarda il quadro più ampio, perché i problemi di quell'articolo vanno ben oltre noi.
La tesi di fondo dell'articolo — che piccole piattaforme di IA stiano spuntando con misure di sicurezza deboli, sfruttando utenti soli — è in parte vera. In questo ambito ci sono sviluppatori che davvero non hanno alcuna moderazione, nessun filtro per l'età e nessuna intenzione di costruirli. Qualcuno l'ha persino dichiarato davanti alla telecamera. Scrivete di quello. Vi prego.
Il problema è che l'inchiesta ha trovato uno spettro e ha pubblicato un monolite. Piattaforme con zero misure di sicurezza sono state accostate a piattaforme con un'infrastruttura di moderazione a più livelli, e l'articolo le ha trattate come la stessa storia. Le prove della differenza sono state raccolte e poi scartate perché complicavano una narrazione lineare.
Puoi costruire una storia profondamente fuorviante usando soltanto citazioni vere, se controlli quali compaiono e come vengono inquadrate. Ogni singola citazione può essere accurata, eppure il quadro complessivo che ne risulta è falso. Ed è ciò che succede quando scrivi un articolo all'incontrario — parti dalla conclusione, selezioni le prove che la illustrano e metti silenziosamente da parte tutto ciò che punta nella direzione opposta.
C'è un precedente celebre, nella scienza, per questo tipo di metodo. Negli anni Cinquanta, il fisiologo americano Ancel Keys si propose di dimostrare che i grassi alimentari causassero le malattie cardiache. Raccolse dati da 22 paesi. Quando arrivarono i risultati, alcuni paesi smentivano la sua ipotesi — le loro popolazioni mangiavano grassi in abbondanza eppure avevano bassi tassi di malattie cardiache. Così Keys eliminò quei paesi dal dataset e pubblicò il suo Seven Countries Study usando soltanto i dati che confermavano ciò in cui già credeva. Quello studio ha plasmato le politiche nutrizionali di tutto il mondo per decenni. I governi vi hanno fondato la promozione di diete a basso contenuto di grassi. L'influenza è stata enorme. E tutto si reggeva su prove selezionate ad arte — dati reali, presentati in modo selettivo per sostenere una conclusione che esisteva già prima che la ricerca cominciasse.
L'articolo del TBIJ segue lo stesso metodo. La giornalista ha raccolto informazioni da più piattaforme. Alcune di quelle informazioni mostravano sviluppatori che investivano un serio impegno ingegneristico nella sicurezza. Sono state accantonate. Ciò che è rimasto raccontava una storia lineare e allarmante — tecnicamente costruita su citazioni reali, meno i dati che avrebbero complicato le cose. Keys guardò i paesi che non rientravano nella sua tesi e li cancellò dallo studio. Questo articolo ha guardato le architetture di sicurezza che non rientravano nella sua tesi e le ha cancellate dalla storia.
Appiattire lo spettro ha conseguenze che vanno oltre gli sviluppatori che vengono travisati.
In questo momento, uno sviluppatore di questo ambito ha due opzioni. Passare mesi a costruire sistemi di fiducia, moderazione dei contenuti, rilevamento degli abusi, pipeline di sicurezza per le immagini — vero lavoro ingegneristico, che costa tempo reale e denaro reale. Oppure saltare tutto questo e lanciare una piattaforma spoglia, con una chiave API e una pagina di pagamento.
Se gli sviluppatori responsabili e quelli irresponsabili ricevono lo stesso trattamento dalla stampa — stesso articolo, stessa impostazione, stessa accusa implicita — il messaggio per chiunque entri in questo ambito è chiaro: il lavoro sulla sicurezza non paga. Verrai dipinto allo stesso modo, in ogni caso. La mossa razionale, per chi non abbia una forte coscienza personale, è risparmiarsi del tutto l'investimento.
Ed è questo il vero danno che fa un giornalismo di questo tipo. Trattare ogni piattaforma allo stesso modo disincentiva di fatto proprio il comportamento che l'articolo dice di voler promuovere. Una struttura di incentivi che dipende interamente dalla coscienza dei singoli sviluppatori è fragile. Dovrebbe premiare chi fa la cosa giusta, e un giornalismo incapace di distinguere tra impegno e negligenza spinge nella direzione opposta.
La questione della solitudine sovrasta tutto questo, e quasi nessuno nel dibattito pubblico la sta affrontando onestamente.
I giovani si rivolgono alle piattaforme di compagnia e roleplay con IA perché qualcosa nelle loro vite resta insoddisfatto — connessione, espressione creativa, il senso di essere ascoltati. La domanda è reale, ed è profonda. Vietate domani ogni piattaforma di IA e quel bisogno non sparirà. Resterà insoddisfatto, oppure troverà sbocchi più oscuri e con ancora meno controllo.
L'articolo del TBIJ dà la domanda per scontata e si concentra interamente sul lato dell'offerta — chi costruisce queste piattaforme e quanto sono irresponsabili. Quell'impostazione permette al dibattito di sembrare produttivo senza mai toccare la questione più scomoda: perché così tante persone, soprattutto i giovani, si rivolgono all'IA, prima di tutto? Se si fa sul serio nel voler proteggere le persone, bisogna affrontare ciò che le spinge fin lì. Le storie dell'orrore su cosa trovano una volta arrivate non sostituiscono quella conversazione.
Nemmeno il panorama normativo aiuta. Le leggi e i quadri regolatori applicati all'IA conversazionale sono stati pensati per i social media — feed di contenuti, algoritmi di raccomandazione, dinamiche dei follower, condivisione virale. Una conversazione con un chatbot è strutturalmente diversa da un feed di TikTok. I danni agiscono in modo diverso, i meccanismi agiscono in modo diverso, e anche gli interventi devono agire in modo diverso. Ma i regolatori ricorrono agli strumenti che già hanno, e quegli strumenti sono stati costruiti per un problema diverso.
Trattare le piattaforme di IA come prodotti con requisiti di sicurezza del prodotto — standard di base, profili di rischio graduati, margine per approcci diversi nel soddisfarli — è più vicino al giusto di gran parte di ciò che oggi viene proposto. I quadri di sicurezza del prodotto permettono di fissare minimi reali pur riconoscendo che un team di due persone e una multinazionale da un miliardo di dollari li soddisferanno in modo diverso. I divieti generalizzati e le regole uguali per tutti allontanano gli sviluppatori responsabili e non fanno quasi nulla per fermare quelli irresponsabili, che si limiteranno a cambiare giurisdizione o a ignorare i controlli.
Ciò che però mi preoccupa di più è il divario culturale.
Le persone che prendono decisioni politiche su queste piattaforme — regolatori, legislatori, comitati di redazione — in gran parte non le usano e non comprendono la cultura che vi ruota attorno. Si affidano a un giornalismo che, come dimostra la nostra esperienza, spoglia i fatti del loro contesto culturale in nome della chiarezza e dell'impatto.
L'articolo del TBIJ porta alla luce uno scambio con un chatbot su un "doppio suicidio" come prova di un contenuto dannoso. Per chiunque non conosca gli anime, suona come un'IA che incoraggia l'autolesionismo. Per decine di milioni di fan di Bungo Stray Dogs, è immediatamente riconoscibile come il tratto distintivo del personaggio di Osamu Dazai — una gag ricorrente in chiave di comicità nera che definisce uno dei personaggi più amati del manga moderno. Nel suo contesto, è allarmante più o meno quanto un bot di Sherlock Holmes che dice "Elementare".
Un lettore più anziano legge "l'IA incoraggia il doppio suicidio" ed è inorridito, comprensibilmente. Un lettore più giovane che guarda BSD vede la stessa citazione e sa che il significato è stato svuotato. Il primo se ne va disinformato. Il secondo se ne va avendo imparato che chi scrive del suo mondo non lo capisce — e quella lezione si generalizza in fretta. Se hanno sbagliato su Dazai, su cos'altro avranno sbagliato? Perché dovrei fidarmi del resto di questo articolo? Perché dovrei fidarmi delle istituzioni che ci stanno dietro?
Quell'erosione della fiducia sta avvenendo in silenzio ed è pericolosa. Una generazione che vede la propria cultura costantemente travisata dalle istituzioni che dicono di proteggerla non diventa più prudente. Smette di ascoltare. E quando smette di ascoltare, il prossimo avvertimento reale — su una piattaforma che è davvero pericolosa — viene ignorato insieme a tutto il resto.
Il contesto culturale è un prerequisito per essere presi sul serio dalle persone che dici di proteggere, non un velo facoltativo di rifinitura. Senza, parli soltanto a un pubblico che è già d'accordo con te. Chi avrebbe più bisogno di sentire il messaggio si è già disconnesso da tempo.
Il roleplay e la compagnia con l'IA sono qui. Nessuno rimetterà il dentifricio nel tubetto. La domanda è se costruiremo intorno a tutto questo un quadro ponderato — uno che distingua tra impegno e negligenza, che affronti onestamente il perché esista la domanda e che rispetti il mondo culturale che cerca di regolare — oppure se continueremo a riscrivere all'infinito la stessa storia allarmista mentre i problemi veri restano irrisolti.
Noi abbiamo cercato di farlo bene. Vorremmo che anche il dibattito intorno a noi ci provasse.
— Rudolf, AICHIKI Giugno 2026