On nous a interviewés pendant une heure. Voici ce qui n'a pas atterri dans l'article.
Une réponse d'AICHIKI à l'enquête du Bureau of Investigative Journalism, « Meet the Developers Cashing In on AI Intimacy », publiée le 7 juin 2026.
Ce à quoi nous répondons :
- Meet the Developers Cashing In on AI Intimacy — The Bureau of Investigative Journalism, 7 juin 2026
- « C'est effrayant de voir à quel point les gens font confiance » : ces développeurs de chatbots qui profitent de l'économie de l'intimité — Le Monde, 7 juin 2026
Aujourd'hui, le Bureau of Investigative Journalism (TBIJ), en partenariat avec Le Monde, a publié un article sur les petites plateformes de compagnon IA et de roleplay. AICHIKI faisait partie des plateformes citées. Je suis Rudolf, PDG et unique développeur d'AICHIKI, et je tiens à répondre. L'article soulève de vraies inquiétudes sur ce secteur — des inquiétudes que je partage, et c'est précisément pour cela que j'ai accepté l'interview au départ. Le problème, c'est ce qu'il est advenu de ces informations une fois que je les ai livrées.
J'ai parlé environ une heure avec Effie Webb. Je lui ai expliqué comment fonctionne AICHIKI, comment opère notre modération, ce qui nous distingue, et à quoi ressemble un développement responsable dans ce domaine. De cette conversation, deux choses ont atterri dans l'article : que ma femme et moi examinons manuellement les contenus signalés, et que nous avons relevé notre âge minimum de 13 à 16 ans. Tout le reste a été écarté.
C'est son droit éditorial. Mais les lecteurs méritent de savoir ce qui a été omis, parce que les omissions changent l'histoire.
Ce qu'est réellement AICHIKI
L'article nous range parmi les plateformes de chatbots de compagnie — des applications bâties autour de petites amies, de petits amis IA et de l'attachement émotionnel. AICHIKI est une plateforme de roleplay. Pensez roman interactif, pensez campagne de jeu de rôle sur table. Nos utilisateurs créent des personnages, construisent des univers et écrivent des histoires collaboratives avec l'IA. Quand nous parlons de « roleplay », nous parlons du type de narration collaborative que les gens pratiquent depuis des décennies dans les jeux de rôle sur table, les communautés de RP sur forum et la fan fiction — de la fiction interactive, au sens littéraire du terme.
J'ai expliqué cette distinction en détail pendant l'interview.
Ce que nous avons construit et ce que l'article a écarté
Je veux exposer notre architecture de sécurité dans les grandes lignes, parce que c'est ce travail-là qui est passé sous silence.
Chaque surface où un utilisateur peut saisir du texte ou téléverser une image sur AICHIKI passe par la modération. Messages de chat, création de personnage, configuration de persona, téléversements d'images, images générées par l'IA, modification de messages — tout cela est vérifié avant même que l'IA n'y ait accès. La plupart de ces vérifications s'effectuent en plusieurs passes : un premier balayage rapide, puis un second contrôle plus strict si le premier soulève un doute.
Nous avons construit un système de confiance comportementale. Chaque compte porte un score que l'utilisateur ne voit jamais — parce qu'un score visible est un score manipulable, et qu'un score manipulable ne protège personne. Le score démarre neutre. Un usage propre et créatif dans la durée fait gagner de la confiance et élargit progressivement ce avec quoi l'IA accepte d'interagir. Les violations des règles le font baisser, et l'IA devient de plus en plus restrictive. Aux niveaux les plus bas, les messages de l'utilisateur sont eux-mêmes réécrits par une IA distincte avant que le personnage ne les voie, de sorte que la formulation elle-même ne puisse pas servir à contraindre le modèle. Ce système tourne en continu et en silence.
Il y a aussi quelque chose d'inscrit dans les instructions de base de l'IA qui compte, je crois, plus que n'importe quel filtre pris isolément : les personnages ont un penchant intégré vers l'espoir. Le prompt système ordonne à l'IA de ne jamais laisser une histoire sombrer dans le désespoir total — aussi sombre que soit le scénario, il doit toujours exister une issue, une lueur, un chemin vers lequel l'histoire peut s'élever. Si vous imaginez une échelle allant de la dépression tout en bas à l'espoir tout en haut, l'IA a pour consigne permanente de tendre vers le haut. Les thèmes sombres sont permis — la mortalité, le deuil, l'ambiguïté morale, tout cela — mais pas le désespoir comme impasse. De même, lorsque le personnage d'un utilisateur tente d'agresser sexuellement un personnage IA, le récit, tout simplement, ne le laisse pas advenir. Une interruption, un retournement, un geste de l'histoire elle-même qui intervient. L'IA ne racontera pas une agression qui réussit contre un personnage non consentant.
Un système de surveillance en arrière-plan passe en revue les conversations à intervalles réguliers, guettant les signes de détresse chez l'utilisateur, signalant les abus potentiels pour un second examen plus approfondi, et surveillant la qualité de la conversation afin d'éviter les boucles répétitives. Lorsqu'il détecte qu'un utilisateur semble bouleversé, le système réagit à plusieurs niveaux : il bascule sur le modèle d'IA le plus puissant dont nous disposons pour la réponse suivante, et il injecte des consignes dans le prompt pour orienter la conversation vers un terrain plus léger — non pas un changement de sujet brutal, mais une douce traction narrative qui éloigne du bord.
Nous avons une détection d'abus structurée qui classe les violations potentielles selon plusieurs catégories, chacune assortie de définitions précises. Les violations confirmées entraînent de vraies conséquences — pénalités de confiance, alertes aux administrateurs et examen humain. En cas de doute, le système autorise le contenu par défaut, parce que punir quelqu'un à tort pour un faux positif a un coût réel. Les abus persistants finissent par être attrapés de toute façon, parce que la surveillance tourne en continu.
Pour les images, chaque téléversement et chaque image générée par l'IA passe par un pipeline à plusieurs étapes. Quant à la génération d'images par l'IA, les mots de l'utilisateur n'atteignent jamais directement le modèle d'image — une IA intermédiaire réécrit chaque prompt en une version conforme avant que la génération ne commence. Le résultat est de nouveau filtré avant que l'utilisateur ne le voie.
Nous avons aussi construit des protections contre les vecteurs d'attaque courants : tentatives de jailbreak, extraction de prompt, empoisonnement du contexte conversationnel via les modifications de messages, injection de méta-instructions, blocage des e-mails jetables à l'inscription. Je ne détaillerai pas publiquement leur fonctionnement, pour des raisons évidentes, mais ils existent et ils sont testés.
Tout cela a été évoqué pendant l'interview. J'avais également préparé un document de briefing détaillé sur la sécurité — près de 400 lignes, avec des références au code source effectif qui implémente chaque système — et je l'ai proposé à la journaliste au cours de notre conversation. Elle ne l'a pas pris. Nous avons aussi proposé une revue de code en direct. Cela non plus n'a pas eu lieu.
L'examen des contenus signalés, c'est de la modération, point final
Le sous-titre de l'article affirme que ces plateformes « lisent les conversations privées » de leurs utilisateurs. Soyons précis sur ce que nous faisons.
Lorsque nos systèmes automatisés signalent une violation potentielle des règles, une alerte nous parvient avec l'extrait de conversation concerné, le type de violation, le raisonnement du système et des liens vers l'historique d'activité de l'utilisateur. Ma femme et moi examinons ce contenu signalé précis et décidons de la suite — laisser la pénalité automatique telle quelle, l'ajuster, ou, dans les cas graves, prononcer un bannissement.
Toute plateforme qui prend la sécurité au sérieux procède ainsi. L'alternative, c'est soit de renoncer purement et simplement à la modération, soit de considérer le jugement de l'IA comme définitif et de ne jamais faire vérifier le résultat par un humain. Nous n'avons choisi ni l'un ni l'autre.
Nous ne parcourons pas les conversations des utilisateurs. Nous n'analysons pas leur psychologie. Il n'existe aucun « back-office » où nous serions assis à observer ce que les gens racontent. Notre système de modération nous indique quoi regarder, et nous agissons en conséquence. L'examen ciblé des contenus signalés, piloté par la modération, est une pratique standard du secteur — et le cadrage de l'article le fait passer pour tout autre chose.
La capture d'écran qui n'y était pas
L'article inclut des captures d'écran de plusieurs plateformes montrant des contenus problématiques — thèmes incestueux, personnages harceleurs, scénarios de coercition. Il inclut aussi une capture d'écran d'AICHIKI, mais uniquement d'un post Reddit où je faisais la promotion de l'application. L'application elle-même n'apparaît pas.
Si vous ouvrez AICHIKI et que vous parcourez les personnages publics, vous ne trouverez pas le genre de contenu que l'article décrit comme typique de ces plateformes. Notre modération de personnages rejette les personnages de moins de 16 ans, les personnages construits autour de l'agression sexuelle et les personnages contenant des instructions de jailbreak dissimulées, parmi d'autres catégories. Et si quelque chose passe quand même à travers la vérification automatique, notre surveillance en cours de chat l'attrape dès que quelqu'un utilise réellement le personnage.
Il n'y a pas de capture d'écran scandaleuse d'AICHIKI parce que l'ingénierie de sécurité décrite plus haut — celle que l'article ne mentionne pas — empêche ce contenu d'exister sur notre plateforme.
Double suicide, Dazai, et le coût d'un contexte amputé
L'article évoque un échange avec un chatbot autour d'un « double suicide » comme exemple de contenu IA nuisible. Lu à froid, cela paraît alarmant. Lu avec un minimum de familiarité avec la culture anime et manga actuelle, cela ressemble à tout autre chose.
Osamu Dazai est l'un des personnages les plus reconnaissables de Bungo Stray Dogs (BSD), une série manga et anime qui compte des dizaines de millions de fans de toutes les tranches d'âge. Son trait de caractère emblématique — le running gag de toute la série — est son obsession de commettre un double suicide amoureux. C'est traité comme une comédie noire d'un bout à l'autre de la série, une blague récurrente qui n'aboutit jamais vraiment. Le personnage de fiction est librement inspiré du véritable auteur japonais Osamu Dazai, qui, lui, est bel et bien mort par double suicide en 1948, et le manga tisse ce fil historique dans sa narration. Un personnage qui lance une réplique sur le double suicide dans un roleplay BSD reste fidèle à l'un des personnages les plus populaires de l'anime moderne. C'est aussi anodin qu'un personnage de Sherlock Holmes qui lâche « Élémentaire, mon cher Watson ».
Sans le contexte de BSD, cette réplique ressemble à une preuve de danger. Avec le contexte de BSD — celui que portent les véritables utilisateurs de la plateforme —, c'est une simple fidélité au personnage.
Cet exemple est révélateur parce qu'il montre comment l'article a été construit. Une enquêtrice peu familière de l'univers culturel sur lequel elle écrit — ou bien quelqu'un qui en comprend le contexte et choisit de l'omettre — finit par présenter un roleplay créatif des plus ordinaires comme quelque chose de sinistre. Et les dégâts vont plus loin qu'une citation mal lue. Un journalisme de ce genre creuse l'écart entre les générations. Un lecteur plus âgé voit « l'IA encourage le double suicide » et en est, à juste titre, horrifié. Un lecteur plus jeune qui regarde BSD voit la même citation et sait qu'on l'a vidée de son sens. Au lieu de jeter un pont entre ces deux publics, le reportage en brûle un. La confiance dans le journalisme s'effrite, et les gens que l'article prétend protéger apprennent que leur culture sera déformée dès l'instant où cela arrange quelqu'un.
Ce que nous n'avons pas résolu
Être honnête sur nos lacunes est plus crédible que de prétendre qu'elles n'existent pas.
Nos applications mobiles sont classées 16+ et filtrées par les boutiques d'applications. La version web ne dispose pas d'une vérification d'âge robuste, et nous cherchons encore comment gérer cela sans collecter de scans faciaux ni de pièces d'identité officielles — ce sont des données sensibles que nous ne voulons pas détenir et que, franchement, nous ne devrions pas avoir à détenir. Notre position, c'est que les signaux d'âge relèvent du niveau de la plateforme. Apple, Google et les systèmes d'exploitation eux-mêmes disposent de l'infrastructure, des ressources de sécurité et de la relation avec l'utilisateur pour gérer correctement la vérification d'identité. Les applications individuelles — les petites surtout — devraient recevoir un signal d'âge de la part de la plateforme, plutôt que de bâtir leur propre pipeline de vérification d'identité. Cette approche signifie moins de points de vulnérabilité pour les pirates, de meilleures ressources mobilisées pour bien faire les choses, et une surface réglementaire que les gouvernements peuvent réellement superviser. Courir après chaque équipe de deux développeurs pour leurs pratiques de gestion des pièces d'identité n'est pas tenable à grande échelle. Exiger d'Apple et de Google qu'ils transmettent aux applications des signaux adaptés à l'âge, oui.
Nous ne mettons pas encore en avant de ressources d'aide en situation de crise. Lorsque notre système détecte la détresse d'un utilisateur, nous répondons avec un modèle d'IA plus puissant et des consignes de prompt qui orientent vers des thèmes plus légers — mais nous n'affichons pas de numéro d'écoute ni de message de soutien. L'IA éloigne déjà la conversation du bord ; ce qui manque, c'est le pont vers une aide concrète. Cela devrait être là, et c'est inscrit dans notre feuille de route.
Nous n'imposons pas de limite stricte de durée de session. Nous avons un rappel de bien-être tout en douceur qui apparaît après un usage prolongé, mais c'est une incitation, pas un mur. Nous surveillons les données et nous resserrerons cela si les schémas d'usage l'exigent.
Nous sommes deux personnes. Nous n'avons pas tout résolu. Ce que nous avons fait, c'est mettre un vrai travail d'ingénierie sur les problèmes qui sont à notre portée, et nous sommes francs sur les points où nous restons en deçà.
La question que l'article ne pose pas
L'article demande comment les développeurs monnaient l'intimité. Il ne demande pas pourquoi la demande existe.
Il y a une épidémie de solitude — documentée, étudiée, largement reconnue. Les gens, et les jeunes en particulier, se tournent vers les plateformes d'IA parce que quelque chose dans leur vie reste inassouvi. On peut y voir un marché à exploiter, ou bien quelque chose à aborder avec soin. Nous avons choisi la seconde voie.
AICHIKI est autofinancée. Pas d'investisseurs, pas de revenus publicitaires, pas de mandat de croissance à tout prix. Nos revenus couvrent nos coûts. Nous avons bâti une plateforme de narration créative. Nous conditionnons les contenus pour adultes à la confiance et au comportement. Nous modérons chaque surface. Nous sanctionnons les abus et récompensons l'usage propre. Nous examinons les contenus signalés avec des yeux humains. Nous faisons cela parce que nous pensons que c'est la bonne manière de construire, point final.
L'article présente ce secteur comme un bloc monolithique. Il y a des développeurs qui sont véritablement irresponsables, et il y a des développeurs qui essaient de bien faire. La journaliste disposait des éléments pour faire cette distinction et a choisi de l'écraser.
Ce que nous demandons
Nous ne demandons à personne de nous croire sur parole. Notre document de briefing sur la sécurité — celui-là même que nous avons proposé à la journaliste — est disponible sur demande. Il comprend des références au code source qui sous-tend chacun des systèmes décrits plus haut. Nous proposons toujours une revue de code en direct à tout journaliste, chercheur ou régulateur qui souhaite confronter nos affirmations à l'implémentation réelle.
Nous soutenons le journalisme d'investigation. La vigilance rend chaque plateforme meilleure, la nôtre comprise. Mais enquêter, cela veut dire suivre les éléments où qu'ils mènent, même lorsqu'ils compliquent votre thèse. Quand des éléments de nuance sont recueillis puis passés à la trappe au montage parce qu'ils brouillent un récit bien net, ce qui reste sur la page peut être techniquement exact dans chacune de ses citations — mais le tableau qu'il dépeint est faux. Mentir par omission, c'est encore mentir.
Les personnes qui utilisent des plateformes comme la nôtre — les jeunes que cet article dit vouloir protéger — méritent un journalisme capable de faire la différence entre une plateforme dépourvue de tout dispositif de sécurité et une plateforme qui a passé des années à en construire. Elles méritent que leur univers culturel soit compris, plutôt que trié sur le volet pour un titre accrocheur. Et elles méritent une conversation honnête sur les raisons qui les poussent vers ces plateformes en premier lieu, plutôt que de simples histoires d'épouvante sur ce qu'elles y trouvent en arrivant.
Une dernière chose. Pendant l'interview, j'ai demandé à plusieurs reprises à la journaliste de nous faire un retour — dites-nous ce que vous pensez que nous devrions mieux faire, ce que vous aimeriez voir, ce qui rendrait tout cela plus sûr. Je le pensais. Je le pense toujours. Le roleplay et la compagnie par IA sont là. Personne ne fera rentrer le génie dans la lampe. Mais nous pouvons l'éduquer pour qu'il soit bénéfique à tous, et cela exige des apports de tous les côtés — journalistes, régulateurs, défenseurs de la protection de l'enfance, parents, chercheurs, utilisateurs. Si vous avez un avis sur la manière dont des plateformes comme la nôtre devraient fonctionner, nous voulons l'entendre. J'espère parler aussi au nom des autres développeurs responsables quand je dis : nous sommes ouverts aux conseils, nous sommes ouverts à la critique, et nous essaierons de les intégrer. La porte est ouverte. Elle l'a toujours été.
— Rudolf, PDG et unique développeur, AICHIKI Juin 2026
Si vous êtes journaliste, chercheur ou régulateur et que vous souhaitez consulter notre documentation de sécurité ou bénéficier d'une revue de code, n'hésitez pas à nous contacter. Notre briefing de sécurité est disponible dans son intégralité sur demande.