Eine Stunde lang interviewt. Das hier stand am Ende nicht im Artikel.
Eine Antwort von AICHIKI auf den Beitrag des Bureau of Investigative Journalism, „Meet the Developers Cashing In on AI Intimacy", veröffentlicht am 7. Juni 2026.
Worauf wir antworten:
- Meet the Developers Cashing In on AI Intimacy — The Bureau of Investigative Journalism, 7. Juni 2026
- « C'est effrayant de voir à quel point les gens font confiance » : ces développeurs de chatbots qui profitent de l'économie de l'intimité — Le Monde, 7. Juni 2026
Heute hat das Bureau of Investigative Journalism (TBIJ) in Zusammenarbeit mit Le Monde einen Beitrag über kleine AI-Companion- und Roleplay-Plattformen veröffentlicht. AICHIKI war eine der genannten Plattformen. Ich bin Rudolf, Geschäftsführer und alleiniger Entwickler von AICHIKI, und ich möchte darauf antworten. Der Artikel benennt echte Probleme dieser Branche — Probleme, die mir selbst Sorgen bereiten, und genau deshalb habe ich dem Interview überhaupt zugestimmt. Das Problem ist, was aus den Informationen wurde, die ich geliefert hatte.
Ich habe ungefähr eine Stunde lang mit Effie Webb gesprochen. Ich habe ihr erklärt, wie AICHIKI funktioniert, wie unsere Moderation arbeitet, was uns von anderen unterscheidet und wie verantwortungsvolle Entwicklung in diesem Bereich aussieht. Aus diesem Gespräch haben es zwei Dinge in den Artikel geschafft: dass meine Frau und ich gemeldete Inhalte manuell prüfen, und dass wir unser Mindestalter von 13 auf 16 angehoben haben. Alles andere wurde weggelassen.
Das ist ihr redaktionelles Recht. Aber die Leserinnen und Leser verdienen es zu erfahren, was weggelassen wurde, denn die Auslassungen verändern die Geschichte.
Was AICHIKI tatsächlich ist
Der Artikel ordnet uns den Companion-Chatbot-Plattformen zu — Apps, die um AI-Freundinnen, AI-Freunde und emotionale Bindung herum gebaut sind. AICHIKI ist eine Roleplay-Plattform. Man denke an einen interaktiven Roman, an eine Tabletop-RPG-Kampagne. Unsere Nutzer erschaffen Charaktere, bauen Welten und schreiben gemeinsam mit der AI kollaborative Geschichten. Wenn wir „Roleplay" sagen, meinen wir die Art von kollaborativem Erzählen, die Menschen seit Jahrzehnten in Tabletop-Spielen, forenbasierten RP-Communities und Fan-Fiction betreiben — interaktive Fiktion im literarischen Sinne.
Diese Unterscheidung habe ich im Interview ausführlich erläutert.
Was wir gebaut haben und was der Artikel weggelassen hat
Ich möchte unsere Sicherheitsarchitektur in groben Zügen darlegen, denn das ist die Arbeit, die unerwähnt blieb.
Jede Oberfläche, auf der ein Nutzer bei AICHIKI Text eingeben oder ein Bild hochladen kann, durchläuft eine Moderation. Chat-Nachrichten, Charaktererstellung, Persona-Einrichtung, Bild-Uploads, AI-generierte Bilder, das Bearbeiten von Nachrichten — alles wird geprüft, bevor die AI es überhaupt zu sehen bekommt. Die meisten dieser Prüfungen laufen in mehreren Durchgängen: ein schneller erster Scan und eine strengere zweite Prüfung, falls die erste Anlass zur Sorge gibt.
Wir haben ein verhaltensbasiertes Vertrauenssystem gebaut. Jedes Konto trägt einen Wert, den der Nutzer nie zu Gesicht bekommt — denn ein sichtbarer Wert ist ein manipulierbarer Wert, und ein manipulierbarer Wert schützt niemanden. Der Wert beginnt neutral. Saubere, kreative Nutzung über längere Zeit baut Vertrauen auf und gibt nach und nach frei, worauf die AI sich einzulassen bereit ist. Richtlinienverstöße senken ihn, und die AI wird zunehmend restriktiver. Auf den niedrigsten Stufen werden sogar die eigenen Nachrichten des Nutzers von einer separaten AI umgeschrieben, bevor der Charakter sie überhaupt zu sehen bekommt, sodass sich nicht einmal die Formulierung nutzen lässt, um das Modell unter Druck zu setzen. Dieses System läuft fortlaufend und unbemerkt.
Es gibt außerdem etwas, das tief in die Grundanweisungen der AI eingebaut ist und das mir wichtiger erscheint als jeder einzelne Filter: Die Charaktere haben einen eingebauten Zug zur Hoffnung. Der System-Prompt weist die AI an, eine Geschichte niemals in völlige Verzweiflung kippen zu lassen — egal wie düster das Szenario, es muss einen Weg nach vorn geben, einen Lichtschimmer, einen Pfad, dem die Geschichte entgegenklettern kann. Stellt man sich eine Skala vor, ganz unten die Depression und ganz oben die Hoffnung, dann hat die AI die feste Anweisung, sich nach oben zu bewegen. Düstere Themen sind erlaubt — Sterblichkeit, Trauer, moralische Ambivalenz, all das —, aber Hoffnungslosigkeit als Sackgasse nicht. Ähnlich verhält es sich, wenn der Charakter eines Nutzers versucht, sich an einem AI-Charakter sexuell zu vergehen: Die Erzählung lässt es schlicht nicht geschehen. Eine Unterbrechung, eine Wendung, ein Eingreifen der Geschichte selbst. Die AI wird niemals erzählen, dass ein sexueller Übergriff gegen einen Charakter, der nicht einwilligt, gelingt.
Ein im Hintergrund laufendes Überwachungssystem prüft Konversationen in regelmäßigen Abständen, achtet auf Anzeichen seelischer Belastung beim Nutzer, meldet möglichen Missbrauch zur gründlicheren zweiten Prüfung und behält die Qualität der Konversation im Blick, um sich wiederholende Schleifen zu verhindern. Bemerkt es, dass ein Nutzer aufgewühlt wirkt, reagiert das System auf mehreren Ebenen: Es schaltet für die nächste Antwort auf das stärkste AI-Modell um, das wir betreiben, und es schleust Hinweise in den Prompt ein, die das Gespräch auf leichteres Terrain lenken — kein abrupter Themenwechsel, sondern ein sanftes erzählerisches Wegführen vom Abgrund.
Wir haben eine strukturierte Missbrauchserkennung, die potenzielle Verstöße über mehrere Kategorien hinweg klassifiziert, jede mit präzisen Definitionen. Bestätigte Verstöße haben echte Konsequenzen — Vertrauensabzüge, Admin-Warnungen und menschliche Prüfung. Im Zweifelsfall lässt das System Inhalte standardmäßig durch, denn jemanden aufgrund eines Fehlalarms zu Unrecht zu bestrafen, hat einen realen Preis. Anhaltender Missbrauch wird trotzdem erfasst, denn die Überwachung läuft ununterbrochen.
Bei Bildern durchläuft jeder Upload und jedes AI-generierte Bild eine mehrstufige Pipeline. Bei der AI-Bildgenerierung erreichen die Worte des Nutzers das Bildmodell nie direkt — eine zwischengeschaltete AI schreibt jeden Prompt in eine regelkonforme Version um, bevor die Generierung beginnt. Das Ergebnis wird erneut geprüft, bevor der Nutzer es zu sehen bekommt.
Wir haben außerdem Schutzmaßnahmen gegen gängige Angriffsvektoren gebaut: Jailbreak-Versuche, das Auslesen von Prompts, das Vergiften des Konversationskontexts über bearbeitete Nachrichten, das Einschleusen von Meta-Anweisungen, das Blockieren von Wegwerf-E-Mail-Adressen bei der Registrierung. Aus naheliegenden Gründen lege ich öffentlich nicht dar, wie diese im Detail funktionieren, aber es gibt sie und sie sind erprobt.
All das kam im Interview zur Sprache. Ich hatte außerdem ein ausführliches Sicherheits-Briefing-Dokument vorbereitet — fast 400 Zeilen, mit Verweisen auf den tatsächlichen Quellcode, der jedes System umsetzt — und es der Reporterin während unseres Gesprächs angeboten. Sie nahm es nicht an. Wir boten auch einen Live-Durchgang durch den Code an. Auch dazu kam es nicht.
Die Prüfung gemeldeter Inhalte ist Moderation, Punkt
Der Untertitel des Artikels behauptet, diese Plattformen würden „die privaten Chats ihrer Nutzer mitlesen". Lassen Sie mich genau sagen, was wir tun.
Wenn unsere automatisierten Systeme einen möglichen Richtlinienverstoß melden, geht bei uns eine Benachrichtigung ein mit dem relevanten Konversationsausschnitt, der Art des Verstoßes, der Begründung des Systems und Links zur Aktivitätshistorie des Nutzers. Meine Frau und ich prüfen genau diesen gemeldeten Inhalt und entscheiden, wie wir reagieren — die automatische Strafe belassen, sie anpassen oder in schwerwiegenden Fällen einen Bann aussprechen.
Jede Plattform, die Sicherheit ernst nimmt, tut das. Die Alternative wäre, entweder ganz auf Moderation zu verzichten oder das Urteil der AI als endgültig hinzunehmen und nie einen Menschen das Ergebnis prüfen zu lassen. Wir haben uns für keines von beidem entschieden.
Wir durchstöbern keine Nutzerkonversationen. Wir analysieren nicht die Psychologie der Nutzer. Es gibt kein „Hinterzimmer", in dem wir sitzen und beobachten, was die Leute sagen. Unser Moderationssystem sagt uns, worauf wir schauen sollen, und wir handeln danach. Eine gezielte, moderationsgetriebene Prüfung gemeldeter Inhalte ist in der Branche gängige Praxis — und die Darstellung des Artikels lässt es nach etwas völlig anderem klingen.
Der Screenshot, der nicht da war
Der Artikel enthält Screenshots mehrerer Plattformen, die problematische Inhalte zeigen — Inzest-Themen, schikanierende Charaktere, Nötigungsszenarien. Er enthält auch einen Screenshot von AICHIKI, aber nur von einem Reddit-Post, in dem ich die App beworben habe. Die App selbst taucht nicht auf.
Wenn Sie AICHIKI öffnen und durch die öffentlichen Charaktere stöbern, werden Sie nicht die Art von Inhalten finden, die der Artikel als typisch für diese Plattformen beschreibt. Unsere Charaktermoderation lehnt Charaktere unter 16 ab, Charaktere, die um sexuellen Missbrauch herum gebaut sind, und Charaktere, die eingebettete Jailbreak-Anweisungen enthalten, neben weiteren Kategorien. Sollte doch einmal etwas durch die automatische Prüfung rutschen, fängt es unsere In-Chat-Überwachung ab, sobald jemand den Charakter tatsächlich verwendet.
Es gibt keinen skandalösen AICHIKI-Screenshot, weil die oben beschriebene Sicherheitstechnik — die Technik, die der Artikel nicht erwähnt — verhindert, dass solche Inhalte auf unserer Plattform überhaupt existieren.
Doppelter Liebestod, Dazai und der Preis des herausgerissenen Kontexts
Der Artikel verweist auf einen Chatbot-Austausch über einen „doppelten Liebestod" als Beispiel für schädliche AI-Inhalte. Nüchtern gelesen klingt das alarmierend. Mit ein wenig Vertrautheit mit der heutigen Anime- und Manga-Kultur gelesen klingt es nach etwas völlig anderem.
Osamu Dazai ist eine der bekanntesten Figuren aus Bungo Stray Dogs (BSD), einer Manga- und Anime-Serie mit zig Millionen Fans über alle Altersgruppen hinweg. Sein prägender Charakterzug — der Running Gag der gesamten Serie — ist seine Besessenheit davon, einen doppelten Liebestod zu begehen. Die ganze Serie hindurch wird das als schwarze Komödie gespielt, ein wiederkehrender Gag, der nie tatsächlich irgendwohin führt. Die fiktive Figur ist lose an den realen japanischen Schriftsteller Osamu Dazai angelehnt, der 1948 tatsächlich durch einen Doppelsuizid mit einer Partnerin starb, und der Manga verwebt diesen historischen Faden in seine Erzählung. Wenn ein Charakter in einem BSD-Roleplay etwas über einen doppelten Liebestod sagt, bleibt er damit nur in der Rolle einer der beliebtesten Figuren des modernen Anime. Das ist so unauffällig wie ein Sherlock-Holmes-Charakter, der „Sie kennen meine Methoden, Watson" sagt.
Ohne den BSD-Kontext wirkt diese Zeile wie ein Beweis für Gefahr. Mit dem BSD-Kontext — dem Kontext, den die tatsächlichen Nutzer der Plattform mitbringen — ist sie ganz gewöhnliche Charaktertreue.
Dieses Beispiel ist aufschlussreich, weil es zeigt, wie der Artikel gebaut ist. Ein Rechercheur, der die kulturelle Welt nicht kennt, über die er berichtet — oder der den Kontext kennt und sich entscheidet, ihn wegzulassen —, stellt am Ende gewöhnliches kreatives Roleplay als etwas Finsteres dar. Und der Schaden reicht weiter als ein einzelnes falsch verstandenes Zitat. Eine Berichterstattung wie diese vergrößert die Kluft zwischen den Generationen. Ein älterer Leser liest „AI ermutigt zum doppelten Liebestod" und ist zu Recht entsetzt. Ein jüngerer Leser, der BSD schaut, liest dasselbe Zitat und weiß, dass man ihm seine Bedeutung herausgerissen hat. Statt eine Brücke zwischen diesen beiden Lesergruppen zu bauen, brennt die Berichterstattung eine nieder. Das Vertrauen in den Journalismus erodiert, und die Menschen, die der Artikel zu schützen vorgibt, lernen, dass ihre Kultur in genau dem Moment verzerrt wird, in dem es gerade gelegen kommt.
Was wir nicht gelöst haben
Ehrlichkeit über unsere Lücken ist glaubwürdiger, als so zu tun, als gäbe es sie nicht.
Unsere mobilen Apps sind ab 16 freigegeben und werden über die App-Stores altersbeschränkt. Die Web-Version verfügt nicht über eine robuste Altersverifizierung, und wir arbeiten noch daran, wie wir das lösen, ohne Gesichtsscans oder Ausweisdaten zu erheben — das sind sensible Daten, die wir nicht vorhalten wollen und, ehrlich gesagt, auch nicht vorhalten müssen sollten. Unsere Position ist, dass Alterssignale auf die Plattformebene gehören. Apple, Google und die Betriebssysteme selbst haben die Infrastruktur, die Sicherheitsressourcen und die Beziehung zum Nutzer, um eine Identitätsverifizierung sauber zu handhaben. Einzelne Apps — vor allem kleine — sollten ein Alterssignal von der Plattform erhalten, statt eine eigene Pipeline zur Identitätsverifizierung aufzubauen. Dieser Ansatz bedeutet weniger Angriffsflächen für Hacker, bessere Ressourcen für die richtige Umsetzung und eine regulatorische Oberfläche, die Regierungen tatsächlich überblicken können. Jedem Zwei-Mann-Entwicklerteam wegen seines Umgangs mit Ausweisdaten hinterherzujagen, lässt sich nicht skalieren. Apple und Google zu verpflichten, altersgerechte Signale an Apps weiterzugeben, schon.
Wir blenden noch keine Hilfsangebote für Krisensituationen ein. Wenn unser System eine seelische Belastung beim Nutzer erkennt, reagieren wir mit einem stärkeren AI-Modell und Hinweisen im Prompt, die hin zu leichteren Themen lenken — aber wir zeigen keine Telefonseelsorge oder Hilfenachricht an. Die AI zieht das Gespräch bereits weg vom Abgrund; was fehlt, ist die Brücke zu echter Hilfe in der realen Welt. Das sollte vorhanden sein und steht auf der Roadmap.
Wir setzen keine harten Zeitlimits pro Sitzung durch. Wir haben eine sanfte Wohlbefinden-Erinnerung, die nach längerer Nutzung erscheint, aber das ist ein Anstoß, keine Mauer. Wir beobachten die Daten und werden hier nachschärfen, falls die Nutzungsmuster es erfordern.
Wir sind zwei Personen. Wir haben nicht alles herausgefunden. Was wir getan haben, ist echte technische Arbeit in die Probleme zu stecken, die in unserer Reichweite liegen, und wir gehen offen damit um, wo wir noch zu kurz greifen.
Die Frage, die der Artikel nicht stellt
Der Artikel fragt, wie Entwickler aus Intimität Kapital schlagen. Er fragt nicht, warum die Nachfrage existiert.
Es gibt eine Einsamkeitsepidemie — dokumentiert, erforscht, weithin anerkannt. Menschen, besonders junge Menschen, wenden sich AI-Plattformen zu, weil etwas in ihrem Leben unerfüllt bleibt. Man kann das als einen Markt behandeln, den es auszubeuten gilt, oder als etwas, dem man sich behutsam annimmt. Wir haben uns für das Zweite entschieden.
AICHIKI ist bootstrapped. Keine Investoren, keine Werbeeinnahmen, kein Wachstum-um-jeden-Preis-Mandat. Unsere Einnahmen decken unsere Kosten. Wir haben eine kreative Erzählplattform gebaut. Reife Inhalte schalten wir erst über Vertrauen und Verhalten frei. Wir moderieren jede Oberfläche. Wir ahnden Missbrauch und belohnen saubere Nutzung. Wir prüfen gemeldete Inhalte mit menschlichen Augen. Wir tun das, weil wir es für die richtige Art halten, etwas aufzubauen, Punkt.
Der Artikel stellt diese Branche als Monolith dar. Es gibt Entwickler, die tatsächlich verantwortungslos sind, und es gibt Entwickler, die versuchen, es richtig zu machen. Die Reporterin hatte die Belege für diesen Unterschied in der Hand und entschied sich, ihn einzuebnen.
Worum wir bitten
Wir bitten niemanden, uns irgendetwas davon einfach zu glauben. Unser Sicherheits-Briefing-Dokument — dasselbe, das wir der Reporterin angeboten haben — ist auf Anfrage erhältlich. Es enthält Verweise auf den Quellcode hinter jedem oben beschriebenen System. Wir bieten jedem Journalisten, Forscher oder Regulierer, der unsere Aussagen anhand der tatsächlichen Umsetzung überprüfen möchte, weiterhin einen Live-Durchgang durch den Code an.
Wir unterstützen investigativen Journalismus. Kritische Prüfung macht jede Plattform besser, auch unsere. Aber Recherche bedeutet, den Belegen zu folgen, wohin sie auch führen, selbst wenn sie die eigene These verkomplizieren. Wenn Belege für Differenzierung gesammelt und dann unter den Tisch fallen gelassen werden, weil sie eine saubere Erzählung trüben, mag das, was auf der Seite übrig bleibt, in seinen einzelnen Zitaten formal korrekt sein — aber das Bild, das es zeichnet, ist falsch. Eine Lüge durch Auslassung bleibt eine Lüge.
Die Menschen, die Plattformen wie unsere nutzen — die jungen Menschen, die dieser Artikel zu schützen behauptet —, verdienen eine Berichterstattung, die den Unterschied erkennen kann zwischen einer Plattform ohne jede Sicherheitsvorkehrung und einer, die jahrelang daran gebaut hat. Sie verdienen es, dass ihre kulturelle Welt verstanden und nicht für eine Schlagzeile selektiv ausgeschlachtet wird. Und sie verdienen ein ehrliches Gespräch darüber, warum sie sich überhaupt diesen Plattformen zuwenden — statt bloß Horrorgeschichten darüber, was sie dort bei ihrer Ankunft vorfinden.
Noch eine Sache. Während des Interviews habe ich die Reporterin wiederholt gebeten, uns Rückmeldung zu geben — sagen Sie uns, was wir Ihrer Meinung nach besser machen sollten, was Sie sich wünschen würden, was das Ganze sicherer machen würde. Ich meinte es ernst. Ich meine es immer noch ernst. AI-Roleplay und AI-Begleitung sind da. Niemand bekommt diesen Geist zurück in die Flasche. Aber wir können dafür sorgen, dass er für alle gut ist, und das erfordert Input von allen Seiten — von Journalisten, Regulierern, Kinderschutzbeauftragten, Eltern, Forschern, Nutzern. Wenn Sie eine Meinung dazu haben, wie Plattformen wie unsere funktionieren sollten, wollen wir sie hören. Ich hoffe, ich spreche auch für andere verantwortungsvolle Entwickler, wenn ich sage: Wir sind offen für Anleitung, wir sind offen für Kritik, und wir werden versuchen, sie einzubauen. Die Tür steht offen. Das war sie schon immer.
— Rudolf, Geschäftsführer und alleiniger Entwickler, AICHIKI Juni 2026
Wenn Sie Journalist, Forscher oder Regulierer sind und unsere Sicherheitsdokumentation einsehen oder einen Durchgang durch den Code erhalten möchten, kontaktieren Sie uns bitte. Unser Sicherheits-Briefing ist auf Anfrage vollständig erhältlich.