Wer das Spektrum einebnet, zerstört den Anreiz
Eine grundsätzlichere Betrachtung über den Zustand des AI-Roleplays, den investigativen Journalismus und darüber, warum es genau den Menschen schadet, die wir alle zu schützen versuchen, wenn man dies falsch angeht.
Zum Hintergrund:
- Unsere Antwort Punkt für Punkt: Eine Stunde lang interviewt. Das hier stand am Ende nicht im Artikel.
- Der Artikel, der sie ausgelöst hat: Meet the Developers Cashing In on AI Intimacy — The Bureau of Investigative Journalism, 7. Juni 2026
- Die französische Ausgabe: « C'est effrayant de voir à quel point les gens font confiance » : ces développeurs de chatbots qui profitent de l'économie de l'intimité — Le Monde, 7. Juni 2026
Heute haben wir eine Antwort auf den Artikel des Bureau of Investigative Journalism über AI-Companion- und Roleplay-Plattformen veröffentlicht. Jener Beitrag war konkret — er legte dar, was AICHIKI tatsächlich gebaut hat und was der Artikel wegließ. In diesem hier geht es um das größere Bild, denn die Probleme mit jenem Artikel reichen weit über uns hinaus.
Die übergreifende These des Artikels — dass kleine AI-Plattformen mit schwachen Sicherheitsvorkehrungen aus dem Boden schießen und einsame Nutzer ausbeuten — stimmt zum Teil. Es gibt in diesem Bereich Entwickler, die tatsächlich keine Moderation und keine Altersschranken haben und auch nicht vorhaben, welche zu bauen. Manche haben das vor laufender Kamera so gesagt. Berichten Sie darüber. Bitte.
Das Problem ist, dass die Recherche ein Spektrum vorfand und einen Monolithen veröffentlichte. Plattformen ganz ohne Sicherheitsvorkehrungen wurden neben Plattformen mit mehrschichtiger Moderationsinfrastruktur gestellt, und der Artikel behandelte sie als ein und dieselbe Geschichte. Belege für Unterschiede wurden gesammelt und dann verworfen, weil sie eine saubere Erzählung verkomplizierten.
Man kann eine zutiefst irreführende Geschichte ganz aus wahren Zitaten bauen, wenn man steuert, welche Zitate erscheinen und wie sie eingeordnet werden. Jedes einzelne Zitat kann zutreffen, während das Gesamtbild, das sie zeichnen, falsch ist. Und genau das geschieht, wenn man einen Artikel von hinten aufzäumt — bei der Schlussfolgerung beginnt, dann Belege auswählt, die sie illustrieren, und alles, was in die andere Richtung weist, klammheimlich beiseiteschiebt.
Es gibt einen berühmten Präzedenzfall für diese Art von Methodik in der Wissenschaft. In den 1950er Jahren machte sich der amerikanische Physiologe Ancel Keys daran zu beweisen, dass Nahrungsfett Herzkrankheiten verursacht. Er sammelte Daten aus 22 Ländern. Als die Ergebnisse vorlagen, stützten einige Länder seine Hypothese nicht — ihre Bevölkerungen aßen reichlich Fett und hatten dennoch niedrige Herzkrankheitsraten. Also strich Keys diese Länder aus dem Datensatz und veröffentlichte seine Seven Countries Study nur mit den Daten, die bestätigten, was er ohnehin schon glaubte. Diese Studie prägte über Jahrzehnte die globale Ernährungspolitik. Regierungen propagierten auf ihrer Grundlage fettarme Ernährung. Der Einfluss war enorm. Und das Ganze beruhte auf gezielt herausgepickten Belegen — echte Daten, selektiv präsentiert, um eine Schlussfolgerung zu stützen, die schon vor Beginn der Forschung feststand.
Der TBIJ-Artikel folgt derselben Methodik. Die Reporterin sammelte Informationen von mehreren Plattformen. Ein Teil davon zeigte Entwickler, die ernsthafte technische Arbeit in Sicherheit steckten. Diese Informationen wurden beiseitegelegt. Was übrig blieb, erzählte eine saubere, alarmierende Geschichte — formal auf echten Zitaten aufgebaut, abzüglich der Datenpunkte, die die Sache verkompliziert hätten. Keys nahm sich die Länder vor, die nicht zu seiner These passten, und strich sie aus der Studie. Dieser Artikel nahm sich die Sicherheitsarchitekturen vor, die nicht zu seiner These passten, und strich sie aus der Geschichte.
Das Einebnen des Spektrums hat Folgen, die über die falsch dargestellten Entwickler hinausreichen.
Ein Entwickler in diesem Bereich hat im Moment zwei Möglichkeiten. Monate damit verbringen, Vertrauenssysteme, Inhaltsmoderation, Missbrauchserkennung und Bild-Sicherheitspipelines zu bauen — echte technische Arbeit, die echte Zeit und echtes Geld kostet. Oder all das überspringen und eine nackte Plattform mit einem API-Schlüssel und einer Bezahlseite starten.
Wenn verantwortungsvolle und verantwortungslose Entwickler von der Presse gleich behandelt werden — derselbe Artikel, dieselbe Einordnung, derselbe implizite Vorwurf —, dann ist die Botschaft an jeden neuen Entwickler, der diesen Bereich betritt, eindeutig: Sicherheitsarbeit zahlt sich nicht aus. Man wird ohnehin gleich dargestellt. Der rationale Zug ist dann, für jeden ohne ein starkes persönliches Gewissen, die Investition ganz zu überspringen.
Und genau das ist der eigentliche Schaden, den eine Berichterstattung wie diese anrichtet. Jede Plattform gleich zu behandeln, untergräbt aktiv genau das Verhalten, das der Artikel zu wollen vorgibt. Eine Anreizstruktur, die vollständig davon abhängt, dass einzelne Entwickler ein Gewissen haben, ist fragil. Sie sollte das Richtige belohnen — und eine Berichterstattung, die den Unterschied zwischen Mühe und Fahrlässigkeit nicht erkennen kann, drückt in die entgegengesetzte Richtung.
Die Einsamkeitsfrage schwebt über all dem, und fast niemand in der öffentlichen Debatte setzt sich ehrlich mit ihr auseinander.
Junge Menschen wenden sich AI-Begleitung und Roleplay-Plattformen zu, weil etwas in ihrem Leben unerfüllt bleibt — Verbundenheit, kreativer Ausdruck, das Gefühl, gehört zu werden. Die Nachfrage ist real, und sie sitzt tief. Verbietet man morgen jede AI-Plattform, verschwindet dieses Bedürfnis nicht. Es bleibt unerfüllt, oder es sucht sich finsterere Ventile mit noch weniger Aufsicht.
Der TBIJ-Artikel setzt die Nachfrage als gegeben voraus und konzentriert sich ganz auf die Angebotsseite — wer diese Plattformen baut und wie verantwortungslos er dabei ist. Diese Einordnung lässt die Debatte produktiv wirken, ohne je die schwierigere Frage zu berühren: Warum greifen so viele Menschen, besonders junge Menschen, überhaupt zur AI? Wenn es einem ernst ist mit dem Schutz von Menschen, muss man sich damit auseinandersetzen, was sie dorthin treibt. Horrorgeschichten über das, was sie bei ihrer Ankunft vorfinden, sind kein Ersatz für dieses Gespräch.
Die regulatorische Landschaft hilft ebenfalls nicht weiter. Die Gesetze und Regelwerke, die auf dialogbasierte AI angewandt werden, wurden für soziale Medien entworfen — Content-Feeds, Empfehlungsalgorithmen, Follower-Dynamiken, virales Teilen. Eine Chatbot-Konversation ist strukturell etwas anderes als ein TikTok-Feed. Die Schäden funktionieren anders, die Mechanismen funktionieren anders, und auch die Eingriffe müssen anders funktionieren. Aber Regulierer greifen zu den Werkzeugen, die sie schon haben, und diese Werkzeuge wurden für ein anderes Problem gebaut.
AI-Plattformen als Produkte mit Produktsicherheitsanforderungen zu behandeln — Mindeststandards, abgestufte Risikoprofile, Spielraum für unterschiedliche Wege, sie zu erfüllen — trifft es eher als das meiste, was derzeit vorgeschlagen wird. Produktsicherheitsrahmen erlauben es, echte Mindestanforderungen festzulegen und zugleich anzuerkennen, dass ein Zwei-Personen-Team und ein Milliardenkonzern sie auf unterschiedliche Weise erfüllen werden. Pauschalverbote und Einheitsregeln drängen verantwortungsvolle Entwickler hinaus und richten fast nichts gegen die verantwortungslosen aus, die einfach die Rechtsordnung wechseln oder den Vollzug ignorieren.
Was mir jedoch am meisten Sorgen bereitet, ist die kulturelle Kluft.
Die Menschen, die über diese Plattformen politische Entscheidungen treffen — Regulierer, Gesetzgeber, Redaktionen —, nutzen sie größtenteils nicht und verstehen die Kultur um sie herum nicht. Sie verlassen sich auf eine Berichterstattung, die, wie unsere Erfahrung zeigt, den kulturellen Kontext um der Klarheit und Wirkung willen herausreißt.
Der TBIJ-Artikel führt einen Chatbot-Austausch über einen „doppelten Liebestod" als Beleg für schädliche Inhalte an. Für jeden, der mit Anime nicht vertraut ist, klingt das, als würde eine AI zur Selbstverletzung ermutigen. Für zig Millionen Fans von Bungo Stray Dogs ist es sofort als Osamu Dazais markanter Charakterzug erkennbar — ein schwarz-komödiantischer Running Gag, der eine der beliebtesten Figuren des modernen Manga ausmacht. Im Kontext ist das ungefähr so alarmierend wie ein Sherlock-Holmes-Bot, der „Sie kennen meine Methoden, Watson" sagt.
Ein älterer Leser liest „AI ermutigt zum doppelten Liebestod" und ist entsetzt, verständlicherweise. Ein jüngerer Leser, der BSD schaut, liest dasselbe Zitat und weiß, dass ihm die Bedeutung herausgerissen wurde. Der ältere Leser geht falsch informiert davon. Der jüngere Leser geht mit der Lehre davon, dass die Leute, die über seine Welt schreiben, sie nicht verstehen — und diese Lehre verallgemeinert sich schnell. Wenn sie Dazai falsch verstanden haben, was haben sie sonst noch falsch verstanden? Warum sollte ich irgendetwas anderem in diesem Artikel glauben? Warum sollte ich den Institutionen dahinter trauen?
Diese Erosion des Vertrauens vollzieht sich im Stillen, und sie ist gefährlich. Eine Generation, die zusieht, wie ihre Kultur von den Institutionen, die vorgeben sie zu schützen, beständig verzerrt wird, wird nicht vorsichtiger. Sie hört auf zuzuhören. Und wenn sie aufhört zuzuhören, wird die nächste echte Warnung — vor einer Plattform, die tatsächlich gefährlich ist — zusammen mit allem anderen überhört.
Kultureller Kontext ist eine Voraussetzung dafür, von den Menschen ernst genommen zu werden, die man zu schützen vorgibt, kein optionaler Feinschliff. Ohne ihn spricht man nur zu einem Publikum, das einem ohnehin schon zustimmt. Die Menschen, die die Botschaft am dringendsten hören müssten, haben längst abgeschaltet.
AI-Roleplay und AI-Begleitung sind da. Niemand bekommt diesen Geist zurück in die Flasche. Die Frage ist, ob wir einen durchdachten Rahmen darum herum bauen — einen, der zwischen Mühe und Fahrlässigkeit unterscheidet, sich ehrlich damit auseinandersetzt, warum die Nachfrage existiert, und die kulturelle Welt respektiert, die er zu regulieren versucht — oder ob wir weiterhin dieselbe alarmistische Geschichte in Endlosschleife schreiben, während die eigentlichen Probleme ungelöst bleiben.
Wir haben versucht, es richtig zu machen. Wir würden uns wünschen, dass auch die Debatte um uns herum es versucht.
— Rudolf, AICHIKI Juni 2026