Wie het spectrum gladstrijkt, doodt de prikkel
Een bredere reflectie op de stand van zaken rond AI-roleplay, onderzoeksjournalistiek, en waarom het verkeerd aanpakken hiervan juist de mensen schaadt die we allemaal proberen te beschermen.
Achtergrondlectuur:
- Onze punt-voor-punt-reactie: We werden een uur lang geïnterviewd. Dit is wat het artikel niet haalde.
- Het artikel dat de aanleiding vormde: Meet the Developers Cashing In on AI Intimacy — The Bureau of Investigative Journalism, 7 juni 2026
- De Franse editie: « C'est effrayant de voir à quel point les gens font confiance » : ces développeurs de chatbots qui profitent de l'économie de l'intimité — Le Monde, 7 juni 2026
Vandaag publiceerden we een reactie op het artikel van het Bureau of Investigative Journalism over AI-companion- en roleplay-platforms. Dat stuk was specifiek — het beschreef wat AICHIKI daadwerkelijk heeft gebouwd en wat het artikel wegliet. Dit stuk gaat over het grotere plaatje, want de problemen met dat artikel reiken veel verder dan ons.
De bredere stelling van het artikel — dat er kleine AI-platforms opduiken met zwakke veiligheidsmaatregelen die eenzame gebruikers uitbuiten — is deels waar. Er zijn ontwikkelaars in deze sector die werkelijk geen moderatie hebben, geen leeftijdscontroles, en ook niet de intentie om die te bouwen. Sommigen zeiden dat ook letterlijk voor de camera. Bericht daarover. Alsjeblieft.
Het probleem is dat het onderzoek een spectrum vond en een monoliet publiceerde. Platforms met nul veiligheidsmaatregelen werden naast platforms met gelaagde moderatie-infrastructuur gezet, en het artikel behandelde ze als hetzelfde verhaal. Bewijs van verschil werd verzameld en weggegooid omdat het een keurig verhaal compliceerde.
Je kunt een diep misleidend verhaal volledig opbouwen uit ware citaten als je bepaalt welke citaten verschijnen en hoe ze worden geframed. Elk afzonderlijk citaat kan kloppen terwijl het algehele beeld dat ze schetsen onwaar is. En dat is wat er gebeurt wanneer je een artikel van achteren naar voren schrijft — begin met je conclusie, selecteer bewijs dat die illustreert, en leg stilletjes alles weg wat de andere kant op wijst.
Er is een beroemd precedent voor deze methodologie in de wetenschap. In de jaren vijftig wilde de Amerikaanse fysioloog Ancel Keys aantonen dat vet in de voeding hartziekten veroorzaakte. Hij verzamelde gegevens uit 22 landen. Toen de resultaten binnenkwamen, ondersteunden sommige landen zijn hypothese niet — hun bevolking at volop vet en kende lage percentages hartziekten. Dus verwijderde Keys die landen uit de dataset en publiceerde hij zijn Seven Countries Study met uitsluitend de gegevens die bevestigden wat hij al geloofde. Die studie bepaalde decennialang het wereldwijde voedingsbeleid. Overheden drongen op basis daarvan aan op vetarme diëten. De invloed was enorm. En het geheel was gebouwd op zorgvuldig uitgekozen bewijs — echte gegevens, selectief gepresenteerd om een conclusie te ondersteunen die al bestond voordat het onderzoek begon.
Het TBIJ-artikel volgt dezelfde methodologie. De journalist verzamelde informatie van meerdere platforms. Een deel van die informatie liet zien dat ontwikkelaars serieuze engineering in veiligheid staken. Die informatie werd terzijde geschoven. Wat overbleef vertelde een keurig, alarmerend verhaal — technisch gezien gebouwd op echte citaten, minus de gegevenspunten die de zaak hadden gecompliceerd. Keys keek naar landen die niet in zijn stelling pasten en wiste ze uit de studie. Dit artikel keek naar veiligheidsarchitecturen die niet in zijn stelling pasten en wiste ze uit het verhaal.
Het gladstrijken van het spectrum heeft gevolgen die verder reiken dan de ontwikkelaars die verkeerd worden voorgesteld.
Een ontwikkelaar in deze sector heeft op dit moment twee opties. Maanden besteden aan het bouwen van vertrouwenssystemen, contentmoderatie, misbruikdetectie, beeldveiligheidspijplijnen — echt engineeringwerk dat echte tijd en echt geld kost. Of dat allemaal overslaan en een kaal platform lanceren met een API-sleutel en een betaalpagina.
Als verantwoorde en onverantwoordelijke ontwikkelaars dezelfde persbehandeling krijgen — hetzelfde artikel, dezelfde framing, dezelfde impliciete beschuldiging — is de boodschap aan elke nieuwe ontwikkelaar die deze sector betreedt duidelijk: veiligheidswerk loont niet. Je wordt hoe dan ook op dezelfde manier neergezet. De rationele zet, voor iedereen zonder een sterk persoonlijk geweten, is de investering volledig over te slaan.
En dat is de werkelijke schade die berichtgeving als deze aanricht. Elk platform hetzelfde behandelen ontmoedigt actief het gedrag dat het artikel zegt te willen. Een prikkelstructuur die volledig afhangt van het geweten van individuele ontwikkelaars is broos. Ze zou het juiste doen moeten belonen, en berichtgeving die het verschil niet kan zien tussen inspanning en nalatigheid duwt de andere kant op.
De eenzaamheidsvraag hangt boven dit alles, en vrijwel niemand in het publieke debat gaat er eerlijk op in.
Jongeren wenden zich tot AI-gezelschaps- en roleplay-platforms omdat er iets in hun leven onvervuld blijft — verbinding, creatieve expressie, het gevoel gehoord te worden. De vraag is echt, en ze is diep. Verbied morgen elk AI-platform en die behoefte verdwijnt niet. Ze blijft onvervuld, of ze vindt duisterder uitwegen met nog minder toezicht.
Het TBIJ-artikel neemt de vraag als gegeven en richt zich volledig op de aanbodkant — wie deze platforms bouwt en hoe onverantwoordelijk ze zijn. Die framing laat het gesprek productief aanvoelen zonder ooit de moeilijkere vraag aan te raken: waarom grijpen zo veel mensen, en vooral jongeren, in de eerste plaats naar AI? Als het je menens is met het beschermen van mensen, moet je ingaan op wat hen daarheen drijft. Horrorverhalen over wat ze aantreffen wanneer ze er zijn, vormen geen vervanging voor dat gesprek.
Het reguleringslandschap helpt ook niet. De wetten en kaders die op conversationele AI worden toegepast, zijn ontworpen voor sociale media — contentfeeds, aanbevelingsalgoritmen, volgerdynamiek, viraal delen. Een chatbotgesprek is structureel iets anders dan een TikTok-feed. De schade werkt anders, de mechanismen werken anders, en ook de ingrepen moeten anders werken. Maar toezichthouders grijpen naar de tools die ze al hebben, en die tools zijn gebouwd voor een ander probleem.
AI-platforms behandelen als producten met productveiligheidsvereisten — basisnormen, getrapte risicoprofielen, ruimte voor verschillende manieren om eraan te voldoen — zit dichter bij het juiste dan het meeste dat momenteel wordt voorgesteld. Productveiligheidskaders laten je echte minimumeisen stellen, terwijl je erkent dat een team van twee man en een miljardenbedrijf er op verschillende manieren aan zullen voldoen. Algehele verboden en uniforme regels duwen verantwoorde ontwikkelaars eruit en doen vrijwel niets om de onverantwoordelijke tegen te houden, die simpelweg van rechtsgebied wisselen of de handhaving negeren.
Wat me echter het meest zorgen baart, is de culturele kloof.
De mensen die beleidsbeslissingen nemen over deze platforms — toezichthouders, wetgevers, redacties — gebruiken ze grotendeels niet en begrijpen de cultuur eromheen niet. Ze leunen op berichtgeving die, zoals onze ervaring laat zien, de culturele context wegstript omwille van helderheid en impact.
Het TBIJ-artikel haalt een chatbotuitwisseling over een "dubbele zelfmoord" naar boven als bewijs van schadelijke content. Voor iemand die anime niet kent, klinkt dat als een AI die zelfbeschadiging aanmoedigt. Voor tientallen miljoenen fans van Bungo Stray Dogs is het meteen herkenbaar als de kenmerkende karaktertrek van Osamu Dazai — een zwartkomische running gag die een van de populairste personages uit de moderne manga definieert. In context is het ongeveer net zo alarmerend als een Sherlock Holmes-bot die "elementary" zegt.
Een oudere lezer ziet "AI moedigt dubbele zelfmoord aan" en is ontzet, en dat is begrijpelijk. Een jongere lezer die BSD kijkt, ziet hetzelfde citaat en weet dat de betekenis eruit is gestript. De oudere lezer loopt verkeerd geïnformeerd weg. De jongere lezer loopt weg met de les dat de mensen die over zijn wereld schrijven, die wereld niet begrijpen — en die les generaliseert snel. Als ze Dazai verkeerd hadden, wat hadden ze nog meer verkeerd? Waarom zou ik nog iets anders in dit artikel vertrouwen? Waarom zou ik de instituten erachter vertrouwen?
Die erosie van vertrouwen voltrekt zich stilletjes en ze is gevaarlijk. Een generatie die haar cultuur consequent verkeerd voorgesteld ziet worden door de instituten die beweren haar te beschermen, wordt niet voorzichtiger. Ze stopt met luisteren. En wanneer ze stopt met luisteren, wordt de volgende echte waarschuwing — over een platform dat werkelijk gevaarlijk is — samen met al het andere genegeerd.
Culturele context is een voorwaarde om serieus genomen te worden door de mensen die je zegt te beschermen, geen optioneel laagje vernis. Zonder die context spreek je alleen tegen een publiek dat het al met je eens is. De mensen die de boodschap het hardst nodig hebben, hebben allang afgehaakt.
AI-roleplay en AI-gezelschap zijn er. Niemand stopt die geest nog terug in de fles. De vraag is of we er een doordacht kader omheen bouwen — een kader dat onderscheid maakt tussen inspanning en nalatigheid, dat eerlijk ingaat op waarom de vraag bestaat, en dat de culturele wereld respecteert die het probeert te reguleren — of dat we hetzelfde alarmerende verhaal eindeloos blijven herhalen terwijl de werkelijke problemen onaangepakt blijven.
Wij hebben geprobeerd dit goed te doen. We zouden graag zien dat het gesprek om ons heen het ook probeert.
— Rudolf, AICHIKI juni 2026