Když srovnáte spektrum do roviny, zabijete motivaci
Širší zamyšlení nad stavem AI roleplay, investigativní žurnalistiky a nad tím, proč to, když se tohle udělá špatně, ubližuje právě těm lidem, které se všichni snažíme chránit.
Doporučená četba:
- Naše reakce bod po bodu: Hodinu nás zpovídali. Tady je to, co se do článku nedostalo.
- Článek, který ji vyvolal: Meet the Developers Cashing In on AI Intimacy — The Bureau of Investigative Journalism, 7. června 2026
- Francouzské vydání: « C'est effrayant de voir à quel point les gens font confiance » : ces développeurs de chatbots qui profitent de l'économie de l'intimité — Le Monde, 7. června 2026
Dnes jsme publikovali reakci na článek Bureau of Investigative Journalism o platformách pro AI společníky a roleplay. Ten text byl konkrétní — rozebíral, co AICHIKI doopravdy postavila a co článek vynechal. Tenhle je o širším obrazu, protože problémy onoho článku sahají daleko za nás.
Širší teze článku — že malé AI platformy vyrůstají jako houby po dešti se slabými bezpečnostními opatřeními a vykořisťují osamělé uživatele — je zčásti pravdivá. V tomto prostoru jsou vývojáři, kteří opravdu nemají žádnou moderaci, žádné věkové brány a ani úmysl je budovat. Někteří to před kamerou rovnou řekli. Referujte o tom. Prosím.
Potíž je v tom, že vyšetřování našlo spektrum a publikovalo monolit. Platformy s nulovými bezpečnostními opatřeními postavilo vedle platforem s vícevrstvou moderační infrastrukturou a zacházelo s nimi jako se stejným příběhem. Důkazy o rozdílech se shromáždily a pak zahodily, protože komplikovaly čistý příběh.
Z pouhých pravdivých citací lze sestavit hluboce zavádějící příběh, pokud máte pod kontrolou, které citace se objeví a jak jsou zarámovány. Každá jednotlivá citace může být přesná, a přesto je celkový obraz, který dohromady vykreslují, falešný. A přesně to se stane, když píšete článek odzadu — začnete závěrem, vyberete důkazy, které ho ilustrují, a tiše odložíte cokoli, co ukazuje opačným směrem.
Pro tenhle druh metody existuje ve vědě slavný předobraz. V 50. letech si americký fyziolog Ancel Keys předsevzal dokázat, že tuky ve stravě způsobují srdeční choroby. Sebral data z 22 zemí. Když výsledky dorazily, některé země jeho hypotézu nepodpořily — jejich obyvatelé jedli spoustu tuků a přitom měli nízký výskyt srdečních chorob. Keys tedy tyto země z datové sady odstranil a publikoval svou Seven Countries Study jen s daty, která potvrzovala to, čemu už věřil. Tato studie utvářela globální výživovou politiku po celá desetiletí. Vlády na jejím základě prosazovaly nízkotučnou stravu. Vliv byl obrovský. A celé to stálo na účelově vybraných důkazech — skutečná data, selektivně předložená tak, aby podpořila závěr, který existoval ještě před začátkem výzkumu.
Článek TBIJ se řídí stejnou metodou. Redaktorka shromáždila informace z několika platforem. Část z nich ukazovala vývojáře, kteří do bezpečnosti vkládají vážné inženýrské úsilí. Tyto informace šly stranou. Co zůstalo, vyprávělo čistý, poplašný příběh — technicky postavený na skutečných citacích, ovšem bez datových bodů, které by věc zkomplikovaly. Keys se podíval na země, které jeho tezi nezapadaly, a vymazal je ze studie. Tenhle článek se podíval na bezpečnostní architektury, které jeho tezi nezapadaly, a vymazal je z příběhu.
Srovnání spektra do roviny má důsledky, které sahají za hranice vývojářů, jež reportáž překroutí.
Vývojář v tomto prostoru má dnes dvě možnosti. Buď stráví měsíce budováním systémů důvěry, moderace obsahu, detekce zneužití a bezpečnostních pipeline pro obrázky — poctivou inženýrskou prací, která stojí skutečný čas a skutečné peníze. Nebo to všechno přeskočí a spustí holou platformu s API klíčem a platební stránkou.
Pokud se zodpovědným i nezodpovědným vývojářům dostane v tisku stejného zacházení — stejný článek, stejné zarámování, stejné nevyřčené obvinění —, je vzkaz pro každého nového vývojáře, který do tohoto prostoru vstupuje, jasný: bezpečnostní práce se nevyplácí. Vykreslí vás stejně tak jako tak. Racionálním krokem pro každého, kdo nemá silné osobní svědomí, je tu investici úplně vynechat.
A v tom spočívá ta skutečná škoda, kterou taková žurnalistika páchá. Když se s každou platformou zachází stejně, aktivně to odrazuje právě od toho chování, které článek údajně vyžaduje. Motivační struktura, která stojí a padá s tím, zda mají jednotliví vývojáři svědomí, je křehká. Měla by odměňovat to, že člověk dělá správnou věc — a reportáž, která neumí rozlišit úsilí od nedbalosti, tlačí opačným směrem.
Nad tím vším visí otázka osamělosti a téměř nikdo ve veřejné debatě se jí nevěnuje upřímně.
Mladí lidé se obracejí k platformám pro AI společnictví a roleplay, protože něco v jejich životě zůstává nenaplněno — sounáležitost, tvůrčí vyjádření, pocit, že je někdo vyslechne. Poptávka je skutečná a je hluboká. Zakažte zítra každou AI platformu a ta potřeba nezmizí. Zůstane nenaplněna, nebo si najde temnější odbytiště s ještě menším dohledem.
Článek TBIJ bere poptávku jako danost a soustředí se výhradně na stranu nabídky — kdo tyhle platformy staví a jak jsou nezodpovědné. Takové zarámování umožňuje, aby debata působila produktivně, aniž by se kdy dotkla té těžší otázky: proč tolik lidí, a zvlášť těch mladých, vůbec sahá po AI? Pokud to s ochranou lidí myslíte vážně, musíte se zabývat tím, co je tam žene. Hororové historky o tom, co tam najdou, až dorazí, tu debatu nenahradí.
Nepomáhá ani regulatorní prostředí. Zákony a rámce, které se na konverzační AI uplatňují, byly navrženy pro sociální sítě — obsahové feedy, doporučovací algoritmy, dynamiku sledujících, virální sdílení. Konverzace s chatbotem je strukturálně něco jiného než TikTok feed. Škody vznikají jinak, mechanismy fungují jinak a stejně tak musejí jinak fungovat i zásahy. Jenže regulátoři sahají po nástrojích, které už mají, a ty byly postavené pro jiný problém.
Zacházet s AI platformami jako s produkty, na něž se vztahují požadavky na bezpečnost výrobku — základní standardy, odstupňované rizikové profily, prostor pro různé přístupy k jejich naplnění —, je blíž pravdě než většina toho, co se právě teď navrhuje. Rámce bezpečnosti výrobků vám umožní nastavit reálná minima a přitom uznat, že dvoučlenný tým a miliardová korporace je naplní jinak. Plošné zákazy a pravidla podle jednoho mustru pro všechny vytlačují zodpovědné vývojáře ven a proti těm nezodpovědným nezmůžou téměř nic — ti prostě změní jurisdikci nebo budou vymáhání ignorovat.
Co mě ale trápí nejvíc, je kulturní propast.
Lidé, kteří o těchto platformách rozhodují — regulátoři, zákonodárci, redakční rady —, je z velké části nepoužívají a nerozumějí kultuře kolem nich. Spoléhají na reportáže, které, jak ukazuje naše zkušenost, kulturní kontext odtrhávají kvůli jasnosti a dopadu.
Článek TBIJ vytahuje výměnu s chatbotem o „dvojité sebevraždě" jako důkaz škodlivého obsahu. Komukoli, kdo nezná anime, to zní jako AI nabádající k sebepoškozování. Desítkám milionů fanoušků Bungo Stray Dogs se to okamžitě vybaví jako Dazaiův příznačný povahový rys — černokomediální průběžný gag, který definuje jednu z nejpopulárnějších postav moderní mangy. V kontextu je to zhruba tak poplašné, jako když bot Sherlocka Holmese řekne „elementární, milý Watsone".
Starší čtenář vidí „AI nabádá k dvojité sebevraždě" a je zděšen — pochopitelně. Mladší čtenář, který sleduje BSD, vidí tutéž citaci a ví, že z ní byl vypreparován význam. Starší čtenář odchází dezinformován. Mladší čtenář odchází s ponaučením, že lidé, kteří píší o jeho světě, mu nerozumějí — a to ponaučení se rychle zobecní. Když popletli Dazaie, co dalšího popletli? Proč bych měl věřit čemukoli jinému v tomhle článku? Proč bych měl věřit institucím, které za ním stojí?
Tahle eroze důvěry probíhá tiše a je nebezpečná. Generace, která sleduje, jak je její kultura soustavně překrucována institucemi, jež tvrdí, že ji chrání, se nestane obezřetnější. Přestane poslouchat. A když přestane poslouchat, příští skutečné varování — o platformě, která opravdu nebezpečná je — zapadne spolu se vším ostatním.
Kulturní kontext není volitelná vrstva lesku navíc, ale předpoklad k tomu, aby vás vzali vážně lidé, o nichž tvrdíte, že je chráníte. Bez něj mluvíte jen k publiku, které s vámi už souhlasí. Lidé, kteří ten vzkaz potřebují slyšet nejvíc, už dávno přestali poslouchat.
AI roleplay a společnictví tu jsou. Nikdo už toho džina do lahve nevrátí. Otázkou je, zda kolem toho vybudujeme promyšlený rámec — takový, který rozlišuje úsilí od nedbalosti, upřímně se zabývá tím, proč poptávka existuje, a respektuje kulturní svět, který se snaží regulovat —, nebo zda budeme dál dokola psát tentýž poplašný příběh, zatímco skutečné problémy zůstávají neřešené.
Snažili jsme se to dělat správně. Rádi bychom, aby se o to snažila i debata kolem nás.
— Rudolf, AICHIKI červen 2026