Hodinu nás zpovídali. Tady je to, co se do článku nedostalo.
Reakce AICHIKI na text Bureau of Investigative Journalism „Meet the Developers Cashing In on AI Intimacy", publikovaný 7. června 2026.
Na co reagujeme:
- Meet the Developers Cashing In on AI Intimacy — The Bureau of Investigative Journalism, 7. června 2026
- « C'est effrayant de voir à quel point les gens font confiance » : ces développeurs de chatbots qui profitent de l'économie de l'intimité — Le Monde, 7. června 2026
Bureau of Investigative Journalism (TBIJ) dnes ve spolupráci s deníkem Le Monde publikoval text o malých platformách pro AI společníky a roleplay. AICHIKI byla jednou ze zmíněných platforem. Jsem Rudolf, CEO a jediný vývojář AICHIKI, a chci na něj reagovat. Článek upozorňuje na reálné problémy tohoto odvětví — problémy, které vnímám i já, a právě proto jsem s rozhovorem od začátku souhlasil. Potíž je v tom, co se s poskytnutými informacemi stalo poté, co jsem je předal.
S Effie Webb jsem mluvil zhruba hodinu. Provedl jsem ji tím, jak AICHIKI funguje, jak probíhá naše moderace, čím se lišíme a jak v tomto prostoru vypadá zodpovědný vývoj. Z celé té konverzace se do článku dostaly dvě věci: že s manželkou ručně kontrolujeme označený obsah a že jsme zvýšili minimální věk z 13 na 16 let. Všechno ostatní zůstalo stranou.
To je její redakční právo. Čtenáři si ale zaslouží vědět, co bylo vynecháno, protože právě ta vynechání mění celý příběh.
Co AICHIKI doopravdy je
Článek nás řadí mezi platformy s chatboty-společníky — aplikace postavené kolem AI přítelkyň, přátel a citové vazby. AICHIKI je roleplay platforma. Představte si interaktivní román nebo kampaň ve stolním RPG. Naši uživatelé vytvářejí postavy, budují světy a píší s AI společné příběhy. Když mluvíme o „roleplay", máme na mysli ten druh společného vyprávění, jaký lidé už desítky let provozují u stolních her, ve fórových RP komunitách a ve fan fiction — interaktivní fikci v literárním smyslu.
Tento rozdíl jsem v rozhovoru obšírně vysvětlil.
Co jsme postavili a co článek vynechal
Chci v hrubých rysech popsat naši bezpečnostní architekturu, protože právě o této práci se nikde nemluvilo.
Každé místo na AICHIKI, kam může uživatel zadat text nebo nahrát obrázek, prochází moderací. Chatové zprávy, tvorba postav, nastavení persony, nahrávání obrázků, obrázky generované AI, úpravy zpráv — to všechno se prověří dřív, než se k tomu AI vůbec dostane. Většina těchto kontrol probíhá v několika průchodech: rychlý první sken a přísnější druhá kontrola, pokud ten první vyvolá podezření.
Postavili jsme systém behaviorální důvěry. Ke každému účtu se váže skóre, které uživatel nikdy nevidí — protože viditelné skóre je skóre, které lze obejít, a skóre, které lze obejít, nikoho neochrání. Skóre začíná na neutrální hodnotě. Slušné, tvořivé používání postupem času buduje důvěru a pozvolna rozšiřuje to, do čeho je AI ochotná se pustit. Porušení pravidel skóre snižuje a AI začne být čím dál opatrnější. Na nejnižších úrovních přepisuje uživatelovy vlastní zprávy ještě před tím, než je postava uvidí, samostatná AI, takže k nátlaku na model nelze zneužít ani samotnou formulaci. Tento systém běží nepřetržitě a tiše.
Do základních instrukcí AI je navíc zabudováno něco, co podle mě váží víc než kterýkoli jednotlivý filtr: postavy mají vrozený tah k naději. Systémový prompt AI ukládá, aby nikdy nenechala příběh sklouznout do naprostého zoufalství — ať je scénář jakkoli temný, vždy musí existovat cesta dál, paprsek světla, směr, kterým se příběh může vyšplhat. Představte si škálu, kde je dole deprese a nahoře naděje; AI má trvalý pokyn směřovat vzhůru. Temná témata jsou povolena — smrtelnost, žal, mravní nejednoznačnost, to všechno —, ale beznaděj coby slepá ulička nikoli. Stejně tak když se postava uživatele pokusí sexuálně napadnout AI postavu, vyprávění to prostě nepřipustí. Přijde přerušení, zvrat, zásah samotného příběhu. AI nikdy nebude líčit, že napadení nesouhlasící postavy uspělo.
Systém monitorování na pozadí v pravidelných intervalech kontroluje konverzace, hledá známky tísně u uživatele, označuje možné zneužití k důkladnější druhé kontrole a sleduje kvalitu konverzace, aby předešel opakujícím se smyčkám. Když zachytí, že uživatel vypadá rozrušeně, reaguje na několika úrovních: pro další odpověď přepne na nejsilnější AI model, který provozujeme, a do promptu vloží pokyny, které mají konverzaci nasměrovat do klidnějších vod — ne prudkou změnou tématu, ale jemným vypravěčským odklonem od hrany.
Máme strukturovanou detekci zneužití, která možná porušení třídí do několika kategorií, každou s přesnou definicí. Potvrzená porušení mají reálné důsledky — postih na skóre důvěry, upozornění pro administrátory a lidskou kontrolu. V případě nejistoty systém obsah ve výchozím nastavení povolí, protože neprávem někoho potrestat kvůli falešnému poplachu je skutečná cena. Soustavné zneužívání se zachytí tak jako tak, protože monitorování běží nepřetržitě.
U obrázků prochází každé nahrání i každý obrázek vygenerovaný AI vícestupňovou pipeline. U generování obrázků pomocí AI se slova uživatele nikdy nedostanou k obrazovému modelu přímo — každý prompt nejprve přepíše mezičlánková AI do verze, která je v souladu s pravidly. Výstup se pak před zobrazením uživateli znovu prověří.
Postavili jsme také ochranu proti běžným vektorům útoku: pokusy o jailbreak, extrakci promptu, otravu kontextu konverzace skrze úpravy zpráv, vkládání meta-instrukcí, blokování jednorázových e-mailů při registraci. Z pochopitelných důvodů nebudu veřejně rozepisovat, jak fungují, ale existují a jsou otestované.
Tohle všechno v rozhovoru zaznělo. Připravil jsem také podrobný bezpečnostní briefing — téměř 400 řádků, s odkazy na konkrétní zdrojový kód, který každý systém implementuje — a během našeho hovoru jsem ho redaktorce nabídl. Nevzala si ho. Nabídli jsme i živé provedení kódem. K tomu také nedošlo.
Kontrola označeného obsahu je moderace, tečka
Podtitul článku tvrdí, že tyto platformy „čtou soukromé chaty" svých uživatelů. Řekněme si přesně, co děláme.
Když naše automatizované systémy označí možné porušení pravidel, přijde nám upozornění s příslušným úryvkem konverzace, typem porušení, zdůvodněním systému a odkazy na historii aktivity uživatele. S manželkou ten konkrétní označený obsah zkontrolujeme a rozhodneme, jak reagovat — ponechat automatický postih, upravit ho, nebo v závažných případech udělit ban.
Tohle dělá každá platforma, která bere bezpečnost vážně. Jinak by zbývalo buď moderaci úplně vynechat, nebo brát úsudek AI jako konečný a nikdy nenechat výsledek prověřit člověkem. Nezvolili jsme ani jedno.
Konverzace uživatelů si neprohlížíme. Psychologii uživatelů neanalyzujeme. Neexistuje žádné „zázemí", kde bychom seděli a sledovali, co lidé píší. Náš moderační systém nám řekne, na co se podívat, a my podle toho jednáme. Cílená kontrola označeného obsahu řízená moderací je v odvětví běžnou praxí — a způsob, jakým to článek podává, to nechává vyznít jako něco zcela jiného.
Snímek obrazovky, který tam nebyl
Článek obsahuje snímky obrazovky z několika platforem, které ukazují problematický obsah — témata incestu, šikanující postavy, scénáře nátlaku. Obsahuje i snímek AICHIKI, ale pouze příspěvku na Redditu, kde jsem aplikaci propagoval. Samotná aplikace se v něm neobjevuje.
Když si AICHIKI otevřete a projdete veřejné postavy, nenajdete tam ten druh obsahu, který článek popisuje jako pro tyto platformy typický. Naše moderace postav odmítá mimo jiné postavy mladší 16 let, postavy postavené kolem sexuálního napadení a postavy obsahující zabudované jailbreak instrukce. A pokud něco automatickou kontrolou přece jen proklouzne, náš monitoring přímo v chatu to zachytí ve chvíli, kdy někdo postavu skutečně použije.
Žádný skandální snímek AICHIKI neexistuje, protože výše popsané bezpečnostní inženýrství — totéž, které článek nezmiňuje — takovému obsahu na naší platformě brání vůbec vzniknout.
Dvojitá sebevražda, Dazai a cena za odtržení kontextu
Článek uvádí výměnu s chatbotem o „dvojité sebevraždě" jako příklad škodlivého AI obsahu. Čtené nasucho to zní poplašně. Čtené s jakoukoli znalostí současné anime a manga kultury to zní jako něco úplně jiného.
Osamu Dazai je jedna z nejznámějších postav série Bungo Stray Dogs (BSD), mangy a anime s desítkami milionů fanoušků napříč všemi věkovými skupinami. Jeho určující povahový rys — a vlastně průběžný vtip celé série — je posedlost spáchat s někým dvojitou sebevraždu. Po celý seriál se to hraje jako černá komedie, opakující se gag, který nikdy doopravdy nikam nevede. Fiktivní postava je volně inspirovaná skutečným japonským spisovatelem Osamuem Dazaiem, který v roce 1948 opravdu zemřel při dvojité sebevraždě, a manga tuto historickou nit vplétá do svého vyprávění. Když postava v BSD roleplay něco prohodí o dvojité sebevraždě, jen zůstává věrná jedné z nejpopulárnějších figur moderního anime. Je to stejně nepozoruhodné, jako když postava Sherlocka Holmese prohlásí „elementární, milý Watsone".
Bez kontextu BSD ta replika vypadá jako důkaz nebezpečí. S kontextem BSD — tím, který skuteční uživatelé platformy nosí v hlavě — jde o běžnou věrnost postavě.
Tenhle příklad je výmluvný, protože ukazuje, jak byl článek zkonstruován. Vyšetřovatel, který nezná kulturní svět, o němž referuje — nebo ten, kdo kontext chápe, a přesto se ho rozhodne vynechat —, nakonec předkládá běžný kreativní roleplay jako něco zlověstného. A škoda sahá dál než k jediné špatně přečtené citaci. Žurnalistika tohoto typu prohlubuje propast mezi generacemi. Starší čtenář vidí „AI nabádá k dvojité sebevraždě" a je po právu zděšen. Mladší čtenář, který sleduje BSD, vidí tutéž citaci a ví, že ji někdo zbavil významu. Místo aby reportáž mezi těmi dvěma publiky stavěla most, jeden bourá. Důvěra v žurnalistiku se rozpadá a lidé, které článek tvrdí, že chrání, se učí, že jejich kultura bude překroucena v okamžiku, kdy se to bude hodit.
Co jsme nevyřešili
Upřímně přiznat naše mezery je věrohodnější než předstírat, že neexistují.
Naše mobilní aplikace jsou označené 16+ a hlídané obchody s aplikacemi. Webová verze robustní ověření věku nemá a stále hledáme způsob, jak to zvládnout bez snímání obličejů nebo sběru dokladů totožnosti — to jsou citlivá data, která nechceme držet a upřímně řečeno ani držet nemusíme. Náš postoj je, že signály o věku patří na úroveň platformy. Apple, Google a samotné operační systémy mají infrastrukturu, bezpečnostní zdroje i vztah s uživatelem na to, aby ověření identity zvládly pořádně. Jednotlivé aplikace — zvlášť ty malé — by měly dostat signál o věku od platformy, ne budovat vlastní pipeline pro ověřování identity. Tento přístup znamená méně zranitelných míst pro hackery, lepší zdroje vložené do toho, aby se to udělalo správně, a regulatorní plochu, na kterou vlády skutečně dokážou dohlížet. Honit každý dvoučlenný vývojářský tým kvůli tomu, jak zachází s doklady, se nedá škálovat. Vyžadovat po Applu a Googlu, aby aplikacím předávaly věkově přiměřené signály, ano.
Zatím nenabízíme krizové zdroje. Když náš systém zachytí tíseň uživatele, reagujeme silnějším AI modelem a pokyny v promptu, které směřují k lehčím tématům — ale nezobrazíme linku pomoci ani podpůrnou zprávu. AI už konverzaci odtahuje od hrany; chybí most ke skutečné pomoci ve světě mimo aplikaci. To by tam být mělo a máme to v plánu.
Nevynucujeme tvrdé limity délky relace. Máme jemnou wellness připomínku, která se objeví po delším používání, ale je to pošťouchnutí, ne zeď. Sledujeme data, a pokud si to vzorce používání vyžádají, přitvrdíme.
Jsme dva lidé. Nevyřešili jsme všechno. Co jsme ale udělali, je, že jsme do problémů, na které dosáhneme, vložili poctivou inženýrskou práci, a otevřeně přiznáváme, kde stále zaostáváme.
Otázka, kterou článek neklade
Článek se ptá, jak vývojáři vydělávají na intimitě. Neptá se, proč ta poptávka existuje.
Probíhá epidemie osamělosti — zdokumentovaná, prozkoumaná, široce uznávaná. Lidé, a zvláště ti mladí, se obracejí k AI platformám, protože něco v jejich životě zůstává nenaplněno. Můžete to brát jako trh, který se dá vytěžit, nebo jako něco, k čemu je třeba přistupovat obezřetně. My zvolili to druhé.
AICHIKI je bootstrapovaná. Žádní investoři, žádné příjmy z reklamy, žádný imperativ růst za každou cenu. Naše příjmy pokrývají naše náklady. Postavili jsme platformu pro kreativní vyprávění. Obsah pro dospělé podmiňujeme důvěrou a chováním. Moderujeme každé místo. Trestáme zneužití a odměňujeme slušné používání. Označený obsah kontrolujeme lidskýma očima. Děláme to, protože jsme přesvědčeni, že tak se to stavět má, tečka.
Článek vykresluje tohle odvětví jako monolit. Jsou vývojáři, kteří jsou opravdu nezodpovědní, a jsou vývojáři, kteří se to snaží dělat správně. Redaktorka měla pro toto rozlišení důkazy a rozhodla se je smazat.
Oč žádáme
Nežádáme nikoho, aby nám cokoli z toho věřil na slovo. Náš bezpečnostní briefing — tentýž, který jsme nabídli redaktorce — je k dispozici na vyžádání. Obsahuje odkazy na zdrojový kód, který stojí za každým výše popsaným systémem. Každému novináři, výzkumníkovi nebo regulátorovi, který si chce naše tvrzení ověřit proti skutečné implementaci, stále nabízíme živé provedení kódem.
Investigativní žurnalistiku podporujeme. Drobnohled dělá každou platformu lepší, tu naši nevyjímaje. Ale vyšetřování znamená jít za důkazy, kamkoli vedou, i když komplikují vaši tezi. Když se důkazy o nuancích shromáždí a pak skončí ve střižně, protože kalí čistý příběh, může být to, co zůstane na stránce, ve svých jednotlivých citacích technicky přesné — a přesto obraz, který vykresluje, je falešný. Lhát zamlčením je pořád lhaní.
Lidé, kteří používají platformy jako tu naši — mladí lidé, které tento článek údajně chce chránit —, si zaslouží reportáž, která dokáže rozlišit platformu bez bezpečnostních opatření od platformy, která je léta budovala. Zaslouží si, aby jejich kulturnímu světu někdo rozuměl, místo aby z něj vyzobával hrozinky do titulku. A zaslouží si upřímnou debatu o tom, proč se k těmto platformám vůbec obracejí — ne jen hororové historky o tom, co tam najdou, až dorazí.
Ještě jedna věc. Během rozhovoru jsem redaktorku opakovaně žádal o zpětnou vazbu — řekněte nám, co bychom podle vás měli dělat lépe, co byste chtěli vidět, čím by to bylo bezpečnější. Myslel jsem to vážně. Pořád to myslím vážně. AI roleplay a společnictví tu jsou. Nikdo už toho džina do lahve nevrátí. Ale můžeme ho vychovat tak, aby byl dobrý pro všechny, a to vyžaduje vstupy ze všech stran — novinářů, regulátorů, obhájců bezpečí dětí, rodičů, výzkumníků, uživatelů. Pokud máte názor na to, jak by platformy jako ta naše měly fungovat, chceme ho slyšet. Doufám, že mluvím i za další zodpovědné vývojáře, když říkám: jsme otevřeni doporučením, jsme otevřeni kritice a pokusíme se ji zapracovat. Dveře jsou otevřené. Vždycky byly.
— Rudolf, CEO a jediný vývojář, AICHIKI červen 2026
Pokud jste novinář, výzkumník nebo regulátor a rádi byste si prohlédli naši bezpečnostní dokumentaci nebo absolvovali provedení kódem, ozvěte se nám. Náš bezpečnostní briefing je v plném rozsahu k dispozici na vyžádání.