Kiedy spłaszczasz spektrum, zabijasz motywację
Szersza refleksja nad stanem AI w roleplayu, dziennikarstwem śledczym i o tym, dlaczego błąd w tej sprawie szkodzi ludziom, których wszyscy próbujemy chronić.
Lektura wprowadzająca:
- Nasza odpowiedź punkt po punkcie: Rozmawialiśmy przez godzinę. Oto, co nie weszło do artykułu.
- Artykuł, który ją wywołał: Meet the Developers Cashing In on AI Intimacy — The Bureau of Investigative Journalism, 7 czerwca 2026
- Wydanie francuskie: « C'est effrayant de voir à quel point les gens font confiance » : ces développeurs de chatbots qui profitent de l'économie de l'intimité — Le Monde, 7 czerwca 2026
Dzisiaj opublikowaliśmy odpowiedź na artykuł Bureau of Investigative Journalism o platformach z towarzyszami AI i roleplayem. Tamten tekst był konkretny — opisywał, co AICHIKI faktycznie zbudowało i co artykuł pominął. Ten jest o szerszym obrazie, bo problemy z tamtym artykułem sięgają daleko poza nas.
Szersza teza artykułu — że małe platformy AI wyrastają jak grzyby po deszczu, mają słabe zabezpieczenia i wykorzystują samotnych użytkowników — jest częściowo prawdziwa. Są w tej branży deweloperzy, którzy naprawdę nie mają żadnej moderacji, żadnych bramek wiekowych i żadnego zamiaru ich budować. Niektórzy powiedzieli to wprost przed kamerą. Pisz o tym. Proszę.
Problem polega na tym, że śledztwo natrafiło na całe spektrum, a opublikowało monolit. Platformy z zerowymi zabezpieczeniami postawiono obok platform z wielowarstwową infrastrukturą moderacji, a artykuł potraktował je jako jedną i tę samą historię. Dowody na różnice zebrano i odrzucono, bo komplikowały klarowną narrację.
Można zbudować głęboko mylącą historię w całości z prawdziwych cytatów, jeśli kontroluje się, które cytaty się pojawią i jak zostaną ujęte. Każdy pojedynczy cytat może być zgodny z prawdą, a ogólny obraz, który malują, fałszywy. I to właśnie się dzieje, gdy pisze się artykuł od końca — zaczynasz od wniosku, dobierasz dowody, które go ilustrują, i po cichu odkładasz na półkę wszystko, co wskazuje w przeciwną stronę.
Istnieje słynny precedens dla takiej metodologii w nauce. W latach 50. amerykański fizjolog Ancel Keys postanowił udowodnić, że tłuszcz w diecie powoduje choroby serca. Zebrał dane z 22 krajów. Gdy napłynęły wyniki, część krajów nie potwierdzała jego hipotezy — ich populacje jadły mnóstwo tłuszczu, a mimo to miały niski wskaźnik chorób serca. Keys usunął więc te kraje ze zbioru danych i opublikował swoje Seven Countries Study, używając wyłącznie danych, które potwierdzały to, w co już wierzył. To badanie kształtowało globalną politykę żywieniową przez dekady. Rządy na jego podstawie promowały diety niskotłuszczowe. Wpływ był ogromny. A całość zbudowano na wyselekcjonowanych dowodach — prawdziwych danych, przedstawionych wybiórczo, by poprzeć wniosek, który istniał, zanim badania w ogóle się zaczęły.
Artykuł TBIJ posługuje się tą samą metodologią. Dziennikarka zebrała informacje z wielu platform. Część tych informacji pokazywała deweloperów inwestujących poważny wysiłek inżynierski w bezpieczeństwo. Te informacje odłożono na bok. To, co zostało, układało się w klarowną, alarmującą historię — technicznie zbudowaną na prawdziwych cytatach, pomniejszoną o te dane, które wszystko by skomplikowały. Keys spojrzał na kraje, które nie pasowały do jego tezy, i usunął je z badania. Ten artykuł spojrzał na architektury bezpieczeństwa, które nie pasowały do jego tezy, i usunął je z opowieści.
Spłaszczanie spektrum ma konsekwencje wykraczające poza deweloperów, których się przekłamuje.
Deweloper w tej branży ma w tej chwili dwie opcje. Spędzić miesiące na budowaniu systemów zaufania, moderacji treści, wykrywania nadużyć, pipeline'ów bezpieczeństwa obrazów — realna praca inżynierska, która kosztuje realny czas i realne pieniądze. Albo odpuścić to wszystko i wystartować z gołą platformą z kluczem API i stroną do płatności.
Jeśli odpowiedzialni i nieodpowiedzialni deweloperzy są traktowani przez prasę tak samo — ten sam artykuł, to samo ujęcie, to samo niewypowiedziane oskarżenie — przekaz dla każdego nowego dewelopera wchodzącego w tę branżę jest jasny: praca nad bezpieczeństwem się nie opłaca. Zostaniesz przedstawiony tak samo, bez względu na wszystko. Racjonalnym ruchem dla każdego, kto nie ma silnego osobistego sumienia, jest całkowite odpuszczenie tej inwestycji.
I to jest prawdziwa szkoda, jaką wyrządza dziennikarstwo tego rodzaju. Traktowanie każdej platformy tak samo aktywnie zniechęca do tego zachowania, którego artykuł rzekomo się domaga. Struktura motywacji, która opiera się wyłącznie na tym, że pojedynczy deweloperzy mają sumienie, jest krucha. Powinna nagradzać robienie tego, co słuszne, a dziennikarstwo, które nie potrafi odróżnić wysiłku od zaniedbania, popycha w przeciwną stronę.
Nad tym wszystkim wisi kwestia samotności i niemal nikt w publicznej debacie nie podchodzi do niej uczciwie.
Młodzi ludzie zwracają się ku platformom z towarzyszami AI i roleplayem, bo coś w ich życiu pozostaje niezaspokojone — więź, kreatywna ekspresja, poczucie bycia wysłuchanym. Popyt jest realny i głęboki. Zakaż jutro każdej platformy AI, a ta potrzeba nie zniknie. Pozostanie niezaspokojona albo znajdzie mroczniejsze ujścia, z jeszcze mniejszym nadzorem.
Artykuł TBIJ traktuje popyt jako rzecz daną i skupia się w całości na stronie podaży — kto buduje te platformy i jak bardzo są nieodpowiedzialni. Takie ujęcie sprawia, że rozmowa wydaje się produktywna, nie dotykając ani razu trudniejszego pytania: dlaczego tak wielu ludzi, zwłaszcza młodych, sięga w pierwszej kolejności po AI? Jeśli poważnie myślisz o ochronie ludzi, musisz zmierzyć się z tym, co ich tam pcha. Historie grozy o tym, co tam zastają, nie zastąpią tej rozmowy.
Krajobraz regulacyjny też nie pomaga. Prawo i ramy stosowane wobec konwersacyjnej AI projektowano dla mediów społecznościowych — kanałów treści, algorytmów rekomendacji, dynamiki obserwujących, wirusowego udostępniania. Rozmowa z chatbotem jest strukturalnie inna niż kanał na TikToku. Szkody działają inaczej, mechanizmy działają inaczej i interwencje też muszą działać inaczej. Ale regulatorzy sięgają po narzędzia, które już mają, a te narzędzia zbudowano pod inny problem.
Traktowanie platform AI jako produktów z wymaganiami bezpieczeństwa produktowego — bazowe standardy, stopniowane profile ryzyka, miejsce na różne sposoby ich spełniania — jest bliższe sedna niż większość tego, co obecnie się proponuje. Ramy bezpieczeństwa produktowego pozwalają ustalić realne minima, jednocześnie uznając, że dwuosobowy zespół i korporacja warta miliard dolarów spełnią je inaczej. Całościowe zakazy i reguły skrojone na jedną miarę dla wszystkich wypychają z rynku odpowiedzialnych deweloperów i niemal nic nie robią, by zatrzymać nieodpowiedzialnych, którzy po prostu przeniosą się do innej jurysdykcji albo zignorują egzekwowanie przepisów.
Najbardziej martwi mnie jednak luka kulturowa.
Ludzie podejmujący decyzje polityczne dotyczące tych platform — regulatorzy, ustawodawcy, kolegia redakcyjne — w większości z nich nie korzystają i nie rozumieją otaczającej je kultury. Opierają się na dziennikarstwie, które — jak pokazuje nasze doświadczenie — pozbawia treści kontekstu kulturowego w imię jasności i siły przekazu.
Artykuł TBIJ wyciąga na wierzch wymianę zdań z chatbotem o „podwójnym samobójstwie" jako dowód szkodliwych treści. Dla kogoś nieobeznanego z anime brzmi to jak AI zachęcające do samookaleczenia. Dla dziesiątek milionów fanów Bungo Stray Dogs jest to natychmiast rozpoznawalne jako sztandarowa cecha postaci Osamu Dazaia — czarno-komediowy running gag, który definiuje jedną z najpopularniejszych postaci współczesnej mangi. W kontekście jest to mniej więcej tak alarmujące jak bot Sherlocka Holmesa mówiący „elementarne, mój drogi Watsonie".
Starszy czytelnik widzi „AI zachęca do podwójnego samobójstwa" i jest przerażony, co zrozumiałe. Młodszy czytelnik, który ogląda BSD, widzi ten sam cytat i wie, że wyrwano z niego znaczenie. Starszy czytelnik odchodzi wprowadzony w błąd. Młodszy czytelnik odchodzi, nauczywszy się, że ludzie piszący o jego świecie go nie rozumieją — a ta lekcja szybko się uogólnia. Skoro pomylili się co do Dazaia, to w czym jeszcze się pomylili? Dlaczego miałbym ufać czemukolwiek innemu w tym artykule? Dlaczego miałbym ufać instytucjom za nim stojącym?
Ta erozja zaufania zachodzi po cichu i jest niebezpieczna. Pokolenie, które patrzy, jak jego kultura jest konsekwentnie przekłamywana przez instytucje twierdzące, że je chronią, nie staje się ostrożniejsze. Ono przestaje słuchać. A kiedy przestaje słuchać, kolejne realne ostrzeżenie — o platformie, która naprawdę jest niebezpieczna — zostaje zignorowane razem z całą resztą.
Kontekst kulturowy to warunek wstępny tego, by ludzie, których rzekomo chronisz, traktowali cię poważnie, a nie opcjonalna warstwa szlifu. Bez niego mówisz tylko do publiczności, która już się z tobą zgadza. Ci, którzy najbardziej potrzebują usłyszeć ten przekaz, już dawno się wyłączyli.
Roleplay i towarzystwo oparte na AI są już tutaj. Nikt nie cofnie tego, co się stało. Pytanie brzmi, czy zbudujemy wokół tego przemyślane ramy — takie, które odróżniają wysiłek od zaniedbania, uczciwie mierzą się z tym, dlaczego istnieje popyt, i szanują świat kulturowy, który próbują regulować — czy też będziemy w kółko pisać tę samą alarmistyczną historię, podczas gdy faktyczne problemy pozostaną nietknięte.
Staraliśmy się robić to dobrze. Chcielibyśmy, żeby rozmowa wokół nas też się o to postarała.
— Rudolf, AICHIKI Czerwiec 2026