Quando se Achata o Espectro, Mata-se o Incentivo
Uma reflexão mais ampla sobre o estado do roleplay com IA, o jornalismo de investigação, e porque é que errar nisto prejudica as pessoas que todos estamos a tentar proteger.
Leitura de contexto:
- A nossa resposta ponto por ponto: Fomos Entrevistados Durante Uma Hora. Eis o Que Ficou de Fora do Artigo.
- O artigo que a motivou: Meet the Developers Cashing In on AI Intimacy — The Bureau of Investigative Journalism, 7 de junho de 2026
- A edição francesa: « C'est effrayant de voir à quel point les gens font confiance » : ces développeurs de chatbots qui profitent de l'économie de l'intimité — Le Monde, 7 de junho de 2026
Hoje publicámos uma resposta ao artigo do Bureau of Investigative Journalism sobre plataformas de companhia e roleplay com IA. Esse texto era específico — detalhava o que a AICHIKI efetivamente construiu e o que o artigo deixou de fora. Este é sobre o panorama mais amplo, porque os problemas daquele artigo vão muito para além de nós.
A tese mais ampla do artigo — que pequenas plataformas de IA estão a surgir com medidas de segurança fracas e a explorar utilizadores solitários — é parcialmente verdadeira. Há programadores neste espaço que genuinamente não têm moderação, nem barreiras de idade, nem qualquer intenção de as construir. Alguns disseram-no abertamente perante a câmara. Escrevam sobre isso. Por favor.
O problema é que a investigação encontrou um espectro e publicou um monólito. Plataformas com zero medidas de segurança foram colocadas lado a lado com plataformas dotadas de uma infraestrutura de moderação em múltiplas camadas, e o artigo tratou-as como a mesma história. As provas das diferenças foram recolhidas e descartadas porque complicavam uma narrativa limpa.
É possível construir uma história profundamente enganadora inteiramente a partir de citações verdadeiras se controlarmos quais as citações que aparecem e como são enquadradas. Cada citação individual pode ser exata, ao mesmo tempo que o retrato global que pintam é falso. E é isso que acontece quando se escreve um artigo de trás para a frente — começa-se pela conclusão, selecionam-se as provas que a ilustram, e arruma-se discretamente tudo o que aponta no sentido contrário.
Há um precedente célebre para este tipo de metodologia na ciência. Nos anos 1950, o fisiologista americano Ancel Keys propôs-se provar que a gordura na dieta causava doenças cardíacas. Recolheu dados de 22 países. Quando os resultados chegaram, alguns países não sustentavam a sua hipótese — as suas populações consumiam bastante gordura e tinham taxas baixas de doenças cardíacas. Por isso, Keys removeu esses países do conjunto de dados e publicou o seu Seven Countries Study usando apenas os dados que confirmavam aquilo em que já acreditava. Esse estudo moldou a política mundial de nutrição durante décadas. Os governos promoveram dietas pobres em gordura com base nele. A influência foi enorme. E tudo assentava em provas escolhidas a dedo — dados reais, apresentados seletivamente para apoiar uma conclusão que já existia antes de a investigação começar.
O artigo do TBIJ segue a mesma metodologia. A repórter recolheu informação de várias plataformas. Parte dessa informação mostrava programadores a investir um esforço sério de engenharia em segurança. Essa informação foi posta de parte. O que restou contava uma história limpa e alarmante — tecnicamente assente em citações reais, menos os dados que teriam complicado as coisas. Keys olhou para os países que não encaixavam na sua tese e apagou-os do estudo. Este artigo olhou para as arquiteturas de segurança que não encaixavam na sua tese e apagou-as da história.
Achatar o espectro tem consequências para além dos programadores que são deturpados.
Um programador neste espaço, neste momento, tem duas opções. Passar meses a construir sistemas de confiança, moderação de conteúdo, deteção de abuso, pipelines de segurança de imagem — trabalho de engenharia real que custa tempo real e dinheiro real. Ou dispensar tudo isso e lançar uma plataforma nua com uma chave de API e uma página de pagamento.
Se programadores responsáveis e irresponsáveis recebem o mesmo tratamento na imprensa — o mesmo artigo, o mesmo enquadramento, a mesma acusação implícita — a mensagem para cada novo programador que entra neste espaço é clara: o trabalho de segurança não compensa. Vão ser retratados da mesma forma, independentemente do que façam. A jogada racional, para quem não tenha uma forte consciência pessoal, é dispensar o investimento por completo.
E é esse o verdadeiro dano que reportagens como esta causam. Tratar todas as plataformas da mesma forma desincentiva ativamente o comportamento que o artigo afirma querer. Uma estrutura de incentivos que depende inteiramente de cada programador ter consciência é frágil. Deveria recompensar quem faz o que está certo, e reportagens incapazes de distinguir entre esforço e negligência empurram no sentido oposto.
A questão da solidão paira sobre tudo isto, e quase ninguém na conversa pública a aborda com honestidade.
Os jovens recorrem a plataformas de companhia e roleplay com IA porque algo nas suas vidas está por satisfazer — ligação, expressão criativa, a sensação de serem ouvidos. A procura é real, e é profunda. Proíbam-se amanhã todas as plataformas de IA e essa necessidade não desaparece. Fica por satisfazer, ou encontra saídas mais sombrias com ainda menos supervisão.
O artigo do TBIJ trata a procura como um dado adquirido e foca-se inteiramente no lado da oferta — quem está a construir estas plataformas e quão irresponsável é. Esse enquadramento permite que a conversa pareça produtiva sem nunca tocar na pergunta mais difícil: porque é que tantas pessoas, sobretudo jovens, procuram a IA logo de início? Se levarmos a sério a proteção das pessoas, temos de nos confrontar com o que as leva até lá. Histórias de terror sobre o que encontram quando lá chegam não substituem essa conversa.
O panorama regulatório também não ajuda. As leis e os enquadramentos que estão a ser aplicados à IA conversacional foram concebidos para as redes sociais — feeds de conteúdo, algoritmos de recomendação, dinâmicas de seguidores, partilha viral. Uma conversa com um chatbot é estruturalmente diferente de um feed do TikTok. Os danos funcionam de forma diferente, os mecanismos funcionam de forma diferente, e as intervenções também precisam de funcionar de forma diferente. Mas os reguladores agarram-se às ferramentas que já têm, e essas ferramentas foram construídas para um problema diferente.
Tratar as plataformas de IA como produtos com requisitos de segurança de produto — padrões mínimos, perfis de risco graduados, espaço para diferentes abordagens no seu cumprimento — está mais perto do correto do que a maior parte do que é atualmente proposto. Os enquadramentos de segurança de produto permitem definir mínimos reais, ao mesmo tempo que reconhecem que uma equipa de duas pessoas e uma empresa de mil milhões de dólares os cumprirão de formas diferentes. As proibições generalizadas e as regras de tamanho único expulsam os programadores responsáveis e quase nada fazem para travar os irresponsáveis, que se limitarão a mudar de jurisdição ou a ignorar a fiscalização.
O que mais me preocupa, contudo, é o fosso cultural.
As pessoas que tomam decisões de política sobre estas plataformas — reguladores, legisladores, conselhos editoriais — na sua maioria não as usam e não compreendem a cultura à sua volta. Estão a confiar em reportagens que, como a nossa experiência demonstra, retiram o contexto cultural em nome da clareza e do impacto.
O artigo do TBIJ traz à tona uma troca de mensagens com um chatbot sobre um "duplo suicídio" como prova de conteúdo nocivo. Para quem não conhece o anime, isso soa a uma IA a incentivar a automutilação. Para dezenas de milhões de fãs de Bungo Stray Dogs, é imediatamente reconhecível como o traço de personagem característico de Osamu Dazai — uma piada recorrente de comédia negra que define uma das personagens mais populares do mangá moderno. Em contexto, é mais ou menos tão alarmante como um bot do Sherlock Holmes dizer "elementar".
Um leitor mais velho vê "IA incentiva duplo suicídio" e fica, compreensivelmente, horrorizado. Um leitor mais novo que vê BSD lê a mesma citação e sabe que o sentido lhe foi retirado. O leitor mais velho sai dali desinformado. O leitor mais novo sai dali tendo aprendido que as pessoas que escrevem sobre o mundo dele não o compreendem — e essa lição generaliza-se depressa. Se erraram no Dazai, em que mais erraram? Porque haveria de confiar em mais alguma coisa neste artigo? Porque haveria de confiar nas instituições por detrás dele?
Essa erosão de confiança está a acontecer de forma silenciosa e é perigosa. Uma geração que vê a sua cultura ser consistentemente deturpada pelas instituições que afirmam protegê-la não se torna mais cautelosa. Deixa de ouvir. E quando deixa de ouvir, o próximo aviso real — sobre uma plataforma que é genuinamente perigosa — é ignorado a par de todo o resto.
O contexto cultural é um pré-requisito para ser levado a sério pelas pessoas que dizemos estar a proteger, não uma camada opcional de polimento. Sem ele, estamos a falar apenas para um público que já concorda connosco. As pessoas que mais precisam de ouvir a mensagem já desligaram há muito.
O roleplay e a companhia com IA vieram para ficar. Ninguém vai voltar a meter este génio na garrafa. A questão é se vamos construir um enquadramento ponderado à sua volta — um que distinga entre esforço e negligência, que se confronte com honestidade com o motivo pelo qual a procura existe, e que respeite o mundo cultural que tenta regular — ou se vamos continuar a escrever a mesma história alarmista em repetição enquanto os problemas reais ficam por resolver.
Temos tentado fazer isto bem. Gostaríamos que a conversa à nossa volta também tentasse.
— Rudolf, AICHIKI junho de 2026