Yelpazeyi Düzleştirdiğinizde, Teşviki Öldürürsünüz
AI roleplay''in bugünkü hali, araştırmacı gazetecilik ve bunu yanlış yapmanın hepimizin korumaya çalıştığı insanlara nasıl zarar verdiği üzerine daha geniş bir değerlendirme.
Arka plan okuması:
- Madde madde yanıtımız: Bir Saat Boyunca Bizimle Röportaj Yapıldı. İşte Yazıya Girmeyenler.
- Buna yol açan yazı: Meet the Developers Cashing In on AI Intimacy — The Bureau of Investigative Journalism, 7 Haziran 2026
- Fransızca baskısı: « C'est effrayant de voir à quel point les gens font confiance » : ces développeurs de chatbots qui profitent de l'économie de l'intimité — Le Monde, 7 Haziran 2026
Bugün Bureau of Investigative Journalism''ın AI yoldaş ve roleplay platformları hakkındaki yazısına bir yanıt yayımladık. O metin belirli bir konuya odaklıydı — AICHIKI''nin aslında neyi inşa ettiğini ve yazının neyi dışarıda bıraktığını ayrıntılandırdı. Bu metin ise daha büyük resme dair, çünkü o yazıyla ilgili sorunlar bizi fazlasıyla aşıyor.
Yazının daha geniş tezi — küçük AI platformlarının zayıf güvenlik önlemleriyle ortaya çıkıp yalnız kullanıcıları sömürdüğü — kısmen doğru. Bu alanda gerçekten hiç moderasyonu, hiç yaş sınırı olmayan ve bunları inşa etme niyeti de bulunmayan geliştiriciler var. Bazıları kamera karşısında bunu açıkça söyledi. Onu haber yapın. Lütfen.
Sorun şu ki araştırma bir yelpaze buldu ve tek parça bir bütün yayımladı. Sıfır güvenlik önlemi olan platformlar, çok katmanlı moderasyon altyapısına sahip platformların yanına konuldu ve yazı ikisini de aynı hikâyeymiş gibi ele aldı. Farkın kanıtı toplandı ve temiz bir anlatıyı karmaşıklaştırdığı için bir kenara atıldı.
Hangi alıntıların görüneceğini ve nasıl çerçeveleneceğini siz kontrol ediyorsanız, baştan sona doğru alıntılardan derinden yanıltıcı bir hikâye kurabilirsiniz. Her tekil alıntı doğru olabilir, ama çizdikleri genel tablo yanlıştır. Ve bir yazıyı tersinden yazdığınızda olan tam da budur — sonucunuzla başlarsınız, onu örnekleyen kanıtları seçersiniz ve aksini gösteren her şeyi sessizce rafa kaldırırsınız.
Bilimde bu tür bir yöntemin meşhur bir öncülü var. 1950''lerde Amerikalı fizyolog Ancel Keys, beslenmedeki yağın kalp hastalığına neden olduğunu kanıtlamaya koyuldu. 22 ülkeden veri topladı. Sonuçlar geldiğinde, bazı ülkeler hipotezini desteklemiyordu — nüfusları bol bol yağ tüketiyor ve düşük kalp hastalığı oranlarına sahipti. Bunun üzerine Keys o ülkeleri veri setinden çıkardı ve Seven Countries Study''sini yalnızca zaten inandığı şeyi doğrulayan verileri kullanarak yayımladı. O çalışma onlarca yıl boyunca küresel beslenme politikasını şekillendirdi. Hükümetler buna dayanarak düşük yağlı diyetleri dayattı. Etkisi muazzamdı. Ve bütün bunlar seçilip ayıklanmış kanıt üzerine kuruluydu — gerçek veri, araştırma başlamadan önce var olan bir sonucu desteklemek için seçici biçimde sunulmuştu.
TBIJ yazısı aynı yöntemi izliyor. Muhabir birden çok platformdan bilgi topladı. Bu bilgilerin bir kısmı, güvenliğe ciddi bir mühendislik emeği yatıran geliştiricileri gösteriyordu. O bilgi bir kenara konuldu. Geriye kalan, temiz ve endişe verici bir hikâye anlatıyordu — teknik olarak gerçek alıntılar üzerine kurulu, ama işleri karmaşıklaştıracak veri noktalarından arındırılmış. Keys tezine uymayan ülkelere baktı ve onları çalışmadan sildi. Bu yazı tezine uymayan güvenlik mimarilerine baktı ve onları hikâyeden sildi.
Yelpazeyi düzleştirmenin, yanlış tanıtılan geliştiricilerin ötesinde sonuçları var.
Bu alandaki bir geliştiricinin şu an iki seçeneği var. Aylarını güven sistemleri, içerik moderasyonu, kötüye kullanım tespiti, görsel güvenlik hatları kurmaya harcamak — gerçek zaman ve gerçek para gerektiren gerçek bir mühendislik işi. Ya da bütün bunları atlayıp bir API anahtarı ve bir ödeme sayfasıyla çıplak bir platform yayına almak.
Sorumlu geliştiriciler ile sorumsuz olanlar aynı basın muamelesini görüyorsa — aynı yazı, aynı çerçeveleme, aynı örtük suçlama — bu alana giren her yeni geliştiriciye verilen mesaj açıktır: güvenlik çalışması karşılığını vermez. Nasıl olsa aynı şekilde resmedileceksiniz. Güçlü bir kişisel vicdana sahip olmayan herkes için akılcı hamle, bu yatırımı tümüyle atlamaktır.
Ve bu tür bir haberciliğin yaptığı asıl zarar budur. Her platforma aynı muameleyi göstermek, yazının teşvik etmek istediğini iddia ettiği davranışı fiilen caydırır. Bütünüyle geliştiricilerin tek tek vicdan sahibi olmasına dayanan bir teşvik yapısı kırılgandır. Doğru olanı yapmayı ödüllendirmesi gerekir; emek ile ihmal arasındaki farkı göremeyen bir habercilik ise tam tersi yönde iter.
Yalnızlık sorusu tüm bunların üzerinde asılı duruyor ve kamusal konuşmada neredeyse hiç kimse onunla dürüstçe yüzleşmiyor.
Gençler AI yoldaşlık ve roleplay platformlarına yöneliyor, çünkü hayatlarında karşılanmayan bir şey var — bağ, yaratıcı ifade, duyulduğu hissi. Talep gerçek ve derin. Yarın her AI platformunu yasaklayın, o ihtiyaç ortadan kalkmaz. Karşılanmadan kalır ya da daha az denetimin olduğu daha karanlık çıkış yolları bulur.
TBIJ yazısı talebi verili kabul ediyor ve tümüyle arz tarafına odaklanıyor — bu platformları kimin inşa ettiğine ve ne kadar sorumsuz olduklarına. Bu çerçeveleme, daha zor soruya hiç dokunmadan konuşmanın verimli hissettirmesine izin veriyor: neden bu kadar çok insan, özellikle de gençler, en başta AI''ye uzanıyor? İnsanları korumak konusunda ciddiyseniz, onları oraya iten şeyle yüzleşmek zorundasınız. Vardıklarında karşılaştıkları şeylere dair korku hikâyeleri o konuşmanın yerini tutmaz.
Düzenleyici manzara da yardımcı olmuyor. Konuşma temelli AI''ye uygulanan yasalar ve çerçeveler sosyal medya için tasarlanmıştı — içerik akışları, öneri algoritmaları, takipçi dinamikleri, viral paylaşım. Bir chatbot konuşması, yapısal olarak bir TikTok akışından farklıdır. Zararlar farklı işler, mekanizmalar farklı işler ve müdahalelerin de farklı işlemesi gerekir. Ama düzenleyiciler ellerinde zaten bulunan araçlara uzanıyor ve o araçlar başka bir sorun için inşa edilmişti.
AI platformlarını, ürün güvenliği gereksinimleri olan ürünler gibi ele almak — temel standartlar, kademeli risk profilleri, bunları karşılamaya yönelik farklı yaklaşımlara alan — şu an önerilenlerin çoğundan doğruya daha yakın. Ürün güvenliği çerçeveleri, iki kişilik bir ekiple milyar dolarlık bir şirketin bunları farklı biçimde karşılayacağını kabul ederken gerçek asgariler belirlemenize olanak tanır. Topyekûn yasaklar ve herkese tek bir kalıbı dayatan kurallar, sorumlu geliştiricileri dışarı iter ve sorumsuz olanları durdurmak için neredeyse hiçbir şey yapmaz; onlar zaten basitçe yargı bölgesi değiştirir ya da yaptırımı görmezden gelir.
Beni en çok endişelendiren şeyse kültürel uçurum.
Bu platformlar hakkında politika kararları veren insanlar — düzenleyiciler, yasa yapıcılar, yazı işleri kurulları — büyük ölçüde bunları kullanmıyor ve etrafındaki kültürü anlamıyor. Deneyimimizin gösterdiği gibi, netlik ve etki uğruna kültürel bağlamı sıyırıp atan bir haberciliğe güveniyorlar.
TBIJ yazısı, zararlı içerik kanıtı olarak içinde "ikili intihar" geçen bir chatbot diyaloğunu öne çıkarıyor. Anime''ye yabancı biri için bu, AI''nin kendine zarar vermeye teşvik etmesi gibi duyuluyor. Bungo Stray Dogs''un on milyonlarca hayranı içinse anında Osamu Dazai''nin imza karakter özelliği olarak tanınıyor — modern manganın en popüler karakterlerinden birini tanımlayan, sürekli geri dönen bir kara mizah esprisi. Bağlamı içinde, bir Sherlock Holmes botunun "Elementer" demesi kadar endişe verici.
Yaşlı bir okur "AI ikili intihara teşvik ediyor" görüyor ve anlaşılır biçimde dehşete kapılıyor. BSD izleyen genç bir okur aynı alıntıyı görüyor ve anlamın söküp atıldığını biliyor. Yaşlı okur yanlış bilgilenmiş olarak ayrılıyor. Genç okur ise kendi dünyası hakkında yazan insanların onu anlamadığını öğrenmiş olarak ayrılıyor — ve bu ders hızla genelleşiyor. Dazai''yi yanlış anladılarsa, başka neyi yanlış anladılar? Bu yazıdaki başka neye güveneyim ki? Arkasındaki kurumlara neden güveneyim?
Güvenin bu aşınması sessizce gerçekleşiyor ve tehlikeli. Kültürünün, kendisini koruduğunu iddia eden kurumlarca sürekli yanlış tanıtıldığını izleyen bir nesil daha temkinli hale gelmez. Dinlemeyi bırakır. Ve dinlemeyi bıraktıklarında, bir sonraki gerçek uyarı — gerçekten tehlikeli olan bir platform hakkındaki — diğer her şeyle birlikte göz ardı edilir.
Kültürel bağlam, koruduğunuzu söylediğiniz insanlar tarafından ciddiye alınmanın bir ön koşuludur, isteğe bağlı bir cila katmanı değil. Onsuz, yalnızca zaten sizinle hemfikir olan bir kitleye sesleniyorsunuzdur. Mesajı en çok duyması gereken insanlar çoktan kulaklarını tıkamıştır.
AI roleplay ve yoldaşlık artık hayatımızda. Bu işi geri sarmanın yolu yok. Soru şu: etrafına düşünülmüş bir çerçeve mi inşa edeceğiz — emek ile ihmal arasındaki farkı gözeten, talebin neden var olduğuyla dürüstçe yüzleşen ve düzenlemeye çalıştığı kültürel dünyaya saygı duyan bir çerçeve — yoksa asıl sorunlar ele alınmadan dururken aynı alarmist hikâyeyi tekrar tekrar mı yazmaya devam edeceğiz?
Biz bu işi doğru yapmaya çalışıyoruz. Etrafımızdaki konuşmanın da denemesini isteriz.
— Rudolf, AICHIKI Haziran 2026