जब आप पूरे दायरे को चपटा कर देते हैं, तो प्रोत्साहन ही मार देते हैं
AI रोलप्ले की मौजूदा हालत, खोजी पत्रकारिता, और इस पर एक व्यापक चिंतन कि इसे ग़लत करना उन्हीं लोगों को कैसे चोट पहुँचाता है जिनकी रक्षा हम सब करने की कोशिश कर रहे हैं।
पृष्ठभूमि पठन:
- हमारा बिंदुवार जवाब: हमारा एक घंटे तक इंटरव्यू हुआ। यहाँ वह है जो लेख में नहीं आया।
- वह लेख जिसने इसे जन्म दिया: Meet the Developers Cashing In on AI Intimacy — The Bureau of Investigative Journalism, 7 जून 2026
- फ़्रेंच संस्करण: « C'est effrayant de voir à quel point les gens font confiance » : ces développeurs de chatbots qui profitent de l'économie de l'intimité — Le Monde, 7 जून 2026
आज हमने AI साथी और रोलप्ले प्लेटफ़ॉर्म्स के बारे में Bureau of Investigative Journalism के लेख पर एक जवाब प्रकाशित किया। वह लेख विशिष्ट था — उसमें ब्यौरेवार बताया गया कि AICHIKI ने असल में क्या बनाया और लेख ने क्या छोड़ दिया। यह वाला बड़ी तस्वीर के बारे में है, क्योंकि उस लेख की दिक्कतें हमसे कहीं आगे तक जाती हैं।
लेख की व्यापक थीसिस — कि छोटे AI प्लेटफ़ॉर्म कमज़ोर सुरक्षा उपायों के साथ उग आ रहे हैं और अकेले उपयोगकर्ताओं का शोषण कर रहे हैं — आंशिक रूप से सच है। इस क्षेत्र में ऐसे डेवलपर हैं जिनके पास सचमुच कोई मॉडरेशन नहीं, कोई उम्र-नियंत्रण नहीं, और उन्हें बनाने का कोई इरादा भी नहीं। कुछ ने कैमरे पर ख़ुद यह कहा भी। उस पर रिपोर्ट कीजिए। कृपया कीजिए।
दिक्कत यह है कि पड़ताल को एक पूरा दायरा मिला और उसने एक अखंड पिंड छाप दिया। शून्य सुरक्षा उपायों वाले प्लेटफ़ॉर्म को बहुस्तरीय मॉडरेशन ढाँचे वाले प्लेटफ़ॉर्म के बगल में रख दिया गया, और लेख ने दोनों को एक ही कहानी की तरह बरता। फ़र्क का सबूत इकट्ठा करके फेंक दिया गया क्योंकि वह एक साफ़-सुथरी कहानी को उलझा रहा था।
आप पूरी तरह सच्चे उद्धरणों से भी एक बेहद गुमराह करने वाली कहानी गढ़ सकते हैं, अगर आप यह तय करें कि कौन-से उद्धरण आएँ और उन्हें किस तरह पेश किया जाए। हर अलग उद्धरण सही हो सकता है जबकि वे मिलकर जो तस्वीर बनाते हैं वह झूठी हो। और यही होता है जब आप कोई लेख उल्टा लिखते हैं — अपने निष्कर्ष से शुरू करते हैं, उसे दिखाने वाला सबूत चुनते हैं, और चुपचाप वह सब किनारे रख देते हैं जो दूसरी ओर इशारा करता है।
विज्ञान में इस तरह की कार्यप्रणाली की एक मशहूर मिसाल है। 1950 के दशक में, अमेरिकी शरीरक्रिया-विज्ञानी Ancel Keys यह साबित करने निकले कि आहार में वसा दिल की बीमारी का कारण बनती है। उन्होंने 22 देशों से डेटा जुटाया। जब नतीजे आए, तो कुछ देश उनकी परिकल्पना का समर्थन नहीं करते थे — वहाँ की आबादी ख़ूब वसा खाती थी और दिल की बीमारी की दर कम थी। तो Keys ने उन देशों को डेटासेट से हटा दिया और अपना Seven Countries Study सिर्फ़ उसी डेटा से प्रकाशित किया जो उनकी पहले से बनी मान्यता की पुष्टि करता था। उस अध्ययन ने दशकों तक वैश्विक पोषण नीति को आकार दिया। सरकारों ने उसके आधार पर कम-वसा वाले आहार का प्रचार किया। प्रभाव बहुत बड़ा था। और पूरी चीज़ चुन-चुनकर निकाले गए सबूत पर खड़ी थी — असली डेटा, एक ऐसे निष्कर्ष का समर्थन करने के लिए चुनिंदा ढंग से पेश किया गया जो शोध शुरू होने से पहले ही मौजूद था।
TBIJ का लेख वही कार्यप्रणाली अपनाता है। रिपोर्टर ने कई प्लेटफ़ॉर्म्स से जानकारी जुटाई। उसमें से कुछ जानकारी ऐसे डेवलपर दिखाती थी जो सुरक्षा में गंभीर इंजीनियरिंग मेहनत लगा रहे थे। उस जानकारी को किनारे रख दिया गया। जो बचा उसने एक साफ़, घबराहट भरी कहानी कही — तकनीकी रूप से असली उद्धरणों पर खड़ी, उन डेटा-बिंदुओं को घटाकर जो चीज़ों को उलझा देते। Keys ने उन देशों को देखा जो उनकी थीसिस में फ़िट नहीं बैठते थे और उन्हें अध्ययन से मिटा दिया। इस लेख ने उन सुरक्षा संरचनाओं को देखा जो उसकी थीसिस में फ़िट नहीं बैठती थीं और उन्हें कहानी से मिटा दिया।
पूरे दायरे को चपटा कर देने के नतीजे उन डेवलपर्स से आगे तक जाते हैं जिन्हें ग़लत पेश किया जाता है।
इस क्षेत्र में किसी भी डेवलपर के पास इस वक़्त दो रास्ते हैं। महीनों लगाकर भरोसा प्रणालियाँ, सामग्री मॉडरेशन, दुरुपयोग पहचान, इमेज सुरक्षा पाइपलाइन बनाए — असली इंजीनियरिंग मेहनत जिसमें असली समय और असली पैसा लगता है। या यह सब छोड़कर एक API कुंजी और एक भुगतान पेज के सहारे एक नंगा-सा प्लेटफ़ॉर्म लॉन्च कर दे।
अगर ज़िम्मेदार और ग़ैर-ज़िम्मेदार डेवलपर्स को एक जैसा प्रेस-बर्ताव मिले — वही लेख, वही प्रस्तुति, वही छुपा हुआ आरोप — तो इस क्षेत्र में आने वाले हर नए डेवलपर के लिए संदेश साफ़ है: सुरक्षा का काम मुनाफ़ा नहीं देता। आप चाहे जो करें, आपको पेश एक जैसा ही किया जाएगा। जिसके भीतर कोई मज़बूत निजी ज़मीर न हो, उसके लिए तर्कसंगत क़दम यही है कि निवेश पूरी तरह छोड़ ही दे।
और यही असली नुकसान है जो ऐसी रिपोर्टिंग करती है। हर प्लेटफ़ॉर्म को एक जैसा बरतना सक्रिय रूप से उसी व्यवहार को हतोत्साहित करता है जिसकी लेख माँग करने का दावा करता है। एक ऐसा प्रोत्साहन ढाँचा जो पूरी तरह इस पर टिका हो कि अलग-अलग डेवलपर्स में ज़मीर हो, कमज़ोर होता है। उसे सही काम करने पर इनाम देना चाहिए, और जो रिपोर्टिंग मेहनत और लापरवाही में फ़र्क न बता सके, वह ठीक उल्टी दिशा में धकेलती है।
अकेलेपन का सवाल इस सब पर मँडराता रहता है, और सार्वजनिक बहस में लगभग कोई भी इससे ईमानदारी से नहीं जूझ रहा।
युवा AI साथीपन और रोलप्ले प्लेटफ़ॉर्म्स की ओर इसलिए मुड़ रहे हैं क्योंकि उनके जीवन में कुछ अधूरा रह जा रहा है — जुड़ाव, रचनात्मक अभिव्यक्ति, सुने जाने का एहसास। माँग असली है, और गहरी है। कल हर AI प्लेटफ़ॉर्म पर पाबंदी लगा दीजिए, और वह ज़रूरत मिटती नहीं। वह या तो अधूरी रह जाती है, या और भी कम निगरानी वाले अँधेरे रास्ते खोज लेती है।
TBIJ का लेख माँग को एक तयशुदा बात मानकर चलता है और पूरा ध्यान आपूर्ति-पक्ष पर लगाता है — कौन ये प्लेटफ़ॉर्म बना रहा है और वे कितने ग़ैर-ज़िम्मेदार हैं। वह प्रस्तुति बातचीत को कठिन सवाल छुए बिना ही उत्पादक महसूस करा देती है: इतने सारे लोग, ख़ासकर युवा, आख़िर पहली जगह में AI की ओर हाथ क्यों बढ़ा रहे हैं? अगर आप लोगों की रक्षा को लेकर गंभीर हैं, तो आपको उससे जूझना होगा जो उन्हें वहाँ धकेल रहा है। वहाँ पहुँचकर उन्हें क्या मिलता है, इस बारे में डरावनी कहानियाँ उस बातचीत का कोई विकल्प नहीं हैं।
नियामक परिदृश्य भी मदद नहीं कर रहा। संवादी AI पर जो कानून और ढाँचे लागू किए जा रहे हैं, वे सोशल मीडिया के लिए बने थे — कंटेंट फ़ीड, सिफ़ारिश एल्गोरिदम, फ़ॉलोअर गतिशीलता, वायरल साझाकरण। एक चैटबॉट बातचीत किसी TikTok फ़ीड से संरचनात्मक रूप से अलग होती है। नुकसान अलग तरह से काम करते हैं, तंत्र अलग तरह से काम करते हैं, और हस्तक्षेपों को भी अलग तरह से काम करना होगा। पर नियामक उन्हीं औज़ारों की ओर हाथ बढ़ाते हैं जो उनके पास पहले से हैं, और वे औज़ार एक अलग समस्या के लिए बने थे।
AI प्लेटफ़ॉर्म्स को उत्पाद-सुरक्षा आवश्यकताओं वाले उत्पादों की तरह बरतना — बुनियादी मानक, श्रेणीबद्ध जोखिम-प्रोफ़ाइल, उन्हें पूरा करने के अलग-अलग तरीकों के लिए गुंजाइश — फ़िलहाल जो ज़्यादातर प्रस्तावित है उससे कहीं सही के करीब है। उत्पाद-सुरक्षा ढाँचे आपको असली न्यूनतम तय करने देते हैं, साथ ही यह मानते हुए कि एक दो-लोगों की टीम और एक अरब-डॉलर का निगम उन्हें अलग-अलग तरह से पूरा करेंगे। थोक पाबंदियाँ और एक-नाप-सबके-लिए नियम ज़िम्मेदार डेवलपर्स को बाहर धकेल देते हैं और ग़ैर-ज़िम्मेदार लोगों को रोकने के लिए लगभग कुछ नहीं करते, जो बस अपना अधिकार-क्षेत्र बदल लेंगे या प्रवर्तन को अनदेखा कर देंगे।
पर मुझे सबसे ज़्यादा जो चिंता है वह सांस्कृतिक खाई है।
इन प्लेटफ़ॉर्म्स के बारे में नीतिगत फ़ैसले लेने वाले लोग — नियामक, विधायक, संपादकीय बोर्ड — बड़े पैमाने पर इनका इस्तेमाल नहीं करते और इनके इर्द-गिर्द की संस्कृति को नहीं समझते। वे ऐसी रिपोर्टिंग पर निर्भर हैं जो, जैसा हमारा अनुभव दिखाता है, स्पष्टता और असर के लिए सांस्कृतिक संदर्भ छीन लेती है।
TBIJ का लेख एक "दोहरी आत्महत्या" वाले चैटबॉट संवाद को हानिकारक सामग्री के सबूत के तौर पर सामने लाता है। एनिमे से अनजान किसी भी व्यक्ति को यह एक ऐसे AI जैसा लगता है जो आत्म-हानि को बढ़ावा दे रहा है। Bungo Stray Dogs के करोड़ों प्रशंसकों के लिए, यह तुरंत Osamu Dazai के हस्ताक्षर-समान किरदार-लक्षण के रूप में पहचाना जाता है — एक डार्क-कॉमेडी का चलता-फिरता मज़ाक जो आधुनिक मंगा के सबसे लोकप्रिय किरदारों में से एक को परिभाषित करता है। संदर्भ में, यह उतना ही चिंताजनक है जितना किसी Sherlock Holmes बॉट का "elementary" कहना।
एक बुज़ुर्ग पाठक "AI दोहरी आत्महत्या को बढ़ावा देता है" पढ़ता है और सिहर उठता है, जो समझ में आता है। BSD देखने वाला एक युवा पाठक वही उद्धरण देखता है और जानता है कि उसका मतलब छीन लिया गया है। बुज़ुर्ग पाठक ग़लत जानकारी लेकर लौटता है। युवा पाठक यह सीखकर लौटता है कि उसकी दुनिया के बारे में लिखने वाले लोग उसे समझते ही नहीं — और वह सबक तेज़ी से फैल जाता है। अगर उन्होंने Dazai को ग़लत समझा, तो और क्या-क्या ग़लत समझा होगा? मैं इस लेख की किसी और बात पर भी भरोसा क्यों करूँ? इसके पीछे की संस्थाओं पर भरोसा क्यों करूँ?
भरोसे का यह क्षरण चुपचाप हो रहा है और यह ख़तरनाक है। एक पीढ़ी जो अपनी संस्कृति को लगातार उन्हीं संस्थाओं द्वारा ग़लत पेश होते देखती है जो उसकी रक्षा का दावा करती हैं, ज़्यादा सतर्क नहीं हो जाती। वह सुनना बंद कर देती है। और जब वह सुनना बंद कर देती है, तो अगली असली चेतावनी — किसी ऐसे प्लेटफ़ॉर्म के बारे में जो सचमुच ख़तरनाक है — बाकी सब के साथ अनदेखी कर दी जाती है।
सांस्कृतिक संदर्भ उन लोगों द्वारा गंभीरता से लिए जाने की पूर्व-शर्त है जिनकी आप रक्षा करने की बात कहते हैं, न कि चमक की कोई वैकल्पिक परत। उसके बिना, आप सिर्फ़ उस दर्शक-वर्ग से बात कर रहे हैं जो पहले से ही आपसे सहमत है। जिन लोगों को संदेश सबसे ज़्यादा सुनने की ज़रूरत है, वे पहले ही कान बंद कर चुके हैं।
AI रोलप्ले और साथीपन अब हक़ीक़त हैं। यह बात अब वापस बोतल में नहीं डाली जा सकती। सवाल यह है कि क्या हम इसके इर्द-गिर्द एक सोचा-समझा ढाँचा बनाएँ — एक ऐसा जो मेहनत और लापरवाही में फ़र्क करे, ईमानदारी से इससे जूझे कि माँग है ही क्यों, और जिस सांस्कृतिक दुनिया को वह विनियमित करने की कोशिश कर रहा है उसका सम्मान करे — या हम वही घबराहट भरी कहानी बार-बार लिखते रहें जबकि असली समस्याएँ अनसुलझी रह जाएँ।
हम इसे सही तरीके से करने की कोशिश करते आए हैं। हम चाहेंगे कि हमारे इर्द-गिर्द की बातचीत भी कोशिश करे।
— Rudolf, AICHIKI जून 2026