حين تطمس الطيف، تقتل الحافز
تأمّل أوسع في حال تمثيل الأدوار بالذكاء الاصطناعي، والصحافة الاستقصائية، ولماذا يؤذي الخطأ في هذا الناسَ الذين نحاول جميعًا حمايتهم.
قراءة للخلفية:
- ردّنا نقطةً نقطة: أجرَوا معنا مقابلة استمرّت ساعة. وإليكم ما لم يصل إلى المقال.
- المقال الذي أثاره: Meet the Developers Cashing In on AI Intimacy — The Bureau of Investigative Journalism، 7 يونيو 2026
- النسخة الفرنسية: « C'est effrayant de voir à quel point les gens font confiance » : ces développeurs de chatbots qui profitent de l'économie de l'intimité — Le Monde، 7 يونيو 2026
نشرنا اليوم ردًّا على مقال Bureau of Investigative Journalism حول منصّات الرفقة وتمثيل الأدوار بالذكاء الاصطناعي. كان ذلك الردّ محدّدًا — فصّل ما الذي بنته AICHIKI فعلًا وما الذي أغفله المقال. أما هذا فعن الصورة الأكبر، لأن مشكلات ذلك المقال تتجاوزنا بكثير.
أطروحة المقال الأعرض — أن منصّات صغيرة بالذكاء الاصطناعي تظهر بتدابير أمان ضعيفة وتستغلّ المستخدمين الذين يعانون الوحدة — صحيحة جزئيًّا. هناك مطوّرون في هذا المجال لا يملكون فعلًا أي إشراف، ولا حواجز سنّ، ولا نيّة لبنائها. وقال بعضهم ذلك صراحةً أمام الكاميرا. اكتبوا عن ذلك. أرجوكم.
المشكلة أن الاستقصاء وجد طيفًا فنشر كتلة واحدة. وُضعت منصّات بلا أي تدابير أمان جنبًا إلى جنب مع منصّات ذات بنية إشراف متعدّدة الطبقات، وعاملها المقال على أنها القصة نفسها. جُمع الدليل على الاختلاف ثم طُرح جانبًا لأنه عقّد سردًا نظيفًا.
يمكنك أن تبني قصة شديدة التضليل بالكامل من اقتباسات صحيحة إن تحكّمتَ في أي الاقتباسات يظهر وكيف يُصاغ. كل اقتباس فردي قد يكون دقيقًا، بينما الصورة الإجمالية التي ترسمها زائفة. وهذا ما يحدث حين تكتب مقالًا بالمقلوب — تبدأ من خلاصتك، وتنتقي دليلًا يوضّحها، وتُزيح بهدوء أي شيء يشير إلى الاتجاه الآخر.
هناك سابقة شهيرة لهذا النوع من المنهجية في العلم. في الخمسينيات، شرع الفيزيولوجي الأمريكي Ancel Keys في إثبات أن الدهون الغذائية تسبّب أمراض القلب. جمع بيانات من 22 دولة. وحين وردت النتائج، لم تدعم بعض الدول فرضيته — فسكّانها يأكلون كثيرًا من الدهون ومعدّلات أمراض القلب لديهم منخفضة. فحذف Keys تلك الدول من مجموعة البيانات، ونشر Seven Countries Study مستخدمًا فقط البيانات التي أكّدت ما كان يؤمن به أصلًا. وقد شكّلت تلك الدراسة سياسة التغذية العالمية عقودًا، وروّجت الحكومات بناءً عليها لحميات قليلة الدهون. كان تأثيرها هائلًا. والأمر كلّه مبنيٌّ على دليل منتقى — بيانات حقيقية قُدّمت انتقائيًّا لدعم خلاصة كانت موجودة قبل أن يبدأ البحث.
يتّبع مقال TBIJ المنهجية نفسها. جمعت الصحفية معلومات من منصّات متعدّدة. وبعض تلك المعلومات أظهر مطوّرين يستثمرون جهدًا هندسيًّا جادًّا في الأمان. نُحّيت تلك المعلومات جانبًا. وما بقي روى قصة نظيفة مقلقة — مبنية تقنيًّا على اقتباسات حقيقية، منقوصةً من نقاط البيانات التي كانت ستعقّد الأمور. نظر Keys إلى الدول التي لا تناسب أطروحته فحذفها من الدراسة. ونظر هذا المقال إلى بنى أمان لا تناسب أطروحته فحذفها من القصة.
لطمس الطيف عواقب تتجاوز المطوّرين الذين يُمثَّلون تمثيلًا مغلوطًا.
أمام مطوّر في هذا المجال الآن خياران. أن يقضي شهورًا في بناء أنظمة ثقة، وإشراف على المحتوى، وكشف للإساءة، ومسارات أمان للصور — عمل هندسي حقيقي يكلّف وقتًا حقيقيًّا ومالًا حقيقيًّا. أو أن يتخطّى كل ذلك ويطلق منصّة عارية بمفتاح API وصفحة دفع.
إذا تلقّى المطوّرون المسؤولون وغير المسؤولين المعاملة الصحفية نفسها — المقال نفسه، والصياغة نفسها، والاتّهام الضمني نفسه — فالرسالة إلى كل مطوّر جديد يدخل هذا المجال واضحة: عمل الأمان لا يُجدي. ستُصوَّر بالطريقة نفسها مهما فعلت. والخطوة العقلانية، لأي شخص بلا ضمير شخصي قوي، أن يتخطّى الاستثمار كلّه.
وهذا هو الضرر الحقيقي الذي تُحدثه صحافة كهذه. معاملة كل منصّة بالمثل تثبّط فعليًّا السلوك الذي يدّعي المقال أنه يريده. وبنية حوافز تعتمد كلّيًّا على امتلاك المطوّرين الأفراد ضميرًا هي بنية هشّة. ينبغي أن تكافئ فعل الصواب، أما صحافة لا تستطيع أن تميّز بين الجهد والإهمال فتدفع في الاتجاه المعاكس.
تخيّم مسألة الوحدة على هذا كلّه، ولا أحد تقريبًا في النقاش العامّ يتعامل معها بصدق.
يتّجه الشباب إلى منصّات الرفقة وتمثيل الأدوار بالذكاء الاصطناعي لأن شيئًا في حياتهم غير مُلبًّى — التواصل، والتعبير الإبداعي، والشعور بأنهم مسموعون. الطلب حقيقي وعميق. احظر كل منصّات الذكاء الاصطناعي غدًا فلن تختفي تلك الحاجة؛ ستبقى دون ما يلبّيها، أو تجد منافذ أشدّ قتامة برقابة أوهى.
يعامل مقال TBIJ الطلب كمُسلَّمة ويركّز كلّيًّا على جانب العرض — مَن يبني هذه المنصّات وكم هم غير مسؤولين. تلك الصياغة تجعل النقاش يبدو مثمرًا دون أن يمسّ أبدًا السؤال الأصعب: لماذا يلجأ هذا العدد الكبير من الناس، والشباب خاصة، إلى الذكاء الاصطناعي من الأساس؟ إن كنت جادًّا في حماية الناس، فعليك أن تتعامل مع ما يدفعهم إلى هناك. وقصص الرعب عمّا يجدونه حين يصلون ليست بديلًا عن ذلك الحوار.
والمشهد التنظيمي لا يساعد هو الآخر. القوانين والأطر التي تُطبَّق على الذكاء الاصطناعي الحواري صُمّمت لوسائل التواصل الاجتماعي — موجزات المحتوى، وخوارزميات التوصية، وديناميكيات المتابِعين، والمشاركة الفيروسية. ومحادثة روبوت دردشة مختلفة بنيويًّا عن موجز TikTok. الأضرار تعمل بطريقة مختلفة، والآليات تعمل بطريقة مختلفة، والتدخّلات بدورها بحاجة إلى أن تعمل بطريقة مختلفة. لكن الجهات التنظيمية تمدّ يدها إلى الأدوات التي بحوزتها بالفعل، وتلك الأدوات بُنيت لمشكلة أخرى.
أن تعامل منصّات الذكاء الاصطناعي كمنتجات لها متطلّبات سلامة منتج — معايير أساسية، وملفّات مخاطر متدرّجة، ومتّسع لمقاربات مختلفة في الوفاء بها — أقرب إلى الصواب من معظم ما يُقترَح حاليًّا. أطر سلامة المنتجات تتيح لك وضع حدود دنيا حقيقية مع الإقرار بأن فريقًا من شخصين وشركةً بمليارات الدولارات سيفيان بها على نحو مختلف. أما الحظر الشامل والقواعد ذات المقاس الواحد فتدفع المطوّرين المسؤولين خارجًا ولا تفعل شيئًا تقريبًا لردع غير المسؤولين، الذين سينتقلون ببساطة إلى ولايات قضائية أخرى أو يتجاهلون الإنفاذ.
لكن ما يقلقني أكثر هو الفجوة الثقافية.
الناس الذين يتّخذون قرارات السياسات حول هذه المنصّات — الجهات التنظيمية، والمشرّعون، وهيئات التحرير — في معظمهم لا يستخدمونها ولا يفهمون الثقافة المحيطة بها. وهم يعتمدون على صحافة تجرّد السياق الثقافي، كما تُظهر تجربتنا، طلبًا للوضوح والتأثير.
يطرح مقال TBIJ محادثةً مع روبوت دردشة حول "انتحار مزدوج" كدليل على محتوى ضارّ. فمن لا يعرف الأنمي يرى في ذلك ذكاءً اصطناعيًّا يشجّع على إيذاء النفس. أما عشرات الملايين من معجبي Bungo Stray Dogs فيعرفون فيه فورًا سمة Osamu Dazai المميِّزة — طُرفةٌ من الكوميديا السوداء تتكرّر فتحدّد واحدةً من أكثر الشخصيات شهرة في المانغا الحديثة. وفي سياقه، لا يكاد يكون أكثر إثارةً للقلق من قول روبوت Sherlock Holmes عبارته الشهيرة "أوَّليّ يا عزيزي".
قارئ أكبر سنًّا يرى "الذكاء الاصطناعي يشجّع على الانتحار المزدوج" فيُروَّع، وهذا مفهوم. وقارئ أصغر سنًّا يشاهد BSD يرى الاقتباس نفسه فيعرف أن المعنى جُرّد منه. القارئ الأكبر يمضي مضلَّلًا. والقارئ الأصغر يمضي وقد تعلّم أن الذين يكتبون عن عالمه لا يفهمونه — وذلك الدرس يتعمّم بسرعة. إن أخطؤوا في فهم Dazai، فما الذي أخطؤوا فيه أيضًا؟ ولِمَ أثق بأي شيء آخر في هذا المقال؟ ولِمَ أثق بالمؤسسات التي تقف خلفه؟
يحدث ذلك التآكل في الثقة بهدوء وهو خطير. جيل يشاهد ثقافته تُمثَّل تمثيلًا مغلوطًا باستمرار من المؤسسات التي تدّعي حمايته لا يصبح أكثر حذرًا. إنه يكفّ عن الإصغاء. وحين يكفّون عن الإصغاء، فإن التحذير الحقيقي التالي — عن منصّة خطيرة فعلًا — يُتجاهَل مع كل شيء آخر.
السياق الثقافي شرط مسبق لأن يأخذك على محمل الجدّ الناسُ الذين تقول إنك تحميهم، لا طبقة تلميع اختيارية. ومن دونه، أنت تخاطب فقط جمهورًا يتّفق معك أصلًا. أما الناس الأشدّ حاجة إلى سماع الرسالة فقد انصرفوا عنها بالفعل.
تمثيل الأدوار والرفقة بالذكاء الاصطناعي صارا واقعًا. ولا أحد قادر على إعادة الجنّي إلى القمقم. والسؤال هو أنبني حوله إطارًا متبصّرًا — إطارًا يميّز بين الجهد والإهمال، ويتعامل بصدق مع سبب وجود الطلب، ويحترم العالم الثقافي الذي يحاول تنظيمه — أم نظلّ نكتب القصة المثيرة للذعر نفسها مرّة بعد مرّة بينما تبقى المشكلات الفعلية دون معالجة.
نحن نحاول أن نفعل هذا على نحو صحيح. ونودّ أن يحاول الحوار الدائر حولنا ذلك أيضًا.
— Rudolf، AICHIKI يونيو 2026