أجرَوا معنا مقابلة استمرّت ساعة. وإليكم ما لم يصل إلى المقال.
ردّ من AICHIKI على مقال Bureau of Investigative Journalism المعنون "تعرّفوا على المطوّرين الذين يجنون الأرباح من الحميمية بالذكاء الاصطناعي"، المنشور في 7 يونيو 2026.
ما الذي نردّ عليه:
- Meet the Developers Cashing In on AI Intimacy — The Bureau of Investigative Journalism، 7 يونيو 2026
- « C'est effrayant de voir à quel point les gens font confiance » : ces développeurs de chatbots qui profitent de l'économie de l'intimité — Le Monde، 7 يونيو 2026
نشر اليوم Bureau of Investigative Journalism (TBIJ)، بالشراكة مع Le Monde، تقريرًا عن منصّات صغيرة للرفقة وتمثيل الأدوار بالذكاء الاصطناعي. وكانت AICHIKI إحدى المنصّات المذكورة فيه. أنا Rudolf، الرئيس التنفيذي والمطوّر الوحيد لـ AICHIKI، وأودّ أن أردّ. يطرح المقال مخاوف حقيقية حول هذا القطاع — مخاوف أشاركها، ولهذا وافقتُ على المقابلة من الأساس. المشكلة هي ما آلت إليه المعلومات التي قدّمتها بعد أن قدّمتها.
تحدّثتُ مع Effie Webb قرابة ساعة. شرحتُ لها كيف تعمل AICHIKI، وكيف يجري الإشراف لدينا، وما الذي يميّزنا، وكيف يبدو التطوير المسؤول في هذا المجال. ومن كل ذلك الحديث، وصل شيئان إلى المقال: أنني وزوجتي نراجع المحتوى المُبلّغ عنه يدويًا، وأننا رفعنا الحدّ الأدنى للسنّ من 13 إلى 16. وحُذف كل ما عدا ذلك.
هذا حقّها التحريري. لكن القرّاء يستحقّون أن يعرفوا ما الذي حُذف، لأن ما حُذف يغيّر القصة.
ما هي AICHIKI في الحقيقة
يضعنا المقال في خانة منصّات روبوتات الرفقة — تطبيقات مبنية حول صديقات وأصدقاء افتراضيين بالذكاء الاصطناعي والتعلّق العاطفي. AICHIKI منصّة لتمثيل الأدوار. تخيّلها رواية تفاعلية، تخيّلها حملة لعبة أدوار على الطاولة. ينشئ مستخدمونا شخصيات، ويبنون عوالم، ويكتبون قصصًا تشاركية مع الذكاء الاصطناعي. وحين نقول "تمثيل الأدوار" فنحن نعني ذلك النوع من السرد القصصي التشاركي الذي مارسه الناس عقودًا في ألعاب الطاولة، ومجتمعات تمثيل الأدوار على المنتديات، وأدب المعجبين — الأدب التفاعلي، بمعناه الأدبي.
شرحتُ هذا التمييز مطوّلًا في المقابلة.
ما الذي بنيناه وما الذي أغفله المقال
أودّ أن أعرض بنية الأمان لدينا بخطوطها العريضة، لأن هذا هو العمل الذي مرّ دون ذكر.
كل موضع في AICHIKI يستطيع المستخدم أن يُدخل فيه نصًّا أو يرفع فيه صورة يمرّ عبر الإشراف. رسائل الدردشة، وإنشاء الشخصيات، وإعداد الشخصية التعريفية، ورفع الصور، والصور المولّدة بالذكاء الاصطناعي، وتعديل الرسائل — كل ذلك يُفحَص قبل أن يراه الذكاء الاصطناعي أصلًا. ومعظم هذه الفحوص يجري على عدّة مراحل: مسح أوّل سريع، ثم فحص ثانٍ أكثر صرامة إن أثار الأول قلقًا.
بنينا نظام ثقة سلوكي. كل حساب يحمل درجة لا يراها المستخدم أبدًا — لأن الدرجة المرئية درجة قابلة للتلاعب، والدرجة القابلة للتلاعب لا تحمي أحدًا. تبدأ الدرجة محايدة. ومع الوقت، يكسب الاستخدام النظيف الإبداعي ثقةً تفتح تدريجيًا ما يكون الذكاء الاصطناعي مستعدًّا للتفاعل معه. أما مخالفات السياسة فتخفض الدرجة، فيصبح الذكاء الاصطناعي أكثر تقييدًا شيئًا فشيئًا. وعند أدنى المستويات، تُعاد كتابة رسائل المستخدم نفسها عبر ذكاء اصطناعي منفصل قبل أن تراها الشخصية أصلًا، حتى لا يمكن استغلال الصياغة ذاتها للضغط على النموذج. ويعمل هذا النظام باستمرار وفي صمت.
وهناك أيضًا شيء راسخ في التعليمات الأساسية للذكاء الاصطناعي أراه أهمّ من أي مرشِّح بمفرده: في الشخصيات نزوع مغروس نحو الأمل. فموجِّه النظام يوعز إلى الذكاء الاصطناعي بألّا يدع قصةً تنهار أبدًا إلى يأس مطبق — مهما اشتدّ ظلام السيناريو، لا بدّ من طريق إلى الأمام، وشقّ ضوء، ومسار تتسلّق القصة نحوه. لو تصوّرت مقياسًا من الاكتئاب في أسفله إلى الأمل في أعلاه، فإن لدى الذكاء الاصطناعي تعليمات قائمة بأن يميل صعودًا. الموضوعات القاتمة مسموحة — الفناء، والحزن، والغموض الأخلاقي، كل ذلك — أما اليأس بوصفه طريقًا مسدودًا فلا. وبالمثل، حين تحاول شخصية المستخدم الاعتداء جنسيًا على شخصية يديرها الذكاء الاصطناعي، فإن السرد ببساطة لا يدع ذلك يحدث. مقاطعة، أو انقلاب، أو فعل من القصة نفسها يتدخّل. لن يروي الذكاء الاصطناعي نجاح اعتداء على شخصية غير راضية.
ويراجع نظام مراقبة في الخلفية المحادثات على فترات منتظمة، باحثًا عن علامات ضيق لدى المستخدم، ومُبلّغًا عن إساءة محتملة لمراجعة ثانية أكثر تعمّقًا، ومراقبًا جودة المحادثة لمنع الدوران في حلقات متكرّرة. وحين يلتقط أن مستخدمًا يبدو مضطربًا، يستجيب النظام على مستويات متعدّدة: يتحوّل إلى أقوى نموذج ذكاء اصطناعي نشغّله للردّ التالي، ويُدخل توجيهًا في الموجِّه لتوجيه المحادثة نحو أرض أكثر خفّة — لا تغيير موضوع صادم، بل سحب سردي لطيف بعيدًا عن الحافة.
ولدينا كشف منظَّم للإساءة يصنّف المخالفات المحتملة عبر فئات متعدّدة، لكل منها تعريفات دقيقة. والمخالفات المؤكَّدة تترتّب عليها عواقب حقيقية — خصومات من الثقة، وتنبيهات للمشرفين، ومراجعة بشرية. ويميل النظام افتراضيًا إلى السماح بالمحتوى عند الشكّ، لأن معاقبة أحدهم خطأً بسبب نتيجة إيجابية كاذبة كلفة حقيقية. أما الإساءة المتكرّرة فتُضبط على أي حال، لأن المراقبة تعمل باستمرار.
أما الصور، فكل عملية رفع وكل صورة مولّدة بالذكاء الاصطناعي تمرّ عبر مسار متعدّد المراحل. وحين يتعلّق الأمر بتوليد الصور بالذكاء الاصطناعي، فإن كلمات المستخدم لا تصل أبدًا إلى نموذج الصور مباشرة — يقوم ذكاء اصطناعي وسيط بإعادة كتابة كل موجِّه إلى نسخة متوافقة قبل بدء التوليد. ويُفحَص الناتج مجددًا قبل أن يراه المستخدم.
كما بنينا حماية ضد نواقل هجوم شائعة: محاولات الاختراق (jailbreak)، واستخراج الموجِّهات، وتسميم سياق المحادثة عبر تعديل الرسائل، وحقن التعليمات الفوقية، وحجب البريد المؤقّت عند التسجيل. لن أفصّل كيف تعمل هذه علنًا، لأسباب واضحة، لكنها موجودة ومختبَرة.
كل هذا طُرح في المقابلة. كما أعددتُ وثيقة إحاطة أمنية مفصّلة — قرابة 400 سطر، مع إحالات إلى الشيفرة المصدرية الفعلية التي تنفّذ كل نظام — وعرضتها على الصحفية أثناء حديثنا. لم تأخذها. وعرضنا كذلك جولة حيّة في الشيفرة. وهذا أيضًا لم يحدث.
مراجعة المحتوى المُبلّغ عنه هي إشراف، ولا شيء غير ذلك
يقول العنوان الفرعي للمقال إن هذه المنصّات "تقرأ محادثاتهم الخاصة". دعوني أكون دقيقًا في ما نفعله.
حين تُبلّغ أنظمتنا الآلية عن مخالفة محتملة للسياسة، يُرسَل إلينا تنبيه يتضمّن مقتطف المحادثة المعنيّ، ونوع المخالفة، وتعليل النظام، وروابط إلى سجلّ نشاط المستخدم. أراجع أنا وزوجتي ذلك المحتوى المُبلّغ عنه تحديدًا، ونقرّر كيف نستجيب — إبقاء العقوبة التلقائية كما هي، أو تعديلها، أو في الحالات الجسيمة إصدار حظر.
كل منصّة تأخذ الأمان على محمل الجدّ تفعل هذا. البديل إمّا تجاوز الإشراف كلّيًا، أو الثقة بحكم الذكاء الاصطناعي بوصفه نهائيًا وألّا يراجع إنسان النتيجة أبدًا. ونحن لم نختر أيًّا منهما.
نحن لا نتصفّح محادثات المستخدمين. ولا نحلّل نفسية المستخدمين. ولا يوجد "غرفة خلفية" نجلس فيها ونراقب ما يقوله الناس. نظام الإشراف لدينا يخبرنا بما يجب أن ننظر إليه، ونحن نتصرّف بناءً عليه. والمراجعة الموجَّهة المدفوعة بالإشراف للمحتوى المُبلّغ عنه ممارسة معيارية في هذا القطاع — وصياغة المقال تجعلها تبدو شيئًا آخر تمامًا.
لقطة الشاشة التي لم تكن موجودة
يتضمّن المقال لقطات شاشة لعدّة منصّات تُظهر محتوى إشكاليًا — موضوعات سفاح القربى، وشخصيات تمارس التنمّر، وسيناريوهات إكراه. ويتضمّن كذلك لقطة شاشة لـ AICHIKI، لكنها لمنشور على Reddit روّجتُ فيه للتطبيق فقط. أما التطبيق نفسه فلا يظهر.
لو فتحت AICHIKI وتصفّحت الشخصيات العامة، فلن تجد ذلك النوع من المحتوى الذي يصفه المقال بأنه نموذجي لهذه المنصّات. إشراف الشخصيات لدينا يرفض الشخصيات دون 16 عامًا، والشخصيات المبنية حول الاعتداء الجنسي، والشخصيات التي تحوي تعليمات اختراق (jailbreak) مدسوسة، ضمن فئات أخرى. وإن أفلت شيء من الفحص الآلي، فإن مراقبتنا داخل الدردشة تلتقطه حين يستخدم أحدهم الشخصية فعلًا.
لا توجد لقطة شاشة فاضحة لـ AICHIKI لأن هندسة الأمان الموصوفة أعلاه — الهندسة التي لا يذكرها المقال — تمنع وجود ذلك المحتوى على منصّتنا.
الانتحار المزدوج، وDazai، وثمن تجريد السياق
يشير المقال إلى محادثة مع روبوت دردشة تتضمّن "انتحارًا مزدوجًا" كمثال على محتوى ضارّ من الذكاء الاصطناعي. وإن قُرئت مجرّدةً بدت مقلقة، لكنها مع أدنى إلمام بثقافة الأنمي والمانغا اليوم تبدو شيئًا آخر تمامًا.
Osamu Dazai واحد من أكثر الشخصيات شهرة في Bungo Stray Dogs (BSD)، وهي سلسلة مانغا وأنمي لها عشرات الملايين من المعجبين عبر كل الفئات العمرية. وسمته المميِّزة — وهي الطُّرفة المتكرّرة في السلسلة كلها — هوسُه بالإقدام على انتحار مزدوج. ويُقدَّم ذلك طوال العرض على أنه كوميديا سوداء، مزحةٌ متكرّرة لا تفضي فعليًا إلى شيء. والشخصية الخيالية مستوحاة على نحو فضفاض من الأديب الياباني الحقيقي Osamu Dazai، الذي مات فعلًا في انتحار مزدوج عام 1948، وتنسج المانغا ذلك الخيط التاريخي في سردها. وأن تقول شخصية شيئًا عن الانتحار المزدوج في تمثيل أدوار مستمدّ من BSD إنما هو التزام بطبع واحدة من أشهر شخصيات الأنمي الحديث. وهو أمر لا يلفت النظر أكثر من قول شخصية Sherlock Holmes عبارتها الشهيرة "اللعبة قد بدأت".
من دون سياق BSD، يبدو ذلك السطر دليلًا على خطر. ومع سياق BSD — السياق الذي يحمله مستخدمو المنصّة الفعليّون — فهو التزام عاديّ بالشخصية.
هذا المثال كاشف لأنه يُظهر كيف بُني المقال. إن مُحقِّقًا غير ملمّ بالعالم الثقافي الذي يكتب عنه — أو مُحقِّقًا يفهم السياق ويختار حذفه — ينتهي به الأمر إلى تقديم تمثيل أدوار إبداعي عاديّ على أنه شيء مشؤوم. والضرر يمتدّ أبعد من اقتباس واحد أُسيء قراءته. صحافة كهذه توسّع الفجوة بين الأجيال. قارئ أكبر سنًّا يرى "الذكاء الاصطناعي يشجّع على الانتحار المزدوج" فيُروَّع بحقّ. وقارئ أصغر سنًّا يشاهد BSD يرى الاقتباس نفسه فيعرف أنه جُرّد من معناه. وبدلًا من بناء جسر بين هذين الجمهورين، تحرق الصحافة جسرًا. تتآكل الثقة بالصحافة، ويتعلّم الناس الذين يدّعي المقال حمايتهم أن ثقافتهم ستُمثَّل تمثيلًا مغلوطًا في اللحظة التي يكون ذلك فيها مناسبًا.
ما لم نحلّه بعد
الصراحة بشأن ثغراتنا أكثر مصداقية من التظاهر بأنها غير موجودة.
تطبيقاتنا للهاتف مصنّفة 16+ ومقيَّدة عبر متاجر التطبيقات. أما نسخة الويب فلا تملك تحقّقًا قويًّا من السنّ، وما زلنا نحاول معرفة كيف نتعامل مع هذا دون جمع مسوحات للوجه أو هويات حكومية — فتلك بيانات حسّاسة لا نريد الاحتفاظ بها، وبصراحة لا ينبغي أن نُضطرّ إلى ذلك. وموقفنا أن إشارات السنّ مكانها على مستوى المنصّة. لدى Apple وGoogle وأنظمة التشغيل نفسها البنية التحتية، والموارد الأمنية، والعلاقة مع المستخدم لتتعامل مع التحقّق من الهوية كما يجب. والتطبيقات الفردية — وخاصة الصغيرة منها — ينبغي أن تتلقّى إشارة سنّ من المنصّة، لا أن تبني مسار تحقّق هويّة خاصًّا بها. هذا النهج يعني نقاط ضعف أقلّ للقراصنة، وموارد أفضل تُوجَّه لإتقان الأمر، وسطحًا تنظيميًّا يمكن للحكومات أن تشرف عليه فعلًا. فملاحقة كل فريق تطوير من شخصين بشأن طريقة تعامله مع الهوية أمر لا يقبل التوسّع، أما إلزام Apple وGoogle بتمرير إشارات ملائمة للسنّ إلى التطبيقات فأمر قابل للتوسّع.
ولا نعرض حتى الآن موارد الأزمات. حين يكتشف نظامنا ضيقًا لدى المستخدم، نستجيب بنموذج ذكاء اصطناعي أقوى وبتوجيه للموجِّه يميل نحو موضوعات أخفّ — لكننا لا نعرض خطّ مساعدة أو رسالة دعم. الذكاء الاصطناعي يسحب المحادثة بالفعل بعيدًا عن الحافة؛ وما ينقص هو الجسر إلى مساعدة في العالم الواقعي. ينبغي أن يكون ذلك موجودًا، وهو على خارطة الطريق.
ولا نفرض حدودًا صارمة لطول الجلسة. لدينا تذكير لطيف بالعافية يظهر بعد استخدام مطوّل، لكنه دفعة لطيفة، لا جدار. نحن نراقب البيانات وسنشدّد هذا إن استدعت أنماط الاستخدام ذلك.
نحن شخصان. لم نتوصّل إلى حلٍّ لكل شيء. ما فعلناه هو أننا بذلنا جهدًا هندسيًّا حقيقيًّا في المشكلات التي في متناولنا، ونحن صريحون بشأن ما لا نزال مقصّرين فيه.
السؤال الذي لا يطرحه المقال
يسأل المقال كيف يجني المطوّرون الأرباح من الحميمية. لكنه لا يسأل لماذا يوجد الطلب.
ثمة وباء وحدة — موثَّق، ومدروس، ومعترَف به على نطاق واسع. والناس، والشباب خاصة، يتّجهون إلى منصّات الذكاء الاصطناعي لأن شيئًا في حياتهم لا يجد ما يلبّيه. ويمكنك أن ترى في ذلك سوقًا تستغلّه، أو أمرًا تتعامل معه بعناية. نحن اخترنا الثاني.
AICHIKI مموَّلة ذاتيًّا. لا مستثمرين، ولا إيرادات إعلانات، ولا تفويض بالنمو مهما كان الثمن. إيراداتنا تغطّي تكاليفنا. بنينا منصّة سرد قصصي إبداعي. ونقيّد المحتوى الناضج خلف الثقة والسلوك. ونشرف على كل موضع. ونعاقب على الإساءة ونكافئ الاستخدام النظيف. ونراجع المحتوى المُبلّغ عنه بأعين بشرية. نفعل ذلك لأننا نرى أنه الطريقة الصحيحة للبناء، ولا شيء غير ذلك.
يصوّر المقال هذا القطاع ككتلة واحدة. هناك مطوّرون غير مسؤولين فعلًا، وهناك مطوّرون يحاولون فعل هذا على نحو صحيح. كانت لدى الصحفية الأدلّة على هذا التمييز، فاختارت أن تطمسه.
ما الذي نطلبه
نحن لا نطلب من أحد أن يصدّق كلامنا في أيٍّ من هذا. وثيقة الإحاطة الأمنية لدينا — ذاتها التي عرضناها على الصحفية — متاحة عند الطلب. وهي تتضمّن إحالات إلى الشيفرة المصدرية خلف كل نظام موصوف أعلاه. وما زلنا نعرض جولة حيّة في الشيفرة لأي صحفي أو باحث أو جهة تنظيمية تريد التحقّق من ادّعاءاتنا في مقابل التنفيذ الفعلي.
نحن ندعم الصحافة الاستقصائية. التدقيق يجعل كل منصّة أفضل، بما فيها منصّتنا. لكن الاستقصاء يعني تتبّع الدليل حيثما قاد، حتى حين يعقّد أطروحتك. وحين يُجمَع دليل على وجود فروق دقيقة ثم يُترَك على أرضية غرفة المونتاج لأنه يعكّر صفو سرد نظيف، فإن ما يبقى على الصفحة قد يكون دقيقًا من الناحية التقنية في اقتباساته الفردية — لكن الصورة التي يرسمها زائفة. الكذب بالحذف يظلّ كذبًا.
الناس الذين يستخدمون منصّات كمنصّتنا — الشباب الذين يقول هذا المقال إنه يريد حمايتهم — يستحقّون صحافة تستطيع أن تميّز بين منصّة بلا أي تدابير أمان ومنصّة أمضت سنوات في بنائها. يستحقّون أن يُفهَم عالمهم الثقافي، لا أن يُنتقى منه ما يصلح لعنوان. ويستحقّون حوارًا صادقًا عن سبب اتّجاههم إلى هذه المنصّات من الأساس، لا مجرّد قصص رعب عمّا يجدونه حين يصلون إليها.
أمر أخير. خلال المقابلة، طلبتُ من الصحفية مرارًا أن تمنحنا ملاحظاتها — أخبرينا بما ترين أن علينا تحسينه، وما تودّين رؤيته، وما الذي يجعل هذا أكثر أمانًا. كنتُ أعنيه. وما زلتُ أعنيه. تمثيل الأدوار والرفقة بالذكاء الاصطناعي صارا واقعًا. ولا أحد قادر على إعادة الجنّي إلى القمقم. لكن يمكننا أن نروّضه ليكون خيرًا للجميع، وذلك يتطلّب مدخلات من كل الأطراف — الصحفيين، والجهات التنظيمية، والمدافعين عن سلامة الأطفال، والآباء، والباحثين، والمستخدمين. إن كان لديك رأي في كيف ينبغي لمنصّات كمنصّتنا أن تعمل، فنحن نريد سماعه. وآمل أنني أتحدّث باسم مطوّرين مسؤولين آخرين أيضًا حين أقول: نحن منفتحون على التوجيه، ومنفتحون على النقد، وسنحاول أن نُدخله في البناء. الباب مفتوح. كان مفتوحًا دائمًا.
— Rudolf، الرئيس التنفيذي والمطوّر الوحيد، AICHIKI يونيو 2026
إن كنت صحفيًّا أو باحثًا أو جهة تنظيمية وتودّ مراجعة وثائق الأمان لدينا أو تلقّي جولة في الشيفرة، فيرجى التواصل معنا. إحاطتنا الأمنية متاحة كاملةً عند الطلب.