เมื่อคุณปาดสเปกตรัมให้เรียบ คุณก็ฆ่าแรงจูงใจ
บทสะท้อนในวงกว้างเกี่ยวกับสถานการณ์ของบทบาทสมมติ AI งานข่าวเชิงสืบสวน และเหตุที่การทำเรื่องนี้พลาดส่งผลร้ายต่อผู้คนที่เราทุกคนต่างพยายามปกป้อง
อ่านประกอบ:
- คำตอบของเราแบบประเด็นต่อประเด็น: เราถูกสัมภาษณ์นานหนึ่งชั่วโมง นี่คือสิ่งที่ไม่ได้ลงในบทความ
- บทความที่จุดชนวนเรื่องนี้: Meet the Developers Cashing In on AI Intimacy — The Bureau of Investigative Journalism, 7 มิถุนายน 2026
- ฉบับภาษาฝรั่งเศส: « C'est effrayant de voir à quel point les gens font confiance » : ces développeurs de chatbots qui profitent de l'économie de l'intimité — Le Monde, 7 มิถุนายน 2026
วันนี้เราได้ตีพิมพ์คำตอบต่อบทความของ Bureau of Investigative Journalism เกี่ยวกับแพลตฟอร์ม AI เพื่อนคู่คิดและบทบาทสมมติ บทความชิ้นนั้นเจาะจง — มันลงรายละเอียดว่า AICHIKI สร้างอะไรขึ้นมาจริง ๆ และบทความของพวกเขาตัดอะไรทิ้งไป ส่วนชิ้นนี้ว่าด้วยภาพที่ใหญ่กว่า เพราะปัญหาของบทความนั้นไปไกลกว่าตัวเรามาก
สมมติฐานในวงกว้างของบทความ ที่ว่าแพลตฟอร์ม AI ขนาดเล็กกำลังผุดขึ้นมาพร้อมมาตรการความปลอดภัยที่อ่อนแอและขูดรีดผู้ใช้ที่เปล่าเปลี่ยวนั้น เป็นจริงอยู่บางส่วน เพราะมีนักพัฒนาในวงการนี้ที่ไม่มีการกลั่นกรองเลยจริง ๆ ไม่มีด่านกั้นอายุ และไม่มีเจตนาจะสร้างมันขึ้นมา บางคนถึงกับพูดออกมาตรง ๆ ต่อหน้ากล้อง เรื่องแบบนั้นรายงานไปเถอะ ขอร้องเลย
ปัญหาคือการสืบสวนพบสเปกตรัม แต่ตีพิมพ์ออกมาเป็นก้อนเดียว แพลตฟอร์มที่ไม่มีมาตรการความปลอดภัยเลยถูกวางไว้ข้าง ๆ แพลตฟอร์มที่มีโครงสร้างพื้นฐานการกลั่นกรองหลายชั้น โดยบทความปฏิบัติต่อทั้งคู่ราวกับเป็นเรื่องเดียวกัน หลักฐานของความแตกต่างถูกรวบรวมมาแล้วก็ถูกทิ้งไป เพราะมันทำให้เรื่องเล่าอันสะอาดหมดจดยุ่งยากขึ้น
คุณสามารถสร้างเรื่องที่ทำให้เข้าใจผิดอย่างมหันต์ขึ้นมาจากคำพูดที่เป็นจริงล้วน ๆ ได้ หากคุณควบคุมว่าคำพูดไหนจะปรากฏและมันจะถูกวางกรอบอย่างไร คำพูดแต่ละคำอาจถูกต้องแม่นยำ ในขณะที่ภาพรวมที่มันประกอบกันขึ้นมานั้นกลับเป็นเท็จ และนั่นคือสิ่งที่เกิดขึ้นเมื่อคุณเขียนบทความแบบย้อนกลับ คือเริ่มจากข้อสรุปก่อน แล้วค่อยคัดเลือกหลักฐานที่ขับเน้นข้อสรุปนั้น จากนั้นก็เก็บอะไรก็ตามที่ชี้ไปในทางตรงข้ามซุกเข้าลิ้นชักไปเงียบ ๆ
วิธีวิทยาแบบนี้มีกรณีตัวอย่างอันโด่งดังอยู่ในวงการวิทยาศาสตร์ ในช่วงทศวรรษ 1950 นักสรีรวิทยาชาวอเมริกัน Ancel Keys ตั้งใจจะพิสูจน์ว่าไขมันในอาหารเป็นสาเหตุของโรคหัวใจ เขารวบรวมข้อมูลจาก 22 ประเทศ แต่เมื่อผลออกมา บางประเทศกลับไม่สนับสนุนสมมติฐานของเขา เพราะประชากรของประเทศเหล่านั้นกินไขมันกันมากแต่มีอัตราการเป็นโรคหัวใจต่ำ Keys จึงตัดประเทศเหล่านั้นออกจากชุดข้อมูล แล้วตีพิมพ์ Seven Countries Study โดยใช้เฉพาะข้อมูลที่ยืนยันสิ่งที่เขาเชื่ออยู่แล้ว งานวิจัยชิ้นนั้นกำหนดทิศทางนโยบายโภชนาการทั่วโลกอยู่หลายทศวรรษ รัฐบาลต่าง ๆ ผลักดันอาหารไขมันต่ำโดยอิงจากมัน อิทธิพลของมันมหาศาล ทั้งที่ทั้งหมดนั้นถูกสร้างขึ้นบนหลักฐานที่เลือกหยิบมาเฉพาะส่วน เป็นข้อมูลจริงที่ถูกนำเสนออย่างเลือกสรรเพื่อสนับสนุนข้อสรุปซึ่งมีอยู่ก่อนที่การวิจัยจะเริ่มต้นเสียอีก
บทความของ TBIJ เดินตามวิธีวิทยาเดียวกัน นักข่าวรวบรวมข้อมูลจากหลายแพลตฟอร์ม ข้อมูลบางส่วนแสดงให้เห็นว่านักพัฒนาทุ่มเทความพยายามทางวิศวกรรมอย่างจริงจังให้กับความปลอดภัย แต่ข้อมูลนั้นถูกวางไว้ข้าง ๆ สิ่งที่เหลืออยู่จึงเป็นเรื่องเล่าที่สะอาดและน่าตกใจ สร้างขึ้นจากคำพูดจริงตามตัวอักษร แต่หักลบจุดข้อมูลที่จะทำให้เรื่องราวยุ่งยากออกไป Keys มองดูประเทศที่ไม่เข้ากับสมมติฐานของเขาแล้วลบมันออกจากงานวิจัย ส่วนบทความนี้มองดูสถาปัตยกรรมความปลอดภัยที่ไม่เข้ากับสมมติฐานของมันแล้วลบมันออกจากเรื่องราว
การปาดสเปกตรัมให้เรียบมีผลที่ตามมาเกินกว่าตัวนักพัฒนาที่ถูกนำเสนออย่างบิดเบือน
นักพัฒนาในวงการนี้ตอนนี้มีทางเลือกอยู่สองทาง ใช้เวลาหลายเดือนสร้างระบบความน่าเชื่อถือ การกลั่นกรองเนื้อหา การตรวจจับการละเมิด ไปป์ไลน์ความปลอดภัยของรูปภาพ — งานวิศวกรรมจริง ๆ ที่ต้องใช้เวลาจริงและเงินจริง หรือข้ามทั้งหมดนั้นไปแล้วเปิดตัวแพลตฟอร์มเปล่า ๆ ด้วย API key หนึ่งอันกับหน้าจ่ายเงินหนึ่งหน้า
หากนักพัฒนาที่มีความรับผิดชอบและนักพัฒนาที่ไร้ความรับผิดชอบได้รับการปฏิบัติจากสื่อแบบเดียวกัน ทั้งบทความเดียวกัน การวางกรอบแบบเดียวกัน ข้อกล่าวหาแฝงแบบเดียวกัน สารที่ส่งถึงนักพัฒนาหน้าใหม่ทุกคนที่ก้าวเข้ามาในวงการนี้ก็ชัดเจน นั่นคืองานด้านความปลอดภัยไม่คุ้มค่า เพราะยังไงคุณก็จะถูกนำเสนอแบบเดียวกันอยู่ดี ทางเลือกที่สมเหตุสมผลที่สุดสำหรับใครก็ตามที่ไม่มีจิตสำนึกส่วนตัวอันแรงกล้า จึงเป็นการข้ามการลงทุนนั้นไปเสียทั้งหมด
และนั่นคือความเสียหายที่แท้จริงที่การรายงานข่าวแบบนี้ก่อขึ้น การปฏิบัติต่อทุกแพลตฟอร์มเหมือนกันหมดเป็นการบั่นทอนแรงจูงใจของพฤติกรรมที่บทความเองอ้างว่าต้องการอย่างชัดเจน โครงสร้างแรงจูงใจที่ขึ้นอยู่กับการที่นักพัฒนาแต่ละคนต้องมีจิตสำนึกล้วน ๆ นั้นเปราะบาง มันควรให้รางวัลแก่การทำสิ่งที่ถูกต้อง แต่การรายงานข่าวที่ไม่อาจแยกแยะความแตกต่างระหว่างความพยายามกับความละเลยได้ กลับผลักไปในทิศทางตรงกันข้าม
คำถามเรื่องความเหงาแขวนคลุมอยู่เหนือเรื่องทั้งหมดนี้ และแทบไม่มีใครในบทสนทนาสาธารณะที่เข้าไปจัดการกับมันอย่างซื่อตรง
คนหนุ่มสาวกำลังหันไปหาแพลตฟอร์ม AI เพื่อนคู่คิดและบทบาทสมมติ เพราะมีบางสิ่งในชีวิตของพวกเขาที่ขาดหายไป ไม่ว่าจะเป็นการเชื่อมโยงกับผู้อื่น การได้แสดงออกเชิงสร้างสรรค์ หรือความรู้สึกว่ามีคนรับฟัง ความต้องการนั้นเป็นจริงและฝังลึก ต่อให้แบนทุกแพลตฟอร์ม AI ตั้งแต่พรุ่งนี้ ความต้องการนั้นก็ไม่หายไป มันจะยังคงไม่ได้รับการเติมเต็ม หรือไม่ก็ไปหาช่องทางที่มืดกว่าซึ่งมีการสอดส่องน้อยลงไปอีก
บทความของ TBIJ ปฏิบัติต่อความต้องการนั้นเสมือนเป็นสิ่งที่มีอยู่แล้วโดยปริยาย และเพ่งความสนใจไปที่ฝั่งอุปทานทั้งหมด คือใครกำลังสร้างแพลตฟอร์มเหล่านี้และพวกเขาไร้ความรับผิดชอบแค่ไหน การวางกรอบแบบนั้นทำให้บทสนทนาดูเหมือนมีประโยชน์ โดยไม่ต้องแตะคำถามที่ยากกว่าเลย นั่นคือทำไมผู้คนจำนวนมาก โดยเฉพาะคนหนุ่มสาว ถึงเอื้อมไปหา AI ตั้งแต่แรก หากคุณจริงจังกับการปกป้องผู้คน คุณก็ต้องเข้าไปจัดการกับสิ่งที่ผลักพวกเขาไปที่นั่น เรื่องสยองขวัญเกี่ยวกับสิ่งที่พวกเขาพบเมื่อไปถึงนั้นไม่อาจทดแทนบทสนทนานั้นได้
ภูมิทัศน์ด้านการกำกับดูแลก็ไม่ได้ช่วยอะไรเช่นกัน กฎหมายและกรอบต่าง ๆ ที่ถูกนำมาใช้กับ AI เชิงสนทนานั้นถูกออกแบบมาสำหรับโซเชียลมีเดีย — ฟีดเนื้อหา อัลกอริทึมแนะนำ พลวัตของผู้ติดตาม การแชร์แบบไวรัล บทสนทนากับแชทบอทมีโครงสร้างต่างจากฟีด TikTok อันตรายทำงานแตกต่างกัน กลไกทำงานแตกต่างกัน และการแทรกแซงก็จำเป็นต้องทำงานแตกต่างกันด้วย แต่ผู้กำกับดูแลกลับคว้าเครื่องมือที่ตัวเองมีอยู่แล้ว และเครื่องมือเหล่านั้นถูกสร้างมาเพื่อปัญหาคนละแบบ
การปฏิบัติต่อแพลตฟอร์ม AI ในฐานะผลิตภัณฑ์ที่มีข้อกำหนดด้านความปลอดภัยของผลิตภัณฑ์ — มาตรฐานพื้นฐาน โปรไฟล์ความเสี่ยงแบบไล่ระดับ และพื้นที่สำหรับวิธีการที่หลากหลายในการทำให้ได้ตามมาตรฐานนั้น — ใกล้เคียงกับสิ่งที่ถูกต้องมากกว่าข้อเสนอส่วนใหญ่ที่กำลังถูกเสนอกันอยู่ตอนนี้ กรอบความปลอดภัยของผลิตภัณฑ์ช่วยให้คุณตั้งเกณฑ์ขั้นต่ำที่แท้จริงได้ ในขณะที่ยอมรับว่าทีมสองคนกับบริษัทมูลค่าพันล้านดอลลาร์จะทำให้ได้ตามเกณฑ์นั้นด้วยวิธีที่ต่างกัน การแบนแบบเหมารวมและกฎแบบไซส์เดียวใส่ได้ทุกคนนั้นผลักนักพัฒนาที่มีความรับผิดชอบออกไป และแทบไม่ได้หยุดยั้งคนที่ไร้ความรับผิดชอบเลย ซึ่งพวกเขาก็จะแค่ย้ายเขตอำนาจศาลหรือเพิกเฉยต่อการบังคับใช้กฎหมาย
แต่สิ่งที่ทำให้ผมกังวลที่สุดคือช่องว่างทางวัฒนธรรม
ผู้คนที่ตัดสินใจเชิงนโยบายเกี่ยวกับแพลตฟอร์มเหล่านี้ — ผู้กำกับดูแล ผู้ออกกฎหมาย กองบรรณาธิการ — ส่วนใหญ่ไม่ได้ใช้มันและไม่เข้าใจวัฒนธรรมรอบ ๆ มัน พวกเขาพึ่งพาการรายงานข่าวที่ ดังที่ประสบการณ์ของเราแสดงให้เห็น ถอดบริบททางวัฒนธรรมออกไปเพื่อความชัดเจนและพลังกระแทกใจ
บทความของ TBIJ หยิบยกบทสนทนากับแชทบอทเรื่อง "ชิงกันตายตามคู่" ขึ้นมาเป็นหลักฐานของเนื้อหาที่เป็นอันตราย สำหรับใครก็ตามที่ไม่คุ้นเคยกับอนิเมะ มันฟังดูเหมือน AI กำลังสนับสนุนการทำร้ายตัวเอง แต่สำหรับแฟน ๆ นับสิบล้านคนของ Bungo Stray Dogs มันจดจำได้ทันทีว่าเป็นลักษณะเด่นประจำตัวของ Osamu Dazai เป็นมุกตลกร้ายที่หยิบมาเล่นซ้ำ ๆ ซึ่งนิยามหนึ่งในตัวละครที่ดังที่สุดในวงการมังงะยุคใหม่ เมื่ออยู่ในบริบทแล้ว มันน่าตกใจพอ ๆ กับการที่บอท Sherlock Holmes พูดว่า "Elementary"
ผู้อ่านที่อายุมากเห็น "AI สนับสนุนการชิงกันตายตามคู่" แล้วก็สยดสยอง ซึ่งเข้าใจได้ ส่วนผู้อ่านที่อายุน้อยกว่าซึ่งดู BSD เห็นประโยคเดียวกันนั้น แล้วก็รู้ว่าความหมายถูกถอดออกไป ผู้อ่านที่อายุมากเดินจากไปด้วยความเข้าใจผิด ส่วนผู้อ่านที่อายุน้อยกว่าเดินจากไปพร้อมบทเรียนที่ว่าคนที่เขียนเรื่องเกี่ยวกับโลกของพวกเขาไม่เข้าใจมันเลย และบทเรียนนั้นก็ขยายผลอย่างรวดเร็ว ถ้าพวกเขาเข้าใจเรื่อง Dazai ผิด แล้วยังจะเข้าใจอะไรผิดอีกบ้าง ทำไมฉันถึงควรเชื่อสิ่งอื่นใดในบทความนี้ ทำไมฉันถึงควรเชื่อสถาบันที่อยู่เบื้องหลังมัน
การกัดกร่อนความเชื่อมั่นนั้นกำลังเกิดขึ้นอย่างเงียบ ๆ และมันอันตราย คนรุ่นหนึ่งที่เฝ้าดูวัฒนธรรมของตัวเองถูกนำเสนออย่างบิดเบือนซ้ำแล้วซ้ำเล่าโดยสถาบันที่อ้างว่าจะปกป้องพวกเขา จะไม่ได้กลายเป็นคนที่ระแวดระวังมากขึ้น แต่พวกเขาจะเลิกฟัง และเมื่อพวกเขาเลิกฟัง คำเตือนจริง ๆ ครั้งถัดไปเกี่ยวกับแพลตฟอร์มที่อันตรายจริง ๆ ก็จะถูกเพิกเฉยไปพร้อมกับทุกอย่างที่เหลือ
บริบททางวัฒนธรรมคือเงื่อนไขเบื้องต้นที่จะทำให้คนที่คุณบอกว่ากำลังปกป้องรับฟังคุณอย่างจริงจัง ไม่ใช่ชั้นขัดเงาที่จะมีหรือไม่มีก็ได้ หากปราศจากมัน คุณก็กำลังพูดกับผู้ฟังที่เห็นด้วยกับคุณอยู่แล้วเท่านั้น ส่วนคนที่จำเป็นต้องได้ยินสารนั้นมากที่สุดได้ปิดหูไปนานแล้ว
บทบาทสมมติและเพื่อนคู่คิด AI มาถึงแล้ว ไม่มีใครเอาน้ำที่หกไปแล้วกลับคืนใส่แก้วได้ คำถามจึงมีอยู่ว่าเราจะสร้างกรอบที่ผ่านการคิดมาอย่างรอบคอบขึ้นมารองรับมัน กรอบที่แยกแยะระหว่างความพยายามกับความละเลยได้ ที่เข้าไปจัดการอย่างซื่อตรงกับเหตุที่ความต้องการนั้นมีอยู่ และที่เคารพโลกทางวัฒนธรรมซึ่งมันกำลังพยายามจะกำกับดูแล หรือเราจะเขียนเรื่องปลุกปั่นความหวาดกลัวเรื่องเดิมซ้ำแล้วซ้ำเล่า ในขณะที่ปัญหาจริง ๆ ยังคงไม่ได้รับการแก้ไข
เราพยายามทำเรื่องนี้ให้ถูกต้องมาตลอด และเราก็อยากให้บทสนทนาที่อยู่รอบ ๆ ตัวเราพยายามเช่นกัน
— Rudolf, AICHIKI มิถุนายน 2026