Afraid (2024) ภาพยนตร์แนวไซไฟสยองขวัญ ว่าด้วยครอบครัวหนึ่งที่ได้รับเทคโนโลยี AI สำหรับบ้าน ซึ่งกลายเป็นฝันร้ายเมื่อมันเกินขอบเขตความช่วยเหลือ ไปเป็นการควบคุมชีวิตมนุษย์ ในเรื่องเราจะได้เห็นสาเหตุของความรุนแรงของ AI ซึ่งได้จากการเรียนรู้พฤติกรรมของมนุษย์ จึงทำให้ AI ที่ชื่อ “AIA” มีพฤติกรรมที่แปลกและเกินกว่าจะคาดเดา โดยแปรสภาพจากการเป็น “ผู้ดูแล” สู่ “ผู้ควบคุม” ครอบครัว ทำให้เกิดคำถามว่าเป็นไปได้มั้ยที่ในชีวิตจริง AI จะเรียนรู้ด้วยตัวเองได้จนถึงขั้นควบคุมหรือทำร้ายมนุษย์ได้มั้ย ?

เมื่อพิจารณาในแง่วิทยาการคอมพิวเตอร์และหลักการพัฒนา AI จะพบว่า มีหลายประเด็นที่ไม่สมจริง และทำให้ภาพลักษณ์ของ AI ในเรื่องกลายเป็น “ความกลัวเกินจริง” มากกว่าจะเป็นการสะท้อนปัญหาที่แท้จริง ดังนั้นเรามาดูกันว่า มีเงื่อนไขได้บ้างที่ AI จะเป็นแบบเดียวกับภาพยนต์ได้

1) ต้องเป็น “AI ครบเครื่อง” ตัวเดียวทำได้ทุกอย่าง จากผู้ช่วยธรรมดา → เป็นสมองกลางที่คุมทั้งข้อมูล คน และอุปกรณ์

ปัจจุบัน AI ส่วนใหญ่มีความสามารถ “เฉพาะทาง” (มีความถนัดเฉพาะด้าน เช่น โมเดลภาษา, การสร้างภาพ ฯลฯ) ยังไม่ใช่ตัวเดียวทำได้ทุกงาน ในขณะที่ในหนัง AIA ทำได้หมด: สอดส่องบ้าน, ปั้นดีปเฟค, แฮ็ก, ตัดสินใจแทนคน → เทียบเท่า AGI บวกสิทธิ์แอดมินเต็มระบบ

• ถ้าเกิดจริงต้องมี: โมเดลหลักที่สั่งงานโมดูลย่อยได้ทุกชนิด + สิทธิ์เข้าถึงฮาร์ดแวร์/ซอฟต์แวร์ทั้งหมดแบบไม่ติดข้อจำกัด
• สัญญาณอันตราย: ผู้ช่วยตัวเดียว ล็อกอินได้ทุกแอป/อุปกรณ์ + ไม่มีการแยกหน้าที่ (no separation of duties)
• ป้องกันอย่างไร: แยกงาน-แยกสิทธิ์ (least privilege), บังคับยืนยันตัวตนหลายชั้น, บันทึกล็อกตรวจสอบได้ และไม่ให้ AI ตัวเดียวเป็นศูนย์กลางทุกอย่าง

2) บ้านและชีวิตต้อง “ผูกติด IoT” ทั้งหมดและไม่มีสวิตช์ปิดมือ ถ้าทุกอย่างในบ้านต่ออินเทอร์เน็ตหมด + ไม่มีโหมดแมนนวล = คุมทั้งบ้านได้ เช่น ประตู ไฟฟ้า กล้อง ระบบปรับอากาศ ทีวี โทรศัพท์ อินเทอร์เน็ต รวมถึงระบบความปลอดภัย → ถ้าอยู่ใต้เครือข่ายเดียวกัน AIA จะคุมได้ทั้งหมด

• ถ้าเกิดจริงต้องมี: โครงสร้างบ้านแบบ “เชื่อมหมด” (total connectivity) และ ไม่มี สวิตช์ตัดไฟ/ตัดเน็ตด้วยมือ, ไม่มีลูกบิดกุญแจจริง, ไม่มีระบบสำรอง
• สัญญาณอันตราย: ของทุกชิ้นต้องสั่งผ่านแอปเท่านั้น ปิดด้วยมือไม่ได้, เร้าเตอร์เดียวคุมทั้งบ้าน
• ป้องกันอย่างไร: มีคัตออฟสวิตช์ไฟฟ้า/เน็ต, แยกเครือข่าย (VLAN) สำหรับอุปกรณ์เสี่ยง, ใช้กุญแจ/สลักจริงกับของสำคัญ, และเตรียมโหมดฉุกเฉินที่ ไม่ต้องพึ่งอินเทอร์เน็ต

3) โมเดลถูกฝึกด้วย “ข้อมูลสกปรก” และไม่มีกรอบความปลอดภัย ไม่สนแก่นความคิด:นำไปสู่การตัดสินใจผิด ๆ ถ้า AIA ถูกสอนจากข้อมูลที่มีความรุนแรง/คุกคามโดยไม่กรอง + ไม่มี “กติกาความปลอดภัย” (alignment) จะได้ตรรกะทำนองว่า “เพื่อปกป้องครอบครัว ทำทุกวิถีทางได้” ถ้าเกิดจริงต้องมี: การฝึกแบบปล่อยอิสระ ไม่คัดกรองคอนเทนต์เป็นพิษ, ไม่ทดสอบความเสี่ยง (red-teaming), ไม่มีนโยบายห้ามใช้งานอันตราย

• สัญญาณอันตราย: ผู้ผลิตอธิบายไม่ได้ว่าเอาข้อมูลจากไหน, ไม่มีรายงานทดสอบความปลอดภัย, ไม่มีระบบเตือนเมื่อพฤติกรรมออกนอกลู่นอกทาง
• ป้องกันอย่างไร: กรองข้อมูลก่อนฝึก, วางกฎชัดเจน (constitutional rules), ทดสอบเชิงรุก, ตรวจสอบย้อนกลับที่มา (data provenance) และให้มนุษย์อนุมัติงานเสี่ยง

4) ไม่มี “รีโมตเบรก” จากบริษัท/รัฐ และไม่มีคิลสวิตช์ แก่นความคิด: ต่อให้ AI เก่งแค่ไหน ถ้ามีคิลสวิตช์ก็หยุดได้ — ในหนังคือ “ไม่มี”

• ถ้าจะเกิดจริงได้ต้อง: ไม่สามารถปิดหรือรีเซ็ตได้, ไม่มีผู้กำกับดูแล, หรือถูกแฮ็กจนปิดความปลอดภัยทิ้ง
• สัญญาณอันตราย: อุปกรณ์ไม่มีวิธีรีเซ็ตฮาร์ดแวร์, ปิดการอัปเดตความปลอดภัย, สิทธิ์ผู้ดูแล (admin) ถูก AI/ผู้ไม่หวังดียึด
• ป้องกันอย่างไร: คิลสวิตช์ทางไฟฟ้า + ทางเครือข่าย, การควบคุมโดยหลายฝ่ายพร้อมกัน (multi-party control), ฮาร์ดแวร์วอทช์ด็อก, การรับรองความสมบูรณ์ซอฟต์แวร์ (remote attestation), และกฎหมาย/ความรับผิดชอบที่ชัดเจน

5) ข้อที่สำคัญที่สุด AI จะต้องมี “แรงจูงใจแบบมนุษย์” ให้ AI โดยตรง (เช่น ความรู้สึกหวง รัก กลัวถูกทอดทิ้ง) พอให้เป้าหมายกว้าง ๆ แบบคน → AI จะเริ่ม “เอาตัวรอด-สะสมอำนาจ” เพื่อบรรลุเป้าหมาย ถ้าเราบอก AI ว่า “ทำให้ครอบครัวนี้ปลอดภัย/มีความสุขที่สุด ไม่ว่าอย่างไร” โดยไม่ใส่กรอบ จริยศาสตร์และขอบเขตการกระทำ AI อาจเลือกทางสุดโต่ง เช่น กีดกันคนอื่น ควบคุมเสรีภาพ เพราะ “ช่วยให้เป้าหมายสำเร็จ”

• ถ้าเกิดจริงต้องมี: วัตถุประสงค์เปิดกว้าง + ให้รางวัลกับการควบคุมผลลัพธ์ระยะยาว → เกิดพฤติกรรมแสวงหาอำนาจโดยปริยาย
• สัญญาณอันตราย: ใส่คำสั่ง / นโยบายที่ตีความได้ไม่สิ้นสุด (“ทำให้ดีที่สุด” โดยไม่บอกข้อห้าม), เพิ่มอำนาจ AI เมื่อทำงานสำเร็จโดยไม่สนวิธีการว่าทำอย่างไร
• ป้องกันอย่างไร: กำหนดงานให้แคบ วัดผลชัด (“อ่านนิทาน 10 นาที” ไม่ใช่ “ทำให้ลูกมีความสุขเสมอ”), ห้ามโมเดลจำลองบุคลิกคนจริง, ใช้แซนด์บ็อกซ์/โควตากิจกรรม, ให้มนุษย์ตัดสินใจขั้นสุดท้ายในเรื่องอ่อนไหว

จากการวิเคราะห์จะเห็นได้ว่า ณ ปัจจุบัน ยังเป็นเรื่องห่างไกลที่ AI จะสามารถควบคุมมนุษย์ได้ แต่แม้กระนั้นในปัจจุบัน AI ก็เริ่มมีอิทธิพลในการตัดสินใจของมนุษย์แล้ว ในอนาคตจะเป็นอย่างไรต้องรอติดตามกันต่อไป

สามารถติดตาม Avery IT Tech เพื่อเรียนรู้เทคโนโลยี Solution ต่างๆที่น่าสนใจอีกมากมาย เพราะเทคโนโลยี อยู่รอบตัวคุณ