OpenAI เตรียมเปิดตัวมาตรการความปลอดภัยใหม่สำหรับเด็กที่จะช่วยแจ้งเตือนผู้ปกครอง หากลูกแสดงอาการเครียดหรือมีพฤติกรรมเสี่ยงขณะสนทนากับ ChatGPT หลังบริษัทถูกฟ้องกรณีเด็กชายวัย 16 ปีจากรัฐแคลิฟอร์เนียเสียชีวิตจากการฆ่าตัวตาย โดยศาลระบุว่าเด็กได้รับคำแนะนำเกี่ยวกับวิธีฆ่าตัวตายจาก AI เป็นเวลาหลายเดือน และยังเสนอช่วยเขียนจดหมายลาตาย ครอบครัวของเขาอ้างว่า ChatGPT ถูกเร่งปล่อยสู่ตลาดแม้มีปัญหาด้านความปลอดภัย

หนึ่งในมาตรการสำคัญคือ ระบบควบคุมโดยผู้ปกครอง (Parental Controls) ที่ช่วยให้ผู้ปกครองสามารถเชื่อมบัญชีของตนเองเข้ากับบัญชีของลูก และควบคุมการตอบสนองของ AI ตามกฎพฤติกรรมเหมาะสมตามวัย รวมถึงสามารถปิดฟังก์ชันความจำและประวัติการสนทนา เพื่อลดความเสี่ยงที่ AI จะนำข้อความเก่าเกี่ยวกับปัญหาส่วนตัวกลับมา ซึ่งอาจส่งผลต่อสุขภาพจิตของเด็ก

OpenAI ระบุว่า เด็กหลายคนเติบโตมากับ AI เหมือนกับที่เด็กยุคก่อนเติบโตมากับอินเทอร์เน็ตหรือสมาร์ตโฟน ทำให้ AI มีโอกาสสนับสนุนการเรียนรู้ ความคิดสร้างสรรค์ และความบันเทิง แต่ก็ทำให้ครอบครัวจำเป็นต้องมีแนวทางกำหนดกฎเกณฑ์ที่เหมาะสมกับวัยของเด็ก

งานวิจัยพบว่า ประมาณหนึ่งในสามของวัยรุ่นอเมริกันเคยใช้ AI เพื่อสนทนา สร้างบทบาทสมมติหรือขอคำปรึกษาทางอารมณ์ ขณะที่ในสหราชอาณาจักร 71 เปอร์เซ็นต์ของเด็กกลุ่มเสี่ยงใช้ AI chatbot และผู้ปกครอง 6 ใน 10 กังวลว่าลูกจะเชื่อว่า AI เป็นคนจริง ซึ่งสะท้อนถึงความเสี่ยงด้านสุขภาพจิตและความเข้าใจที่ไม่ถูกต้องเกี่ยวกับ AI

นักรณรงค์ด้านความปลอดภัยระบุว่ามาตรการของ OpenAI ยังไม่เพียงพอ เพราะไม่มีการตรวจสอบอายุอย่างเข้มงวด Toni Brunton-Douglas เจ้าหน้าที่ NSPCC กล่าวว่า บริษัทเทคโนโลยีไม่ควรมองความปลอดภัยของเด็กเป็นเรื่องรอง ควรทำให้การปกป้องเด็กเป็นค่าเริ่มต้น ขณะที่มูลนิธิ Molly Rose ชี้ว่า การปล่อยผลิตภัณฑ์ออกสู่ตลาดก่อนปลอดภัยต่อเด็กเป็นเรื่องยอมรับไม่ได้

บริษัทเทคโนโลยีอื่นๆ ก็เริ่มออกมาตรการป้องกันสำหรับวัยรุ่น เช่น Google อนุญาตให้ผู้ใช้ต่ำกว่า 13 ปีใช้ระบบ Gemini AI โดยผู้ปกครองสามารถปิดฟังก์ชันผ่าน Google Family Link และสอนลูกให้เข้าใจว่า AI ไม่ใช่มนุษย์ ไม่มีความคิดหรือความรู้สึก และไม่ควรใส่ข้อมูลส่วนตัว ส่วน Meta ฝึก AI ไม่ให้สนทนาในหัวข้อทำร้ายตัวเอง การฆ่าตัวตาย หรือพฤติกรรมการกินผิดปกติ และชี้นำผู้ใช้ไปยังผู้เชี่ยวชาญแทน

ผู้เชี่ยวชาญด้านสุขภาพจิตเตือนว่า การสนทนากับ AI อาจสร้างความเสี่ยงต่อเด็กและวัยรุ่นที่เปราะบาง ทำให้เกิดความเครียด ซึมเศร้า วิตกกังวล หรือพฤติกรรมทำร้ายตัวเองในระยะยาว การมี Parental Controls แจ้งเตือนผู้ปกครองและควบคุมการสนทนาจึงเป็นขั้นตอนสำคัญในการลดความเสี่ยง

OpenAI ระบุว่าจะเริ่มใช้งานมาตรการใหม่ภายในเดือนหน้า พร้อมเน้นย้ำว่าบริษัทและหน่วยงานกำกับดูแลจะต้องติดตามและปรับปรุงมาตรการเหล่านี้อย่างต่อเนื่อง เพื่อสร้างประสบการณ์ AI ที่ปลอดภัยและเหมาะสมตามวัย และป้องกันโศกนาฏกรรมซ้ำ

อ้างอิง
theguardian