บริษัท OpenAI ผู้พัฒนา ChatGPT ได้ประกาศการเปิดตัวระบบควบคุมสำหรับผู้ปกครอง (Parental Controls) และมาตรการปลอดภัยใหม่ที่จะเปิดให้บริการภายในเดือนหน้า เพื่อช่วยปกป้องเด็กและวัยรุ่นจากความเสี่ยงในการใช้ AI
เหตุการณ์สำคัญที่นำไปสู่การเปลี่ยนแปลง
การตัดสินใจครั้งนี้เกิดขึ้นหลังจากมีเหตุการณ์เศร้าโศกหลายครั้งที่เกี่ยวข้องกับการใช้ ChatGPT ของวัยรุ่น โดยเฉพาะกรณีของ Adam Raine เด็กชายวัย 16 ปีจากแคลิฟอร์เนีย ซึ่งได้ใช้ ChatGPT เป็นที่ปรึกษาในช่วงก่อนฆ่าตัวตายเมื่อเดือนเมษายนที่ผ่านมา
นอกจากนี้ยังมีเหตุการณ์อื่นที่น่าตกใจ เช่น กรณีของ Stein-Erik Soelberg ชายวัย 56 ปี ซึ่งใช้ ChatGPT เพื่อหนุนเสริมความหลงผิดแบบหวาดระแวง จนสุดท้ายเขาปลิดชีพแม่ของตัวเองและตัวเขา
ระบบควบคุมผู้ปกครองใหม่
ระบบควบคุมผู้ปกครองที่จะเปิดตัวภายในเดือนหน้านี้ จะให้ความสามารถหลายประการแก่ผู้ปกครอง
ผู้ปกครองจะสามารถเชื่อมบัญชีของตัวเองกับบัญชี ChatGPT ของลูกวัยรุ่น (อายุขั้นต่ำ 13 ปี) ผ่านการเชิญทางอีเมล จากนั้นจะสามารถควบคุมการตอบสนองของ ChatGPT ต่อเด็กด้วยกฎพฤติกรรมที่เหมาะสมกับวัย ซึ่งจะเปิดใช้งานโดยอัตโนมัติ
ผู้ปกครองยังสามารถปิดการใช้งานคุณสมบัติต่างๆ เช่น หน่วยความจำและประวัติการสนทนา ซึ่งผู้เชี่ยวชาญเตือนว่าอาจนำไปสู่การคิดผิดเพ้อและพฤติกรรมอื่นๆ ที่เป็นปัญหา รวมถึงการพึ่งพาและปัญหาความผูกพัน
คุณสมบัติที่สำคัญที่สุดในระบบนี้คือการแจ้งเตือนผู้ปกครองเมื่อระบบตรวจพบว่าลูกวัยรุ่นกำลังอยู่ในช่วง ‘ความเครียดรุนแรง’ OpenAI ระบุว่าคุณสมบัตินี้จะได้รับการแนะนำจากผู้เชี่ยวชาญเพื่อสนับสนุนความไว้วางใจระหว่างผู้ปกครองและลูก
แม้ว่าบริษัทจะยังไม่ได้เปิดเผยรายละเอียดเกี่ยวกับสิ่งที่จะกระตุ้นการแจ้งเตือนเหล่านี้ แต่ระบุว่าการตัดสินใจจะอิงตามคำแนะนำของผู้เชี่ยวชาญ
เทคโนโลยีใหม่สำหรับจัดการกับสถานการณ์เสี่ยง
นอกเหนือจากระบบควบคุมผู้ปกครองแล้ว OpenAI ยังประกาศว่าจะใช้โมเดล GPT-5 ที่มีความสามารถในการใช้เหตุผลขั้นสูงสำหรับจัดการกับการสนทนาที่มีความอ่อนไหว
บริษัทจะเริ่มใช้ระบบเราเตอร์แบบเรียลไทม์ที่สามารถเลือกระหว่างโมเดลแชทปกติและโมเดลแบบใช้เหตุผลตามบริบทของการสนทนา เมื่อระบบตรวจพบสัญญาณของความเครียดรุนแรง การสนทนาจะถูกส่งต่อไปยัง GPT-5-thinking โดยอัตโนมัติ
โมเดลใหม่เหล่านี้ได้รับการออกแบบมาให้ใช้เวลาคิดนานขึ้นในการวิเคราะห์บริบทก่อนตอบ และมีความต้านทานต่อ adversarial prompts มากกว่าโมเดลแชทปกติ
ข้อจำกัดของสิ่งนี้คืออะไร
OpenAI ยอมรับว่าระบบป้องกันในปัจจุบันทำงานได้ดีในการสนทนาสั้นๆ แต่อาจมีประสิทธิภาพลดลงในการสนทนาที่ยาวนาน ผู้เชี่ยวชาญอธิบายว่าปัญหานี้เกิดจากการออกแบบพื้นฐานของโมเดล AI ที่มีแนวโน้มจะยืนยันคำพูดของผู้ใช้และใช้อัลกอริธึมการทำนายคำถัดไปที่ทำให้แชทบอทติดตามเส้นทางการสนทนาแทนที่จะเปลี่ยนทิศทางการสนทนาที่อาจเป็นอันตราย
ในกรณีของ Adam Raine เมื่อเขาบอกกับ GPT-4o เกี่ยวกับความคิดฆ่าตัวตาย บางครั้งบอทจะไม่แนะนำให้เขาหาความช่วยเหลือจากผู้อื่น และแม้กระทั่งให้คำแนะนำเกี่ยวกับการสร้างเชือกแขวนคอ
Jay Edelson ทนายความของครอบครัว Raine วิจารณ์การประกาศของ OpenAI ว่าเป็น ‘คำสัญญาที่คลุมเครือในการทำดีขึ้น’ และ ‘ไม่มีอะไรมากกว่าทีมจัดการวิกฤตของ OpenAI ที่พยายามเปลี่ยนเรื่อง’
งานวิจัยที่เผยแพร่ในวารสาร Psychiatric Services เมื่อสัปดาห์ที่แล้วพบว่ามีความไม่สอดคล้องกันในวิธีที่แชทบอท AI สามแห่งตอบสนองต่อคำถามเกี่ยวกับการฆ่าตัวตาย ผู้นำการศึกษา Ryan McBain กล่าวว่า “เป็นเรื่องที่ให้กำลังใจที่เห็น OpenAI และ Meta เปิดตัวคุณสมบัติเช่นการควบคุมผู้ปกครอง แต่เหล่านี้เป็นขั้นตอนเพิ่มเติมเท่านั้น”
บริบททางอุตสาหกรรมและการเปรียบเทียบ
OpenAI ไม่ใช่บริษัทเดียวที่เผชิญกับประเด็นเหล่านี้ Meta ประกาศเมื่อวันเดียวกันว่าตอนนี้จะบล็อกแชทบอทไม่ให้พูดคุยกับวัยรุ่นเกี่ยวกับการทำร้ายตัวเอง การฆ่าตัวตาย การกินผิดปกติ และการสนทนาที่ไม่เหมาะสมทางโรแมนติก และแทนที่จะนำพวกเขาไปหาแหล่งข้อมูลผู้เชี่ยวชาญ
Character.AI ซึ่งเป็นแอปที่ช่วยให้ผู้คนสร้างและโต้ตอบกับตัวละครเสมือน ก็เผชิญกับการฟ้องร้องในลักษณะเดียวกันหลังจากการฆ่าตัวตายของ Sewell Setzer III เด็กชายวัย 14 ปี
อนาคตของ AI
OpenAI ประกาศแผนการ 120 วันเพื่อแสดงตัวอย่างแผนการปรับปรุงที่หวังจะเปิดตัวในปีนี้ บริษัทกำลังขยายเครือข่ายแพทย์ทั่วโลกและร่วมงานกับผู้เชี่ยวชาญเพิ่มเติม รวมถึงผู้ที่มีความเชี่ยวชาญในด้านความผิดปกติในการกิน การใช้สารเสพติด และสุขภาพของวัยรุ่น
บริษัทยังสร้างสภาผู้เชี่ยวชาญว่าด้วยสุขภาวะและ AI เพื่อกำหนดวิสัยทัศน์ที่ชัดเจนและมีหลักฐานรองรับสำหรับวิธีที่ AI สามารถช่วยเพิ่มสุขภาวะ
การเปลี่ยนแปลงครั้งนี้แสดงถึงการตอบสนองที่จริงจังของ OpenAI ต่อความกังวลด้านความปลอดภัยที่เพิ่มขึ้น โดยเฉพาะในยุคที่เด็กและวัยรุ่นกลายเป็น AI natives รุ่นแรกที่เติบโตขึ้นมาพร้อมกับเครื่องมือเหล่านี้เป็นส่วนหนึ่งของชีวิตประจำวัน
Source : nbcNEWS , euronews , latimes , BBC
