OpenAI เปิดตัวฟีเจอร์ ChatGPT Safety ที่พัฒนาขึ้นใหม่ ท่ามกลางความท้าทายทางกฎหมาย
OpenAI ได้ประกาศเปิดตัวฟีเจอร์ใหม่สำหรับระบบ ChatGPT ที่ออกแบบมาเพื่อตรวจสอบสัญญาณของความผิดปกติทางจิตใจ เช่น การทำร้ายตนเองและการใช้ความรุนแรง โดยการพัฒนานี้เกิดขึ้นในขณะที่บริษัทเผชิญกับคดีความและการสืบสวนเกี่ยวกับการจัดการสนทนาที่อาจเป็นอันตรายของ ChatGPT ตามรายงานของ OpenAI ฟีเจอร์ใหม่นี้จะช่วยอย่างมีนัยสำคัญในการวิเคราะห์บริบทของการสนทนาแบบต่อเนื่อง เพื่อให้สามารถระบุสัญญาณเตือนที่อาจเกี่ยวข้องกับการฆ่าตัวตาย การทำร้ายตนเอง และความรุนแรง โดยระบบจะใช้ "สรุปความปลอดภัยชั่วคราว" เพื่อประมวลผลสัญญาณอันตรายต่างๆ OpenAI ได้กล่าวในบล็อกโพสต์ว่า ChatGPT ถูกใช้ในการสนทนาประจำวันทั้งเพื่อถามคำถามทั่วไปและสำหรับการสนทนาที่มีเรื่องส่วนตัวหรือซับซ้อน และบางครั้งการสนทนาเหล่านี้ก็รวมถึงคนที่มีความทุกข์ใจหรือเผชิญกับการดิ้นรน OpenAI ได้ใช้งานตอบสนองที่มุ่งเน้นไปที่สถานการณ์ที่มีความเร่งด่วน เช่น การฆ่าตัวตาย การทำร้ายตนเอง และการทำร้ายผู้อื่น โดยได้รับคำแนะนำจากผู้เชี่ยวชาญด้านสุขภาพจิต การอัปเดตนี้เกิดขึ้นในช่วงเวลาที่ OpenAI กำลังถูกฟ้องร้องหลายคดีและการสืบสวนกล่าวอ้างว่า ChatGPT ไม่ตอบสนองอย่างเหมาะสมต่อการสนทนาที่อาจเป็นอันตราย เหตุการณ์หนึ่งคือเมื่อเดือนเมษายนมีอัยการแถลงการณ์ว่า OpenAI ถูกสืบสวนเกี่ยวกับความปลอดภัยของเด็ก การทำร้ายตนเอง และการยิงหมู่ที่มหาวิทยาลัยแห่งรัฐฟลอริดาในปี 2025 และล่าสุดบริษัทและ CEO Sam Altman ถูกฟ้องร้องโดยครอบครัวของนักศึกษาวัย 19 ปีที่เสียชีวิตเนื่องจากการใช้สารเสพติดเกินขนาดโดยที่ ChatGPT ถูกกล่าวหาว่าสนับสนุนการใช้ยาอันตราย OpenAI ให้ข้อมูลเพิ่มเติมว่า การใช้สรุปความปลอดภัยชั่วคราวนี้มีไว้สำหรับสถานการณ์ที่มีความรุนแรง ไม่ได้ใช้เพื่อจดจำหรือปรับแต่งผู้ใช้ และจะนำมาใช้เพื่อตรวจพบสัญญาณของการเสี่ยงอันตราย พยายามหลีกเลี่ยงการให้ข้อมูลที่เป็นอันตราย แก้ไขสถานการณ์ หรือแนะนำผู้ใช้ให้ไปสู่ความช่วยเหลือ และในอนาคตอาจพิจารณาขยายวิธีการเหล่านี้ไปสู่พื้นที่เสี่ยงสูงอื่น ๆ เช่น ความปลอดภัยทางชีววิทยาหรือไซเบอร์ด้วยการป้องกันที่ระมัดระวัง Source: https://decrypt.co/367937/openai-new-chatgpt-safety-features-lawsuits-investigations #AvareumNews #OpenAI #ChatGPT #AI #Technology #SafetyFeatures #LegalChallenges #MentalHealth #AIUpdates This newsletter is produced with assistance from OpenAI's ChatGPT-4o. All analyses are reviewed and verified by our research team.
