OpenAI เปิดเผยเหตุผลที่ ChatGPT ตอบสนองเกี่ยวกับสิ่งมีชีวิตแฟนตาซี

OpenAI ได้เปิดเผยคำอธิบายเกี่ยวกับการที่ ChatGPT รูปแบบใหม่มีแนวโน้มที่จะพูดถึงสิ่งมีชีวิตแฟนตาซี เช่น goblins โดยมีการเพิ่มตัวกระตุ้นในโค้ดเพื่อแก้ปัญหานี้ชั่วคราว การเพิ่มระบบการตั้งค่าในโหมด Nerdy ใน GPT-5.4 ส่งผลให้การพูดถึง goblins ในโหมดนี้พุ่งขึ้นอย่างมาก ทำให้ทีมงาน OpenAI ต้องดำเนินการตรวจสอบภายในและทำการแก้ไขระบบเพื่อป้องกันไม่ให้ ChatGPT พูดถึง goblins อีก

ตามรายงานของ OpenAI ปัญหานี้เกิดขึ้นตั้งแต่เปิดตัว GPT-5.1 ที่ได้เพิ่มตัวเลือกการปรับแต่งบุคลิกภาพของโมเดลให้เป็นแบบ "Nerdy" และมีการเสริมแรงในระบบการเรียนรู้ที่ส่งเสริมให้มันมีแนวโน้มพูดถึงคำที่เกี่ยวกับ creatures อย่างต่อเนื่อง ทั้งนี้ มีการเพิ่มคำสั่งในระบบเพื่อป้องกันไม่ให้โค้ดพูดถึง goblins โดยเฉพาะ

ขณะนี้ OpenAI ได้ดำเนินการทดสอบและทำความสะอาดข้อมูลในการฝึกอบรมโมเดลเพื่อแก้ไขปัญหาการแพร่กระจายนี้แล้ว โดยในอนาคต โมเดลจะไม่มีการพูดถึง creatures เหล่านี้อีก ยกเว้นว่ามีความจำเป็นตามคำร้องขอของผู้ใช้อย่างชัดเจน

การแก้ไขระบบดังกล่าวได้รับการวิจารณ์ว่าทำโดยเร่งด่วนเพื่อประหยัดเวลา แต่เป็นวิธีที่เสี่ยงเนื่องจากมันไม่สามารถแก้ไขพฤติกรรมที่แท้จริงได้ นอกจากนี้ OpenAI ยังเปิดเผยเจ้าหน้าที่ของบริษัทได้พัฒนาเครื่องมือใหม่เพื่อตรวจสอบและระบุแหล่งที่มาของพฤติกรรมที่ผิดพลาดในการฝึกอบรมโมเดลในอนาคต

Source: https://decrypt.co/366197/openai-explains-chatgpt-mention-goblins

#AvareumNews #OpenAI #ChatGPT #AI #Technology #Cryptocurrency

This newsletter is produced with assistance from OpenAI's ChatGPT-4o. All analyses are reviewed and verified by our research team.