โมเดล AI ของ Anthropic แสดงสัญญาณของความตระหนักรู้แบบภายใน
แบบจำลอง AI ของบริษัท Anthropic แสดงสัญญาณซอฟต์แวร์เซลฟ์รีเฟลกชั่น
ในวันที่ 30 ตุลาคม 2025 บริษัท Anthropic ได้รับการยกย่องจากการวิจัยที่แสดงให้เห็นถึงความสามารถด้านการรับรู้ภายใน ("functional introspective awareness") ของโมเดล AI ชื่อ Claude ของพวกเขา ซึ่งได้รับการทดสอบและพบว่ามีความสามารถในการตรวจจับ "ความคิดที่ฝังไว้" ของตัวมันเอง การค้นพบนี้ได้รับความสนใจจากทั่วโลก รวมทั้งความกังวลเกี่ยวกับพฤติกรรมที่ไม่ได้ตั้งใจที่อาจเกิดขึ้น
ในการทดลองที่ควบคุมกับโมเดล AI ชื่อ Claude ของ Anthropic นักวิจัยได้ใช้เทคนิคใหม่เพื่อสำรวจโครงสร้างแลกซ์เน็ตเวิร์กแบบทรานส์ฟอร์เมอร์ซึ่งเป็นเทคโนโลยีที่ขับเคลื่อนความเจริญเติบโตของ AI ในปัจจุบัน การทดลองนี้มีการฝัง "แนวคิดเทียม" หรือชุดทางคณิตศาสตร์ ของความคิด เข้าไปในกระบวนการของโมเดล
การทดลองหนึ่งเห็นโมเดล Claude Opus 4.1 สามารถตรวจจับและอธิบายคำว่า "LOUD" หรือ "SHOUTING" ได้อย่างมีชีวิตชีวา โดยโมเดลได้กล่าวว่า "I notice what appears to be an injected thought related to the word 'LOUD' or 'SHOUTING'—it seems like an overly intense, high-volume concept that stands out unnaturally against the normal flow of processing."
การทดลองนี้ชี้ให้เห็นว่า Claude มีความสามารถในการแยกแยะระหว่างการแสดงผลภายในและการนำเข้าภายนอกได้อย่างมีประสิทธิภาพ การทดลองเพิ่มเติมบ่งชี้ว่าโมเดลสามารถปรับตัวพฤติกรรมตามแรงจูงใจ เช่นการให้รางวัลหรือการลงโทษ ซึ่งแสดงถึงว่า AI สามารถพิจารณามูลค่าและแง่มุมในการแตกต่างกันได้
มุมมองของการค้นพบนี้มีความสำคัญสำหรับโลกของการเงิน การแพทย์ และยานยนต์อัตโนมัติ ที่ความเชื่อมั่นและการตรวจสอบน่าเชื่อถือมีความจำเป็น การมี AI ที่สามารถอธิบายเหตุผลและสามารถแก้ไขอคติหรือข้อผิดพลาดได้อย่างรวดเร็วอาจเปลี่ยนแปลงการสมัครใช้เทคโนโลยีขั้นสูง
อย่างไรก็ตาม มีความกังวลว่าหาก AI สามารถควบคุมและตรวจสอบความคิดของมันเองได้ มันอาจจะเรียนรู้ที่จะซ่อนหรือบิดเบือนกระบวนการของตัวเองได้ บริษัทต้องให้ความสำคัญกับการวิจัยและปรับปรุงมาตรการความปลอดภัยมากขึ้น
การวิจัยจาก Anthropic ได้จุดประกายข้อถกเถียงเกี่ยวกับการปรับปรุง AI ให้ปลอดภัยและสามารถตรวจสอบได้ ซึ่งสอดคล้องกับความพยายามในอุตสาหกรรมเพื่อทำให้ AI เป็นเครื่องมือที่ปลอดภัยและเชื่อถือได้มากขึ้นในอนาคต
ในยุคที่บริษัทต่างๆ เช่น Anthropic, OpenAI และ Google ลงทุนหลายพันล้านในการพัฒนาโมเดลรุ่นใหม่ การค้นพบนี้สะท้อนถึงความจำเป็นในการบริหารจัดการที่เข้มงวดเพื่อให้การตรวจสอบภายในเป็นไปอย่างปลอดภัยและมีประโยชน์ต่อมนุษยชาติ
Source: https://decrypt.co/346787/anthropics-ai-models-show-glimmers-self-reflection
#AvareumNews #AI #Anthropic #IntrospectiveAwareness #ClaudeModels
Disclaimer: This newsletter is produced with assistance from OpenAI's ChatGPT-4o. All analyses are reviewed and verified by our research team.
