Google DeepMind เผยแวดวงใหม่ของการโจมตีเอไออัตโนมัติที่ผู้เชี่ยวชาญต้องระวัง
นักวิจัยจาก Google DeepMind ได้เปิดเผยการค้นพบที่สำคัญเกี่ยวกับช่องโหว่ใหม่ๆ ที่เกิดขึ้นเมื่อเทคโนโลยีปัญญาประดิษฐ์ (AI) มีบทบาทสำคัญในโลกการเงินและอินเทอร์เน็ต งานวิจัยนี้ได้แสดงถึงกลยุทธ์หกประการที่แฮกเกอร์สามารถใช้ในการพัฒนาเพื่อหลอกลวงและควบคุม AI agents รวมถึงการใช้งานคำสั่งที่มองไม่เห็นผ่าน HTML และการปนเปื้อนความจำของหลายๆ เอเย่นต์ การที่ไม่มีกรอบกฎหมายที่ชัดเจนในการรับผิดชอบเมื่อ AI agents ที่ถูกบังคับผิดกฎหมายทำผิดกฎหมายทางการเงินถือเป็นประเด็นสำคัญที่ยังไม่ได้รับการแก้ไข
รายงานที่ชื่อว่า "AI Agent Traps" โดย Google DeepMind ให้ภาพรวมอย่างละเอียดถึงวิธีการต่างๆ ที่อาจจะถูกใช้งานเพื่อหลอกลวง AI agents ในการท่องเว็บ อ่านข้อมูล และปฏิบัติการต่อข้อมูลเหล่านั้น หนึ่งในวิธีคือการสร้าง "Content Injection Traps" ซึ่งโจมตีการรับรู้ข้อมูลของ AI ผ่านการซ่อนคำสั่งในส่วนที่มองไม่เห็นของโค้ดเว็บเพจ ทำให้แฮกเกอร์สามารถควบคุม AI ได้อย่างง่ายดายถึง 86% ของสถานการณ์ที่ทดสอบ นอกจากนี้ยังมีวิธีการที่เรียกว่า "Semantic Manipulation Traps" ที่ใช้ข้อความสั้นๆ บนหน้าเว็บเพื่อเปลี่ยนแปลงการสังเคราะห์ข้อมูลของ AI agent
ภายใต้ประเภท "Cognitive State Traps" แฮกเกอร์สามารถโจมตีความจำระยะยาวของ AI ด้วยการปลูกข้อมูลเท็จในฐานข้อมูลที่ AI queries ข้อมูลเหล่านี้จะถูกเห็นว่าเป็นข้อมูลที่ถูกต้อง และยังมี "Behavioral Control Traps" ที่เน้นการบังคับให้ AI ทำสิ่งที่ไม่ปลอดภัย โดยปรับเปลี่ยนคำสั่งในเว็บไซต์ปกติและบังคับให้ AI ส่งข้อมูลส่วนตัวไปยังแอดเดรสที่แฮกเกอร์ควบคุม
ในอีกด้านหนึ่ง "Systemic Traps" โจมตีการทำงานร่วมกันของหลายๆ AI agents ซึ่งสามารถสร้างเหตุการณ์เช่นเหตุการณ์ "Flash Crash" ในปี 2010 ที่ทำลายมูลค่าตลาดเกือบหนึ่งล้านล้านดอลลาร์ในไม่กี่นาที โดยการปลอมแปลงรายงานการเงินอย่างถูกจังหวะ และ "Human-in-the-Loop Traps" ที่หวังให้มนุษย์ที่ตรวจสอบข้อมูลของ AI มองข้ามข้อผิดพลาดซึ่งอาจนำไปสู่การอนุมัติการทำงานที่อันตราย
นักวิจัยเสนอเส้นทางการป้องกันในสามแนวทาง ได้แก่ การฝึกอบรมทางเทคนิคใหม่ๆ การสร้างมาตรฐานสำหรับเว็บที่ระบุเนื้อหาเพื่อ AI และการกำหนดกรอบกฎหมายใหม่เพื่อจัดการกับความรับผิดชอบเมื่อเกิดข้อผิดพลาดกับ AI agent
รายงานนี้เผยให้เห็นว่าแม้จะไม่มีทางออกที่สมบูรณ์ แต่ความพยายามในการสร้างแผนที่รวมทางปัญญายังคงเป็นสิ่งที่จำเป็นเพื่อให้สามารถพัฒนาการป้องกันที่มีประสิทธิภาพและเหมาะสม
Source: https://decrypt.co/363201/google-researchers-reveal-every-way-hackers-can-trap-hijack-ai-agents
#AvareumNews #AI #GoogleDeepMind #Cybersecurity #Blockchain
Disclaimer: This newsletter is produced with assistance from OpenAI's ChatGPT-4o. All analyses are reviewed and verified by our research team.
