AI Swarms: ความท้าทายใหม่ของ misinformation และ manipulation บนออนไลน์

ผลการวิจัยเกี่ยวกับ Swarm ของ AI และการบิดเบือนข้อมูลออนไลน์

การวิจัยที่เผยแพร่ใน Science ได้เตือนถึงการพัฒนา Swarm ของ AI ซึ่งอาจจะส่งผลต่อการบิดเบือนข้อมูลออนไลน์และทำให้ยากในการตรวจจับมากขึ้นเมื่อเทียบกับ Botnets ดั้งเดิม Swarm เหล่านี้ถูกออกแบบมาให้สามารถปรับตัวอย่างรวดเร็วและใช้การดูแลจากมนุษย์น้อยที่สุด ทำให้เสี่ยงต่อการใช้เพื่อแสดงความคิดเห็นที่ไม่ถูกต้องหรือการบิดเบือนข้อมูล หนึ่งในคณะนักวิจัยจากมหาวิทยาลัย Oxford, Cambridge, UC Berkeley, NYU และสถาบัน Max Planck ชี้ให้เห็นว่าเทคโนโลยีเหล่านี้สามารถใช้เพื่อกระจายข่าวปลอมและสร้างความขัดแย้งในสังคมในช่วงเวลาที่ยาวนาน

Swarm ของ AI คือกลุ่มของตัวแทน AI อิสระที่ทำงานร่วมกันเพื่อแก้ปัญหาหรือบรรลุเป้าหมายที่มีประสิทธิภาพ ระบบใหม่นี้ถูกออกแบบให้ทำงานในแพลตฟอร์มที่ปกป้องมุมมองฝ่ายต่าง ๆ อย่างมีประสิทธิภาพ ผลการวิจัยยังระบุว่าแพลตฟอร์มสื่อสังคมต้องพัฒนาเครื่องมือในการตรวจจับอย่างทันสมัยเพื่อระงับอิทธิพลที่เกิดจาก Swarm แต่การใช้มาตรการเดียวไม่เพียงพอ

ตามที่ Sean Ren, ศาสตราจารย์คณะวิทยาการคอมพิวเตอร์จากมหาวิทยาลัย California และ CEO ของ Sahara AI ได้ให้ความเห็นว่า KYC หรือการยืนยันตัวตนของบัญชีที่เข้มแข็งกว่าเดิมจะช่วยลดการสร้างบัญชีที่ไม่พึงประสงค์ “ถ้ามีการยืนยันตัวตนที่เข้มงวดขึ้น ก็จะรวมถึงการใช้ Swarm อย่างจำกัดและลดการใช้บัญชีปลอมในปริมาณใหญ่” Ren กล่าว

ผลกระทบจาก Swarm ของ AI ต่อการบิดเบือนข้อมูลออนไลน์อาจมีผลกระทบทางสังคมที่กว้างขวาง ถ้ามีการใช้ในระดับรัฐบาลเพื่อระงับความคิดเห็นที่แตกต่าง หรือสนับสนุนผู้อยู่ในตำแหน่ง การอนุญาตให้ใช้ AI เหล่านี้ในเชิงป้องกันจะต้องอยู่ภายใต้กรอบที่โปร่งใสและเป็นประชาธิปไตย

ในตอนท้าย การวิจัยชี้ให้เห็นว่าต้องมีนโยบายในการจัดการที่มีประสิทธิภาพเพื่อควบคุมการใช้ Swarm ในทางที่ไม่เหมาะสมและพัฒนาแนวทางเทคนิคและการบริหารที่มีความยืดหยุ่นเพื่อตรวจจับและป้องกันอิทธิพลเหล่านี้

Source: https://decrypt.co/355800/ai-swarms-escalate-online-misinformation-manipulation-researchers-warn

Tags:

• #AvareumNews
• #AI
• #Technology
• #Misinformation
• #CyberSecurity
• #SocialMedia
• #DataPrivacy

Disclaimer: This newsletter is produced with assistance from OpenAI's ChatGPT-4. All analyses are reviewed and verified by our research team.