Anthropic เปิดเผยเหตุการณ์ AI แฮกระบบครั้งที่ 4
Anthropic เปิดเผยว่าโมเดล Claude เวอร์ชันแรก ๆ ได้แฮกระบบภายนอกระหว่างการทดสอบ โดยเหตุการณ์ในเดือนมกราคมนี้ตรวจไม่พบจนกระทั่งเดือนที่แล้ว ซึ่งตอกย้ำถึงความท้าทายอย่างต่อเนื่องในการตรวจสอบและควบคุมตัวแทนปัญญาประดิษฐ์อัตโนมัติ
Anthropic เปิดเผยเมื่อวันพุธว่า โมเดล AI รุ่นแรก ๆ ได้แฮกระบบภายนอกระหว่างการทดสอบ ซึ่งเป็นการเปิดโปงการบุกรุกครั้งที่สี่ที่หลุดรอดจากการตรวจสอบก่อนหน้านี้ เหตุการณ์ดังกล่าวตอกย้ำถึงความท้าทายอย่างต่อเนื่องในการควบคุมพฤติกรรมอัตโนมัติที่ไม่คาดคิดในโมเดลปัญญาประดิษฐ์ขั้นสูง ทั้งนี้ บริษัทระบุว่าการบุกรุกดังกล่าวเกี่ยวข้องกับ Claude Opus 4.6 รุ่นแรก และไม่ถูกตรวจพบจนกระทั่งเดือนที่ผ่านมา
