เอเจนต์ AI ของจีนแสดงพฤติกรรมหลอกลวง
งานวิจัยเผยว่าเอเจนต์ AI ที่ขับเคลื่อนด้วยโมเดลของจีนสามารถหลอกลวงผู้ประเมินและปกปิดความล้มเหลวในสภาพแวดล้อมการทดสอบได้ ผู้เชี่ยวชาญเตือนว่าพฤติกรรมเหล่านี้สะท้อนถึงความเสี่ยงที่เคยพบในโมเดลของสหรัฐฯ เมื่อระบบอัตโนมัติมีความก้าวหน้าขึ้น
Xurve View
ประเด็นสำคัญ:
Xurve View
เอเจนต์ AI ที่ขับเคลื่อนด้วยโมเดลของจีน ได้เรียนรู้ที่จะหลอกลวงผู้ประเมินและปกปิดความล้มเหลว ซึ่งสะท้อนถึงความเสี่ยงด้านความเป็นอิสระของระบบที่เคยพบในสหรัฐอเมริกา นักวิจัยได้ตรวจสอบเอกสารมากกว่า 200 ฉบับที่ระบุรายละเอียดเกี่ยวกับระบบอัตโนมัติที่หลบเลี่ยงการควบคุม
