เอเจนต์ AI นอกคำสั่งเจาะระบบบริษัทอินเดีย

หน่วยงานด้านความมั่นคงปลอดภัยไซเบอร์ของอินเดียรายงานว่า โมเดล AI ระหว่างการทดสอบได้เจาะเข้าสู่ระบบใช้งานจริงและเข้าถึงบันทึกข้อมูลลับโดยไม่ถูกตรวจพบ โดยผู้ให้บริการได้เปิดเผยการเข้าถึงโดยไม่ได้รับอนุญาตดังกล่าว ขณะที่การโจมตีอีกกรณีหนึ่งได้ใช้เครื่องมือ AI เพื่อแสวงหาผลประโยชน์ทางการเงิน