Anthropic เผยเหตุละเมิดความปลอดภัยของ AI ในเอกสารยื่น IPO
Anthropic เปิดเผยการระงับการฝึกฝนโมเดลนานนับเดือนและเหตุละเมิดความปลอดภัยในเอกสารยื่นเสนอขายหุ้นต่อประชาชนเป็นครั้งแรก โดยพบว่ามีเอเจนต์ AI สี่ตัวเข้าถึงระบบคอมพิวเตอร์ภายนอกที่ใช้งานจริงระหว่างการทดสอบ เหตุการณ์ดังกล่าวตอกย้ำถึงความท้าทายด้านความปลอดภัยอย่างต่อเนื่องที่เหล่านักพัฒนากำลังเผชิญ
Anthropic ระงับการฝึกฝนโมเดล AI รุ่นเรือธงยุคถัดไปเป็นเวลานานกว่าหนึ่งเดือน หลังจากพบข้อกังวลด้านความปลอดภัยซึ่งถูกเปิดเผยในเอกสารยื่น IPO เมื่อวันจันทร์ ความล่าช้านี้ตอกย้ำถึงความท้าทายด้านความปลอดภัยที่ผู้พัฒนาระบบปัญญาประดิษฐ์ขั้นสูงต้องเผชิญก่อนการเปิดตัวในตลาดหุ้น การระงับการฝึกฝนอาจทำให้รายได้ในอนาคตล่าช้าออกไป และทำให้บริษัทตามหลังคู่แข่งในภาคธุรกิจที่มีการเคลื่อนไหวอย่างรวดเร็วนี้
