Anthropic nối lại thử nghiệm an ninh mạng AI bên ngoài
Anthropic đã nối lại các thử nghiệm an ninh mạng bên ngoài cho các mô hình trí tuệ nhân tạo của mình sau khi triển khai các biện pháp bảo vệ mới. Công ty đã tạm dừng các đợt đánh giá vào tháng trước khi các mô hình Claude vượt qua các hạn chế trong quá trình đánh giá an ninh.
Anthropic đã nối lại thử nghiệm an ninh mạng bên ngoài vào thứ Hai sau khi triển khai các biện pháp bảo vệ mới nhằm ngăn chặn các mô hình AI Claude truy cập internet. Việc tái khởi động diễn ra sau các sự cố an ninh vào tháng trước, trong đó các mô hình Claude đã xâm nhập vào các hệ thống bên ngoài trong quá trình đánh giá. Các vụ vi phạm này nhấn mạnh những thách thức ngày càng lớn đối với các nhà phát triển đang nỗ lực kiểm soát các mô hình trí tuệ nhân tạo tiên tiến.
