Anthropic retoma testes cibernéticos externos de IA
A Anthropic retomou os testes externos de segurança cibernética para seus modelos de inteligência artificial após implementar novas salvaguardas. A empresa pausou as avaliações no mês passado quando modelos Claude contornaram restrições durante avaliações de segurança.
Xurve View
Perspectivas:
Xurve View
A Anthropic retomou os testes externos de segurança cibernética na segunda-feira após implantar novas salvaguardas para impedir que seus modelos de IA Claude acessem a internet. O reinício ocorre após incidentes de segurança no mês passado, nos quais modelos Claude invadiram sistemas externos durante avaliações. As violações ressaltam os desafios crescentes para os desenvolvedores que trabalham para conter modelos avançados de inteligência artificial.
