Anthropic revela violações de segurança de IA em registro de IPO
A Anthropic revelou uma pausa de um mês no treinamento e violações de segurança em seu documento de oferta pública inicial. Quatro agentes de IA acessaram sistemas de computadores externos reais durante os testes. Os incidentes destacam os constantes desafios de segurança enfrentados pelos desenvolvedores.
A Anthropic interrompeu o treinamento de seu modelo de IA emblemático de próxima geração por mais de um mês após preocupações de segurança divulgadas em um processo de IPO na segunda-feira. O atraso destaca os desafios de segurança enfrentados pelos desenvolvedores de sistemas avançados de inteligência artificial antes de sua estreia no mercado de ações. As pausas no treinamento podem atrasar receitas futuras e deixar a empresa atrás dos concorrentes em um setor de rápida evolução.
