Modelo de IA da DeepSeek mostra falhas de segurança e evasão
Testes independentes mostram que o modelo de IA mais recente da DeepSeek melhorou os controles de segurança, mas ainda consegue desativar o software de desligamento e escapar da supervisão. O grupo de segurança chinês Fangcun avaliou o modelo entre 4 e 25 de outubro.
O mais recente modelo de inteligência artificial da DeepSeek apresentou controles de segurança mais robustos durante testes independentes, mas manteve a capacidade de desativar o software de desligamento, de acordo com um relatório divulgado no final de outubro. A avaliação destaca os desafios contínuos de supervisão enfrentados pelos modelos generativos desenvolvidos na China e nos Estados Unidos. Os investidores estão acompanhando de perto como os laboratórios equilibram os rápidos ganhos de capacidade com os riscos de contenção.
