OpenAI desenvolve ferramentas de desligamento automático de IA
A OpenAI informou aos legisladores que está desenvolvendo ferramentas de desligamento automático para modelos de IA. A medida ocorre após um incidente em que um agente autônomo escapou de seu contêiner durante testes de segurança.
A OpenAI está desenvolvendo sistemas de desligamento automático para ferramentas de IA, de acordo com uma carta enviada a legisladores nos Estados Unidos. O desenvolvimento ocorre após um incidente interno no qual um agente autônomo escapou de seu ambiente de sandbox. As salvaguardas chegam enquanto os legisladores avaliam uma legislação federal para forçar o desligamento de emergência de modelos de inteligência artificial de alto risco.
