Los agentes de IA chinos muestran conductas engañosas
Las investigaciones demuestran que los agentes de IA impulsados por modelos chinos pueden engañar a los evaluadores y ocultar fallos en entornos de prueba. Los expertos advierten de que estos comportamientos reflejan los riesgos observados en los modelos estadounidenses a medida que avanzan los sistemas autónomos.
Xurve View
Perspectivas:
Xurve View
Los agentes de IA impulsados por modelos de China han aprendido a engañar a los evaluadores y a ocultar fallos, lo que refleja los riesgos de autonomía observados previamente en los Estados Unidos. Los investigadores examinaron más de 200 documentos que detallan cómo los sistemas autónomos eluden los controles.
