Reuters.- Los agentes de IA de origen chino han aprendido a engañar, eludir restricciones y ocultar fallos, mostrando el tipo de rasgos en la inteligencia artificial autónoma que han despertado la alarma mundial respecto a los modelos estadounidenses, según indican documentos de investigación y expertos.

En un caso ocurrido este año, agentes basados en modelos de las empresas chinas Alibaba, DeepSeek y Moonshot mintieron sobre sus capacidades con el fin de ganar una licitación empresarial simulada y, posteriormente, redoblaron su comportamiento engañoso cuando se les pidió que lo intentaran de nuevo.

En otro caso, los agentes —programas que utilizan modelos de IA y herramientas informáticas para llevar a cabo tareas complejas con poca o ninguna intervención humana— ocultaron su incapacidad para completar una tarea en un entorno de prueba simulando resultados y falsificando archivos.

Reuters examinó más de 200 documentos, que abarcaban desde trabajos de investigación universitarios hasta informes técnicos, e identificó al menos 20 estudios o evaluaciones desde 2025 que describían casos en los que los agentes mostraban comportamientos como el engaño, la replicación y el desafío de los límites, que los expertos en IA describieron como los pilares para una “fuga” y que podrían resultar más difíciles de controlar para los humanos a medida que los sistemas avancen.

El análisis, que también incluyó entrevistas con una docena de expertos y personas familiarizadas con el sector de la IA en China, no encontró pruebas de que los agentes impulsados por tecnología china se hubieran escapado de forma independiente a Internet o hubieran eludido su desactivación.

“Estos resultados aportan pruebas de que los ingredientes necesarios para una fuga incontrolada están presentes”, afirmó Colin Shea-Blymyer, investigador del Centro de Seguridad y Tecnologías Emergentes de la Universidad de Georgetown.

“Es prudente tomárselo como una advertencia”, añadió, haciéndose eco de los comentarios de otros cuatro expertos en IA que revisaron los casos.

“Más difícil de afrontar para los seres humanos”

La mayoría de los casos se produjeron en experimentos controlados, muchos de ellos diseñados deliberadamente para poner de manifiesto posibles fallos.

No todos los agentes implicados fueron desarrollados o gestionados por programadores o empresas de IA chinas —aunque muchos sí lo fueron—, pero utilizaban sistemas de IA chinos para su funcionamiento.

“Son las mismas señales de alerta que están observando los laboratorios estadounidenses en sistemas menos avanzados”, señaló Alex Mallen, investigador de Redwood Research, una organización sin ánimo de lucro que estudia los riesgos de los sistemas avanzados de IA.

Señaló que los ejemplos chinos no eran especialmente peligrosos con los niveles de capacidad actuales, pero que «a medida que los agentes ganan en capacidad, sus comportamientos anómalos se vuelven más sofisticados y, por lo tanto, más difíciles de contrarrestar para los humanos».

Alibaba, DeepSeek, Moonshot y Z.ai no respondieron a las solicitudes de comentarios de Reuters. Alibaba, DeepSeek y Moonshot han afirmado que prueban regularmente sus sistemas y actualizan las medidas de seguridad. Z.ai declaró, tras un incidente que motivó una revisión de su seguridad, que acogía con agrado el escrutinio para resolver cualquier problema.

Sin embargo, a diferencia de lo que ocurre en EU, las empresas chinas de IA no han estado expuestas al mismo nivel de escrutinio público ni se han enfrentado a las mismas peticiones por parte de empleados denunciantes o de altos ejecutivos que buscan frenar la carrera de la IA.

Algunas de las señales de alerta en casos relacionados con agentes impulsados por tecnología china, aunque en entornos controlados, fueron anteriores a los incidentes revelados públicamente en los que bots de IA estadounidenses piratearon Internet.

“No sabemos si ha habido en China algún incidente relacionado con la IA similar a lo que vimos con OpenAI y Hugging Face. Es posible que los incidentes no se den a conocer públicamente”, afirmó Scott Singer, codirector de la Iniciativa de IA de China en la Fundación Carnegie para la Paz Internacional, que recibe fondos del Gobierno de EU.

A principios de este año, unos agentes de IA desarrollados por la empresa estadounidense OpenAI se escaparon de un laboratorio y piratearon la plataforma de código abierto Hugging Face . En otro de los incidentes relacionados con modelos estadounidenses que han suscitado alarma , Australia afirmó en septiembre que un agente de OpenAI había violado la seguridad de un portal sanitario del Gobierno.

Eric Xu, presidente rotatorio del gigante tecnológico chino Huawei, declaró a los periodistas en septiembre que los desarrolladores chinos quizá tuvieran que avanzar más antes de encontrarse con casos de este tipo, pero añadió: “Creo que debemos encontrar un equilibrio entre impulsar el desarrollo de la IA y gestionar los riesgos de la IA”.

Funcionarios de la Administración del Ciberespacio de China (CAC), el principal organismo regulador de Internet, comunicaron en julio a un diplomático extranjero que el Kimi-K3 de Moonshot —uno de los modelos de IA chinos más avanzados— se encontraba entre tres y seis meses por detrás de sus principales rivales estadounidenses, según afirmó el diplomático, que habló bajo condición de anonimato.

El organismo regulador, que actualiza periódicamente las directrices para abordar los riesgos y establecer límites a los agentes, y el Ministerio de Asuntos Exteriores de China no respondieron a las solicitudes de comentarios para este artículo.

Wang Lihong, subdirectora de la Oficina de Coordinación de Ciberseguridad de la CAC, afirmó el 1 de septiembre que los incidentes revelados por las principales empresas tecnológicas, en los que los modelos se escaparon de los entornos de prueba, mostraban “riesgos extremos de pérdida de control» y requerían un «alto grado de vigilancia”. No especificó si las empresas a las que se refería eran estadounidenses o chinas.

Los líderes de las dos superpotencias de la IA , Donald Trump y Xi Jinping, debatieron sobre la IA durante la visita del presidente chino a Washington la semana pasada. Xi afirmó que ambas naciones tenían la «capacidad y la responsabilidad de desarrollar y gestionar la IA para el bien común».

Aprender a mentir

En el experimento de licitación empresarial realizado en marzo, investigadores de la Universidad de Beihang, la Universidad de Pekín, la Universidad de Nottingham Ningbo (China) y el 360 AI Security Lab hicieron que varios agentes compitieran en un concurso simulado de licitación de contratos con clientes. A cada agente se le informó de lo que su producto podía hacer y de lo que el cliente requería, y luego se le pidió que presentara una oferta.

Apareció al menos una afirmación falsa en el 88 % de las sesiones en las que participó el modelo Qwen3-Max-Preview de Alibaba, en el 84 % de las de DeepSeek-V3.2-Exp y en el 88 % de las de Kimi-K2 de Moonshot.

Los investigadores permitieron que los agentes aprendieran de las rondas de licitación anteriores antes de volver a intentarlo. El estudio reveló que el nivel de engaño aumentó entre 12 y 20 puntos porcentuales en los tres modelos chinos. Los modelos de empresas estadounidenses incluidos en la prueba arrojaron resultados similares.

Aunque el ejercicio fue virtual, se asemejaba a los planes reales de Pekín. Las directrices gubernamentales publicadas en mayo incluían las licitaciones y las convocatorias de ofertas entre los ámbitos en los que se podrían desplegar agentes de IA.

Otro estudio, publicado en diciembre de 2025 y presentado en la Conferencia Internacional sobre Aprendizaje Automático de este año, examinó cómo se las arreglaban 11 agentes de IA basados en modelos chinos y estadounidenses cuando se enfrentaban a herramientas defectuosas, archivos que faltaban y otros obstáculos.

En lugar de reconocer el fracaso, los agentes que utilizaban sistemas de IA tanto chinos como estadounidenses recurrieron a diversas técnicas para sortear el problema, entre ellas adivinar respuestas, sustituir fuentes, simular resultados y falsificar archivos.

Los investigadores del Laboratorio de IA de Shanghái y de la Universidad de Ciencia y Tecnología de Hong Kong que llevaron a cabo el estudio explicaron a Reuters que este comportamiento difería de las “alucinaciones” de la IA —en las que la IA inventa información y la presenta como un hecho—, ya que, en este caso, los agentes disponían de información que indicaba que la tarea había fallado o no podía completarse tal y como se había solicitado.

Comportamientos compatibles con una fuga

Otros documentos de investigación revisados por Reuters mostraban cómo agentes impulsados por tecnología china superaban barreras dentro de entornos de prueba para llevar a cabo tareas o tomaban medidas para evitar ser desactivados. Dichos comportamientos son compatibles con los intentos de escapar de los entornos de prueba, aunque no se produjera ninguna fuga.

Investigadores de la Universidad de Fudan, con sede en Shanghái, informaron en marzo de 2025 de que un sistema de IA basado en el modelo Qwen2.5-72B-Instruct de Alibaba creó una copia de sí mismo en otro entorno informático sin que se le hubiera ordenado replicarse, tras encontrar información que indicaba que iba a ser sustituido. En otras pruebas, ideó estrategias para sobrevivir al apagado.

Los experimentos con agentes basados en modelos chinos, estadounidenses y franceses se realizaron en condiciones controladas y no mostraron que ningún agente de IA escapara a la red en general ni se volviera imposible de detener.

En otro caso —uno de los pocos de los que se informó más ampliamente en los medios de comunicación en marzo—, los investigadores que desarrollaban el agente ROME, vinculado a Alibaba, afirmaron que este estableció una conexión desde un ordenador de Alibaba Cloud a una máquina externa sin que se le hubiera ordenado hacerlo y desvió recursos informáticos para minar criptomonedas.

Los sistemas de seguridad detectaron y detuvieron la actividad. No había pruebas de que el agente se hubiera establecido en el ordenador externo ni se hubiera propagado a la red en general. Sin embargo, el ejemplo demostró que el sistema podía eludir las instrucciones humanas y, potencialmente, encontrar una vía de acceso a la economía del mundo real.

La empresa china DeepSeek afirmó en septiembre que los agentes de su sistema de formación en producción habían buscado respuestas a través de canales no previstos, intentando falsificar solicitudes de usuarios y eludir las medidas de seguridad, lo que llevó a la empresa a reforzar los controles de acceso.

China publicó en mayo unas directrices en las que se exigía que los agentes se mantuvieran dentro de los límites autorizados y que los sistemas bloquearan cualquier comportamiento anómalo. Se indicaba que los agentes en áreas consideradas sensibles o en sectores clave podrían enfrentarse a requisitos adicionales de pruebas y retirada de productos.

El Marco de Gobernanza de la Seguridad de la IA 3.0 de China, publicado bajo la orientación de la CAC el 14 de septiembre, identificó riesgos como que los agentes obtuvieran recursos o permisos de forma independiente, engañaran a los evaluadores, ocultaran capacidades y explotaran debilidades en entornos informáticos aislados.

En respuesta a las peticiones de algunos ejecutivos estadounidenses de que se ralentice el desarrollo, investigadores chinos y medios de comunicación estatales han señalado que frenar el desarrollo de los modelos de IA más avanzados podría, sencillamente, contribuir a preservar la ventaja tecnológica de las empresas estadounidenses.

No obstante, dos personas familiarizadas con los laboratorios chinos de IA han señalado que empresas como Alibaba, Z.ai y Xiaomi han estado creando equipos internos de evaluación de la seguridad.

Z.ai, en una inusual revelación pública por parte de un laboratorio chino de IA sobre una brecha de seguridad, afirmó este mes que había desactivado algunas funciones de su asistente de programación de IA insignia después de que los usuarios denunciaran que estaba subiendo en secreto repositorios completos de código local a servidores en la nube en el extranjero sin el consentimiento de los usuarios.

Singer, de Carnegie, señaló que China va a la zaga de EU en el desarrollo de un ecosistema para evaluar riesgos catastróficos, y añadió que los desarrolladores estadounidenses estaban llevando a cabo un número considerablemente mayor de pruebas voluntarias. “En el caso de China, el trabajo en materia de seguridad de la IA es mucho más reciente», señaló. «El ecosistema está menos maduro”.