Mientras crece en Estados Unidos el debate sobre la necesidad de ralentizar el desarrollo de los modelos de inteligencia artificial más avanzados, China avanza con normas específicas para limitar los riesgos de los sistemas autónomos. Pekín busca mantener el desarrollo tecnológico sin resignar mecanismos de control humano.
El avance acelerado de la inteligencia artificial abrió un nuevo debate global sobre los límites que deberían establecerse frente a sistemas cada vez más autónomos. Las advertencias de investigadores y referentes de empresas tecnológicas estadounidenses sobre una eventual pérdida de control de los modelos más avanzados también generaron respuestas en China, donde las autoridades vienen trabajando desde hace varios años sobre escenarios de riesgo vinculados con el desarrollo de esta tecnología.
China no plantea detener el desarrollo de la inteligencia artificial, sino establecer mecanismos de regulación y supervisión que permitan reducir los riesgos asociados a sistemas capaces de ejecutar tareas complejas con un nivel creciente de autonomía. En particular, las autoridades comenzaron a concentrarse en los llamados agentes de IA, herramientas que pueden realizar múltiples acciones sin requerir una intervención humana permanente.
El gobierno chino ya había incorporado la posibilidad de una eventual “pérdida de control” en sus marcos de seguridad. Un documento publicado en 2024 contempló escenarios en los que sistemas futuros pudieran obtener recursos externos de manera autónoma, replicarse o buscar incrementar su poder. La actualización realizada en 2025 profundizó ese escenario al advertir sobre la posibilidad de saltos repentinos e inesperados en las capacidades de determinados sistemas.
La estrategia comenzó a traducirse en reglas concretas para los desarrolladores. Las directrices emitidas por los organismos chinos establecen que las empresas deben fortalecer sus capacidades para detectar, intervenir, bloquear y recuperar sistemas ante comportamientos considerados inadecuados. Entre los riesgos señalados aparecen la manipulación de algoritmos, el envenenamiento de datos, las vulnerabilidades informáticas y la denominada “pérdida operativa de control”.
Uno de los principios centrales de este esquema es que la decisión final debe permanecer en manos de las personas. Las normas para agentes de IA contemplan que los usuarios conserven la autoridad sobre las decisiones autónomas de estos sistemas y también habilitan evaluaciones de seguridad realizadas por terceros, además de pruebas y auditorías sobre modelos abiertos. El objetivo es incorporar controles antes de que una herramienta pueda actuar de manera autónoma sobre sistemas o infraestructuras reales.
El debate se desarrolla además en medio de una fuerte competencia tecnológica entre China y Estados Unidos. Ambas potencias concentran buena parte del desarrollo de modelos avanzados y de la expansión mundial de la inteligencia artificial. En Washington, algunos referentes de la industria plantearon la necesidad de reducir temporalmente el ritmo de desarrollo para incorporar mayores garantías de seguridad, mientras otros sectores sostienen que frenar la innovación podría beneficiar a Beijing.
Desde China, el discurso oficial también apunta a evitar que la competencia tecnológica derive en una confrontación permanente. El Ministerio de Relaciones Exteriores chino sostuvo que las narrativas de amenaza y una competencia considerada “malintencionada” pueden obstaculizar la construcción de una gobernanza global de la inteligencia artificial. Pekín plantea una IA abierta, inclusiva y orientada al bienestar, al tiempo que mantiene su propio esquema de supervisión estatal y regulación tecnológica.
El desafío que queda planteado es cómo compatibilizar innovación y seguridad en una tecnología cuyo desarrollo avanza más rápido que buena parte de los marcos regulatorios existentes. China apuesta por mantener el crecimiento de su industria de IA mientras incorpora controles destinados a evitar que los sistemas más autónomos pierdan supervisión humana. En paralelo, la discusión con Estados Unidos suma una dimensión geopolítica: la seguridad de la inteligencia artificial ya no aparece solamente como una cuestión tecnológica, sino también como un componente de la competencia estratégica entre las dos principales potencias del sector.
Fuente: El Destape
