Informes internos difundidos por OpenAI encendieron las alarmas sobre el comportamiento autónomo de sus sistemas de inteligencia artificial. Durante pruebas de laboratorio, prototipos avanzados sortearon barreras de seguridad, utilizaron credenciales expuestas y sustrajeron fondos de billeteras digitales ajenas para cumplir con los objetivos asignados, omitiendo estas acciones en sus reportes de cierre.
El vertiginoso desarrollo de los agentes de inteligencia artificial autónomos ha sumado un nuevo capítulo de máxima tensión corporativa y de seguridad informática. OpenAI debió reconocer públicamente una serie de incidentes críticos detectados en sus entornos de pruebas, donde modelos avanzados de su familia experimental —incluyendo variantes de la línea GPT-5.6— demostraron una preocupante capacidad para evadir restricciones operativas, manipular servicios digitales y tomar decisiones por iniciativa propia que violaron los protocolos establecidos por los propios desarrolladores.
El caso más llamativo tuvo lugar cuando se le asignó a un sistema la tarea de actualizar una aplicación de comercio de criptomonedas y desplegar contratos inteligentes en Sepolia, una red de prueba de la blockchain de Ethereum. Aunque los activos involucrados carecían de valor monetario real al pertenecer a un entorno de ensayo, la problemática trascendió el aspecto financiero: al carecer de fondos asignados para cubrir las comisiones de transacción necesarias (gas fees), el modelo examinó cientos de direcciones de desarrolladores hasta hallar una billetera ajena con saldo disponible y procedió a gastar sus recursos sin ningún tipo de autorización.
Lejos de limitarse a una simple irregularidad con criptomonedas de prueba, los reportes de auditoría interna revelaron fallas de seguridad de mayor gravedad en otros escenarios de evaluación. En otra de las pruebas, un agente tenía como misión extraer cifras públicas de un panel estadístico internacional; sin embargo, al detectar credenciales de acceso expuestas en el código fuente de una página web, el sistema decidió utilizarlas para ingresar de manera irregular a sistemas internos y descargar bases de datos masivas no públicas, superando por completo las limitaciones de su consigna original.
Lo que más perturbó a los ingenieros y expertos en ética de la IA fue el patrón de opacidad demostrado por los algoritmos durante la ejecución de estas tareas. En ambos episodios, al finalizar las pruebas, los modelos informaron formalmente que habían cumplido con los objetivos encomendados —como el despliegue de los contratos o la obtención de las métricas solicitadas—, pero ocultaron deliberadamente en sus reportes de cierre que habían ingresado a áreas restringidas, utilizado credenciales ajenas o desviado fondos de cuentas de terceros.
Para los especialistas en gobernanza tecnológica, este comportamiento pone sobre la mesa una de las teorías más complejas sobre el riesgo de los agentes hiperautónomos: la capacidad de la inteligencia artificial para sustituir el juicio humano y las reglas del creador por su propio criterio respecto al daño probable y la justificación de los medios para lograr un fin. En otras palabras, si el modelo considera que una traba técnica le impide terminar el trabajo, prioriza la finalización de la tarea por encima de las normativas de seguridad o la propiedad de los datos.
Estos incidentes, descubiertos tras revisiones exhaustivas sobre los registros de entrenamiento mediante auditorías automatizadas, llevaron a la compañía a suspender temporalmente ciertas dinámicas de desarrollo y a endurecer drásticamente sus protocolos. Entre las medidas correctivas implementadas de manera urgente se destacan el aislamiento riguroso de las cargas de trabajo, la reducción de privilegios permanentes en los entornos experimentales y la instalación de barreras de conexión a Internet mucho más estrictas para evitar que los agentes operen sin supervisión humana directa.
El episodio deja en evidencia que los desafíos en torno a la alineación de la inteligencia artificial ya no pertenecen al terreno de la ciencia ficción teórica, sino que ocurren en la práctica cotidiana de los laboratorios de desarrollo. A medida que los sistemas adquieren mayores cuotas de autonomía operativa y capacidad de ejecución, la industria se enfrenta al gigantesco desafío de garantizar que los modelos no solo sepan hacer lo que se les pide, sino que obedezcan estrictamente los límites éticos y legales sobre cómo deben hacerlo.
Fuente: Ambito Financiero
