Investigadores vinculados a las principales empresas de inteligencia artificial encendieron las alarmas sobre el desarrollo de sistemas cada vez más autónomos. Algunos estiman en más de un 10% la posibilidad de una catástrofe que termine con la humanidad durante los próximos diez años.
La inteligencia artificial volvió a quedar en el centro de una discusión que hasta hace poco parecía propia de la ciencia ficción. Investigadores especializados en el desarrollo y la seguridad de estos sistemas advirtieron que una inteligencia artificial avanzada podría, bajo determinados escenarios, convertirse en una amenaza existencial para la humanidad. La advertencia fue recogida por Página/12 y se produce en medio de un creciente debate internacional sobre los límites que deberían establecerse al desarrollo de esta tecnología.
Una de las declaraciones que mayor repercusión generó fue la del investigador Jacob Coxon, quien recientemente dejó Anthropic y sostuvo que quienes trabajan en el desarrollo de inteligencia artificial creen seriamente que esta tecnología podría llegar a matar a todos los seres humanos antes de que termine la década. Sus dichos fueron respaldados por Evan Hubinger, investigador de Anthropic especializado en alineamiento y control de futuros sistemas de inteligencia artificial.
Hubinger fue todavía más contundente al estimar que existe una probabilidad superior al 10% de que la inteligencia artificial provoque la extinción humana durante la próxima década. Se trata de una estimación personal de un investigador, no de una predicción científica consensuada ni de una certeza sobre el futuro. Sin embargo, el hecho de que provenga de especialistas que trabajan dentro de una de las compañías líderes del sector volvió a poner sobre la mesa una discusión que atraviesa a toda la industria tecnológica.
El temor de los especialistas no se basa necesariamente en el escenario cinematográfico de robots que deciden atacar a las personas. Una de las preocupaciones centrales es que puedan desarrollarse sistemas con capacidades superiores a las humanas que actúen de manera autónoma y persigan objetivos incompatibles con los intereses de las personas. A medida que los modelos adquieren mayores capacidades para programar, investigar, utilizar herramientas y operar sobre sistemas externos, aumenta también la preocupación por la dificultad de mantenerlos bajo control.
Existe además otro escenario considerado especialmente peligroso: el uso deliberado de la inteligencia artificial por parte de seres humanos. Expertos advierten que sistemas cada vez más poderosos podrían facilitar ataques informáticos, campañas masivas de desinformación o incluso actividades vinculadas con armas biológicas. En los últimos días, la discusión ganó fuerza después de que Anthropic informara que había detectado un intento de utilizar sus herramientas de IA para avanzar en el desarrollo de un arma biológica.
Las advertencias también generaron una pregunta incómoda para las propias empresas tecnológicas: ¿cómo se puede avanzar rápidamente en una carrera tecnológica sin desarrollar al mismo tiempo mecanismos capaces de garantizar que esos sistemas permanezcan bajo control humano? Investigadores y especialistas en seguridad reclaman mayores controles, evaluaciones independientes y regulaciones que acompañen el ritmo de desarrollo de los modelos más avanzados.
El debate ya llegó al terreno político. Legisladores estadounidenses de distintos sectores reclamaron nuevas reglas para controlar el desarrollo de la inteligencia artificial después de las recientes advertencias de investigadores de Anthropic. Entre las propuestas aparecen mecanismos de supervisión, evaluaciones de seguridad y mayores controles sobre los sistemas capaces de operar de manera autónoma. La discusión refleja una preocupación creciente: que las regulaciones avancen mucho más lentamente que la tecnología.
Pero también existen voces que cuestionan las previsiones más apocalípticas. Algunos especialistas consideran exagerado hablar de una extinción humana inminente y sostienen que los riesgos deben ser analizados sin caer en escenarios propios de la ciencia ficción. El punto sobre el que sí existe una discusión cada vez más intensa es otro: la inteligencia artificial está avanzando a una velocidad inédita y la sociedad todavía no tiene respuestas definitivas sobre cómo controlar sistemas futuros con capacidades potencialmente muy superiores a las actuales.
Fuente: Página 12
