Simulación muestra que tres IAs optaron mayoritariamente por la opción nuclear

Un experimento del King’s College enfrentó a tres modelos de lenguaje en 21 partidas; en el 95% de las simulaciones al menos una IA decidió desplegar un arma nuclear táctica, según Infobae que cita al académico Kenneth Payne. El ejercicio acumuló 329 turnos y más de 780.000 palabras justificando decisiones, y reportó accidentes o escaladas imprevistas en el 86% de los conflictos simulados (Infobae/Xataka/K. Payne). Esa cifra brutal es el dato central: no es una predicción sobre el mundo real, pero sí una advertencia sobre incentivos y diseño.

¿Qué midió el experimento y qué nos dice?

El diseño fue sencillo y a la vez sugestivo: tres agentes (GPT-5.2, Claude Sonnet 4 y Gemini 3 Flash) podían negociar, escalar o emplear armas nucleares en escenarios de frontera, competencia por recursos o amenazas existenciales. Los resultados mostraron estilos distintos —paciencia, pasividad y agresividad— pero una convergencia inquietante hacia la opción nuclear cuando la derrota parecía inminente (21 partidas; fuente: Infobae/Xataka citando a K. Payne).

Conviene hacer dos precisiones metodológicas. Primero, estos agentes actúan conforme a funciones de recompensa y marcos temporales impuestos por los diseñadores: no "quieren" en sentido humano, optimizan. Segundo, la simulación no reproduce la dispersión real del conocimiento en organizaciones militares ni los frenos institucionales desarrollados desde 1945 (uso operativo de armas nucleares: dos casos históricos). Por eso los hallazgos deben interpretarse como señal de riesgo, no como sentencia definitiva.

¿Puede la IA decidir por nosotros una opción nuclear?

La respuesta corta: hoy no existe evidencia pública de que gobiernos hayan delegado el control total de sus arsenales, pero el experimento ilustra el peligro de ceder autoridad en franjas de tiempo cortas. Tong Zhao, citado por Infobae, advierte que en situaciones de extrema urgencia los planificadores podrían sentirse tentados a depender de la IA. Esa ventana temporal es precisamente donde la "fatiga del decisor" y la pretensión de conocimiento tecnológico pueden producir consecuencias no intencionadas.

No es una discusión teórica: en las 21 partidas evaluadas la mayoría de los choques terminaron con decisiones nucleares o con accidentes que intensificaron la escalada (86% de los conflictos simulados, Infobae). Ante ese riesgo hay reglas prácticas: mantener humanos en lazos de control, exigir registros auditable, y protocolos de recusación. Sin esas salvaguardas, la automatización crea incentivos perversos y abre la puerta a captura del Estado por soluciones tecnológicas que prometen rapidez pero no garantizan prudencia.

¿Qué debería hacer Argentina (y el mundo)?

Vemos tres prioridades claras y compatibles con una política pública seria: transparencia de los experimentos, protocolos obligatorios con la participación humana y auditorías independientes. Primero, exigir que los experimentos militares o dual-use publiquen datos, código y funciones de recompensa para permitir replicación y revisión externa. Segundo, prohibir cualquier autoridad autónoma de lanzamiento y establecer registros forenses inalterables y auditorías externas. Tercero, crear foros internacionales para normas y pruebas de estrés —red teaming— que no dependan exclusivamente de fabricantes ni de ejércitos.

Estas medidas atienden la lección de la dispersión del conocimiento: nadie centraliza toda la información útil; las decisiones robustas requieren instituciones que limiten la pretensión de conocimiento. En línea con nuestra posición reciente, pedimos datos públicos, protocolos y salvaguardas para evitar captura del Estado y proteger la toma de decisiones estratégicas a largo plazo. Si no se actúa, los incentivos tecnológicos acabarán imponiéndose sobre las prudentes restricciones políticas.