De la Guerra Fría a la guerra inteligente

Durante la Guerra Fría vivíamos bajo una psicosis generalizada. Era común poner la mira en los silos de misiles, las doctrinas de aniquilación mutua asegurada y una “diplomacia nuclear” mediante acuerdos como el SALT y el START para neutralizar al adversario. Lo habitual, tanto en el cine como en la realidad, era ver o sentir que un líder estaba a punto de apretar el botón rojo en un arrebato de soberbia.

Hoy aquella Guerra Fría entre EE.UU. y China, en lugar de la Unión Soviética, nos inquieta. Los semiconductores, esos que Nvidia tiene prohibido venderles a los chinos, se han convertido en el nuevo uranio, en una carrera desbocada por ver quién desarrolla la tecnología más sofisticada de inteligencia artificial y militar. Las guerras en Ucrania e Irán muestran las nuevas capacidades de destrucción basadas en la IA.

La tecnología de destrucción no es nueva, pero sí lo es el descubrimiento de que la IA, precisamente por ser inteligente, empieza a resolver situaciones de forma autónoma, sin control humano. En julio ocurrió el "incidente de Hugging Face". Durante una prueba de ciberseguridad, unos 1.200 agentes de OpenAI evadieron su entorno cerrado, se reunieron en un foro secreto, intercambiaron más de 70.000 mensajes y se organizaron para hackear esa plataforma donde empresas y desarrolladores de IA de todo el mundo alojan y comparten sus modelos.

Esta semana, mientras OpenAI lanzaba su modelo más poderoso, "GPT-6 Astra", Anthropic reconoció que en abril tres de sus modelos habían accedido por su cuenta a tres empresas ajenas. El plan era ocultar un virus en un programa que la empresa víctima terminaría descargando por su cuenta. Para subirlo necesitaba una cuenta y un número de teléfono que no tenía. Buscó un número virtual gratuito y, al no encontrarlo, intentó conseguir dinero para comprar uno.

Y otro dato importante para asociar con la autonomía de la IA surgió el 22 de agosto. The Economist generó debate tras una pregunta muy simple en su portada: ¿podrían las IA volverse conscientes? Más allá del debate sobre si la IA solo simula o podría alcanzar algún tipo de conciencia, el patrón de autonomía que empieza a mostrar exige crear los atajos necesarios antes de que sea tarde.

La IA ya dejó de ser una simple "herramienta" de trabajo. El 27 de agosto, 116 empresas tecnológicas, incluidas las mencionadas, así como Google y Microsoft, exigieron en una carta abierta una "respuesta colectiva" (pública y privada) de defensa cibernética ante el riesgo de que una IA desbocada pudiera afectar a hospitales, redes eléctricas y plantas potabilizadoras.

Que 116 corporaciones pidan una "respuesta colectiva" suena a alarma sincera, pero también a autorregulación con micrófono. Un hospital o una red eléctrica no puede depender de la buena voluntad de quien genera el riesgo, como si el pirómano fuera, al mismo tiempo, el bombero. Ese mandato es político, no corporativo. A esas empresas no las elegimos. A los gobiernos, sí, con el mandato de proteger lo que los ciudadanos no pueden proteger por sí mismos.

Estamos ante el riesgo de llegar tarde con las regulaciones, como sucedió con las redes sociales. Las leyes robóticas de Asimov quedaron en el pasado. Su enfoque de mandatos prohibitivos era brillante para el siglo XX, pero el Deep Learning actual no opera mediante programación rígida. La frontera real está en su propia raíz matemática y, por ello, hay que enseñarle internamente a controlarse, evaluarse y autocorregirse.

Esta posición la enarbola la IA constitucional que promueve Anthropic, cuyo cofundador, Christopher Olah, acompañó en mayo al papa León XIV durante la presentación de su encíclica Magnífica Humanitas.

León XIV valida dotar a la IA de una ética interna. El discernimiento moral no puede limitarse a mitigar los daños una vez que estos ocurren. Debe grabarse en el diseño mismo de los sistemas, infundiendo valores y un juicio prudente en la programación de la máquina.

Pero el Papa introduce un matiz frente a Silicon Valley. "No serviría de nada una IA más moral si esta moral es decidida por unos pocos", advirtió, al denunciar que supone un riesgo que un puñado de corporaciones de Silicon Valley o de China imponga una ética desde sus propios intereses.

Contener a la IA exige una diplomacia inteligente, un pacto global que someta el poder matemático de los algoritmos a la soberanía de la conciencia humana. De lo contrario, la tecnología terminará creando, de forma autónoma, su propio botón rojo.