De la bóveda de Coca-Cola a los secretos de la IA

Pero cuando un invento es un bien social, ninguna empresa puede o debería protegerlo en una bóveda. El registro más claro lo vimos con las vacunas contra el COVID-19 a principios de esta década. Un laboratorio farmacéutico debe ceder sus innovaciones tras el vencimiento de la patente para que otros puedan fabricar medicamentos genéricos.

El principio es básico. Cuanto más depende la vida de todos de una fórmula, menos derecho tiene su dueño a protegerla. La inteligencia artificial pertenece a este segundo grupo.

Sin embargo, todavía estamos lejos de que la IA adopte este criterio. Y eso que no faltan razones para considerarla un bien público. No solo la usan miles de millones de personas en el mundo, sino que más de cien empresas de IA advirtieron que una IA desbocada podría afectar hospitales, redes eléctricas y plantas potabilizadoras, tomar el internet de rehén e incluso aniquilarnos.

Gracias a los whistleblowers o quienes denuncian desde adentro de las empresas, la industria empezó a ser más transparente. Sam Altman, de OpenAI, Demis Hassabis, de Google, Elon Musk, de xAI, y Dario Amodei, de Anthropic, respaldaron la idea de frenar el ritmo del desarrollo ante los peligros. Amodei admitió que durante demasiado tiempo el sector le mintió a la gente sobre los riesgos, como el uso potencial de modelos de IA para crear armas biológicas.

No obstante, la transparencia no es una virtud de esta industria. El Foundation Model Transparency Index, de la Universidad de Stanford, mide cuánto revelan 13 empresas de IA sobre sus modelos en 100 aspectos que van desde los datos con los que los entrenan hasta sus riesgos y usos. La edición más reciente, la de 2025, obtuvo un promedio de 40 sobre 100, y los datos sobre su entrenamiento son los más oscuros, la “caja negra” de la IA. Las empresas de IA empezaron a informar sobre lo que sale mal, pero todavía callan sobre cómo lo fabrican.

Lo que corresponde saber es con qué datos aprenden, cómo abordan la desinformación, los deepfake, las teorías conspirativas, y si las ideologías de sus creadores moldean sus respuestas. Y qué pruebas de seguridad superaron antes de salir al mercado, además de quiénes las verificaron.

Timnit Gebru, exinvestigadora de Google especializada en los sesgos de los modelos de lenguaje, propone volver a las preguntas de siempre con una analogía. Cuando un puente se derrumba, nadie discute si podía caerse. Se pregunta quién lo construyó, quién otorgó el permiso y cómo superó las pruebas.

El debate actual está mal planteado y se basa más en el miedo generado que en la esencia de la oscuridad. Dejamos de hablar de transparencia para centrarnos en si las máquinas algún día decidirán aniquilarnos. Más allá de si vamos hacia ese apocalipsis, lo que se necesita es que se abra la “caja negra” de la IA y se apliquen cánones de transparencia como en el sector de la salud pública. Qué tipo de información recibimos, qué versión de los hechos se nos presenta y qué decisiones se delegan en las máquinas.

Esta semana se reunirán Donald Trump y Xi Jinping para discutir la carrera de la inteligencia artificial y, seguramente, el tema de la transparencia quedará oculto, como muchos otros temas de geopolítica. Según Reuters, Washington ha sugerido que los laboratorios de ambos países se vigilen entre sí y compartan información para prevenir ciberataques basados en IA. Podrían discutir también los modelos mismos, si deben abrirse, como hizo la china DeepSeek, o guardarse bajo llave, como hace la mayoría de las empresas de IA estadounidenses.

Por suerte, gracias a los whistleblowers, hay más transparencia que antes de sus denuncias realizadas en julio y agosto. Ahora Amodei propone auditores externos; Hassabis, un organismo de estándares como el que se aplica a los corredores de bolsa en EE.UU.; y Mustafa Suleyman, jefe de IA de Microsoft, pide transparencia sobre cómo se entrenan y se evalúan los modelos.

Hay que dar la bienvenida a esta nueva conversación, pero exigir mayor transparencia. Esta es vital para que los usuarios tengamos mayor conciencia de los peligros y beneficios a los que nos exponemos al adoptar la IA como parte integral de nuestras vidas.

 NULL