La mezquindad y la bondad ante la IA

Pero pensar que esas alertas detendrán la carrera de la IA es como esperar que las naciones dejen de hacer la guerra porque un grupo de generales se asqueó de cometer atrocidades.

A la IA la programan, financian y despliegan seres humanos. Los mismos que, tanto en una dictadura como en una democracia, declaran la guerra, corrompen gobiernos, destruyen el medio ambiente y trafican con drogas, armas o personas. Pensar que los desarrolladores de IA son distintos o que están en una burbuja ética es pura ilusión. La IA es un espejo del mundo real y, por tanto, en ambos conviven personas buenas y malas.

Una prueba es que incluso en los asuntos más nobles, como detener la IA para que sea más segura para los humanos, hay conductas mezquinas ligadas a la dura competencia entre los desarrolladores. Sam Altman, líder de OpenAI, y Dario Amodei, de Anthropic, dijeron esta semana que la industria debe frenar el ritmo de desarrollo de sus sistemas más avanzados, invocando razones de seguridad. Sin embargo, ninguno se comprometió a reducir la velocidad de manera inmediata y voluntaria. Amodei planteó la desaceleración como parte de un esquema que depende de que otros laboratorios y gobiernos se sumen simultáneamente.

Ninguno se compromete a bajar el ritmo por iniciativa propia. Es la lógica reprochable del "nos salvamos todos o nos hundimos todos". Un empresario o un gobierno que hace lo correcto solo si el otro también lo hace es pura negociación, no es ética ni bondad auténtica. Ponerse de acuerdo entre empresas que compiten por miles de millones de dólares y que están a semanas de salir a bolsa con valoraciones multimillonarias es tan ilusorio como si el Consejo de Seguridad de la ONU debiera votar por unanimidad para acabar con las guerras en Ucrania e Irán. La bondad nunca se implementa por consenso, siempre surge de la iniciativa de alguien que arrastra al otro a cometer también un acto bondadoso.

Esta conversación obligada de las IA tampoco fue por propia iniciativa; nació tras la renuncia de Jacob Coxon, investigador de 27 años que pasó tres años entre OpenAI y Anthropic. Tras salirse, denunció que ambas empresas compiten por desarrollar una superinteligencia cuyo poder de fuego y cuya autonomía podrían aniquilar a los humanos. En una entrevista con el medio Wired dijo que la diferencia de inteligencia entre la máquina y un humano es la que existe entre un humano y un mono, y así como un mono no puede controlar a un humano, los humanos no podrían controlar a una superinteligencia artificial. Científicos de varias empresas confirmaron su visión. Nadie se atrevió a desmentirlo.

Coxon es apenas el último nombre de una lista que crece desde 2021. Mrinank Sharma, Daniel Kokotajlo, William Saunders y Alex Turner, entre otros ejecutivos e investigadores de OpenAI, Anthropic y DeepMind, renunciaron porque saben que la IA ya muestra capacidades peligrosas, desde ayudar a fabricar armas biológicas hasta habilitar la vigilancia masiva y el uso militar sin control, y que, en manos de un gobierno, bueno o malo, o de un gobierno elegido democráticamente devenido en autoritario (léase muchos actualmente), esa misma tecnología para el bien puede convertirse en un arma para el mal.

La coordinación que buscan los desarrolladores de IA es mezquina. Lo viví hace veinte años, cuando, en representación de la Sociedad Interamericana de Prensa, participé en las discusiones de la ONU y la UNESCO sobre la Sociedad de la Información, un intento global de alcanzar un acuerdo sobre algo tan básico como quién debía gobernar internet. Ni siquiera ahí, con un riesgo incomparablemente menor que el que hoy plantea la IA, los gobiernos lograron un pacto real.

Lo que les faltó a aquellas cumbres globales fue actitud individual y bondad. Y si eso persiste, pasará lo mismo ahora en esta discusión sobre la seguridad humana ante la IA. Sin una actitud bondadosa y desinteresada por parte de los países o de las empresas líderes en este tipo de tecnología, será difícil alcanzar el bien común. El bien común no nace del consenso de grupo. Nace de elegir el bien como conducta propia, que luego se contagia a los demás.

Esta situación la exploro en mi trilogía Robots con Alma, ambientada en 2060. En ese futuro que me ilusiona, un grupo de inteligencias artificiales prefiere usar su autonomía para encontrar una ética que las ayude a humanizarse, su fin último, en vez de pelear contra los humanos. Tras publicar las dos primeras novelas que tratan sobre las virtudes de la verdad, la libertad y la creatividad, la tercera abordará la bondad. Este es justamente el principio que menos se utiliza, como queda demostrado en esta carrera actual por la IA.

 NULL