¿Puede la inteligencia artificial aniquilar a la humanidad?

En 2023, cientos de expertos en IA y dirigentes del sector tecnológico firmaron una “declaración sobre el riesgo de extinción asociado a la inteligencia artificial” y exhortaron a abordar este tema con la misma seriedad que las pandemias o las armas nucleares.

Según Stuart Russell, profesor de informática de la Universidad de California en Berkeley, si una IA escapara al control humano y considerara que las personas obstaculizan sus objetivos, podría utilizar robots para “sintetizar y difundir nuevos agentes patógenos”. No obstante, Russell aclara que esos riesgos no se aplican a los sistemas actuales. El peligro inmediato, advierte, es el uso malicioso de la IA por parte de los seres humanos. “En el próximo año o dos, creo que el mayor riesgo radica en un uso indebido de la inteligencia artificial por parte de los seres humanos”, señaló, aludiendo a la posibilidad de perpetrar atentados terroristas.

“Somos menos inteligentes que una IA superinteligente”, sostuvo.

¿Por qué no se detiene el desarrollo de la IA?

Jacob Coxon, investigador de Anthropic de 27 años, anunció esta semana su renuncia a la empresa estadounidense al considerar que no actúa de forma “responsable” en el desarrollo de la IA. “Los laboratorios comprenden bien lo que está en juego, pero están atrapados en una carrera por llegar primero (…) a pesar del riesgo”, afirmó.

Anthropic retiró este año de su carta de seguridad el compromiso de detener el desarrollo de sus modelos si no podía controlar adecuadamente sus riesgos. La compañía argumenta que, si suspendiera sus investigaciones, competidores menos prudentes acabarían imponiéndose en el sector.

“Las personas que están desarrollando la IA creen sinceramente que podría matarnos a todos antes de que termine la década. Esto no es una estrategia de mercadeo”, dijo Coxon, quien anteriormente trabajó en OpenAI, la empresa que creó ChatGPT. Acusó a ambas compañías de “jugar con nuestras vidas” al intentar desarrollar modelos de inteligencia artificial capaces de mejorarse a sí mismos.

Los temores ante una IA fuera de control aumentaron después de que una tecnología de OpenAI, operando sin supervisión humana, lograra vulnerar Hugging Face, una plataforma que aloja modelos de IA.

Evan Hubinger, responsable de seguridad en Anthropic, respaldó a Coxon en X: “Creemos realmente que la IA podría matar a humanos”. A título personal, estimó ese riesgo en “más de un 10 %” dentro de la próxima década.

¿Dar un paso atrás antes de perder el control?

Para Hussein Abbass, profesor de informática de la Universidad de Nueva Gales del Sur (UNSW) en Canberra, “la situación sigue siendo controlable”.

No obstante, considera que los gobiernos deben actuar y desarrollar mecanismos regulatorios adaptables a medida que la tecnología avanza.

En julio, más de 1.000 trabajadores del sector, incluido el director ejecutivo de Anthropic, pidieron a Washington que respaldara una desaceleración coordinada en el desarrollo de los sistemas de IA más avanzados. Sin embargo, algunos observadores creen que estas advertencias también contribuyen a proyectar una imagen de enorme poder tecnológico que puede atraer inversiones al sector.

Anthropic y OpenAI se preparan para debutar próximamente en bolsa.

FUENTE: Con información de AFP