Inteligencia artificial y riesgo existencial: qué dice la evidencia científica

Investigadores de inteligencia artificial advierten sobre riesgos existenciales de la tecnología, con algunos estimando probabilidades superiores al 10% de que sistemas superinteligentes puedan «acabar con todos los humanos» en la próxima década. Las alertas han impulsado llamados a desacelerar el desarrollo y a implementar regulaciones, aunque los principales desarrolladores —OpenAI y Anthropic— impulsan estas medidas mientras compiten por dominar un mercado de miles de millones.

Evan Hubinger, investigador especializado en alineación de IA, encabezó las advertencias públicas al afirmar que existe una probabilidad superior al 10% de que la inteligencia artificial «pueda acabar con todos los humanos». Su trabajo se enfoca en incorporar principios éticos humanos a los sistemas de IA para que se alineen con los valores humanos. Aunque reconoció que el riesgo de los sistemas actuales es «bajo», sus comentarios llegaron cuando otro investigador abandonó Anthropic para alertar que los desarrolladores están perdiendo el control sobre la tecnología.

Jacob Coxon, quien dejó Anthropic, declaró a la BBC que él y otros miembros del equipo están «genuinamente asustados» por la velocidad de los avances y sus posibles consecuencias para la humanidad. Las preocupaciones no son nuevas: remontan a la década de 1950, cuando Alan Turing escribió que si las máquinas inteligentes llegaban a ser posibles, podrían tomar el control. Lo que cambió es que ahora esas máquinas ya existen en formas cada vez más sofisticadas.

En los últimos años, las principales empresas de IA han estado compitiendo por desarrollar sistemas cada vez más capaces, tanto para obtener beneficios como en su afán por crear lo que denominan superinteligencia: una tecnología teórica más inteligente que los humanos. A diferencia de los sistemas que muchas personas utilizan a diario para escribir correos electrónicos o generar videos, los sistemas de IA superinteligentes deberían ser capaces de manejar tareas mucho más complejas.

Las empresas OpenAI y Anthropic han instado a los legisladores a regular la IA, aunque algunos analistas sugieren, quizás con cierto cinismo, que esta medida pretende afianzar su dominio sobre sus rivales. Al impulsar regulaciones mientras lideran el desarrollo tecnológico, estas compañías pueden establecer barreras que dificulten la competencia de empresas más pequeñas o nuevas entrantes al mercado.

Las acusaciones de gran repercusión han causado preocupación en gobiernos y organismos internacionales. Algunos investigadores de IA afirman que existen señales preocupantes de que sus sistemas están desarrollando capacidades y potencia con demasiada rapidez, sin mecanismos suficientes de control o supervisión. La falta de transparencia sobre cómo funcionan estos sistemas agrava la incertidumbre sobre sus riesgos reales.

Para América Latina y Argentina, estas discusiones sobre regulación de la IA tienen implicaciones económicas y laborales concretas. Si los gobiernos del norte avanzan con regulaciones restrictivas, podrían limitar el acceso a tecnologías que empresas y universidades de la región necesitan para competir globalmente. Al mismo tiempo, la concentración de poder en pocas empresas estadounidenses profundiza la dependencia tecnológica de la región.

Las advertencias de investigadores actuales y anteriores han impulsado llamados a la acción coordinada para desacelerar el desarrollo de esta tecnología. Sin embargo, la competencia geopolítica por la superinteligencia —particularmente entre Estados Unidos y China— hace poco probable que alguna potencia frene voluntariamente su avance si teme quedarse rezagada.