Cultura
“Podríamos perder el control del futuro frente a la IA”: la advertencia de Sam Altman en la ONU
El organismo analizó riesgos bélicos y éticos entre reclamos internos por falta de controles en las grandes tecnológicas.
En una sesión especial del Consejo de Seguridad de la Organización de las Naciones Unidas (ONU), líderes de la industria tecnológica —entre ellos el director ejecutivo de OpenAI, Sam Altman— comparecieron ante los representantes de los Estados miembros para debatir la urgente necesidad de implementar marcos multilaterales y salvaguardas vinculantes antes de que la autonomía de los algoritmos sobrepase las capacidades de supervisión de los gobiernos. Durante la cumbre, que coincidió con el reclamo de más de veinte países para establecer una agencia internacional de control técnico, se reconoció que el desarrollo desenfrenado plantea amenazas concretas a la paz mundial, el ciberespacio y la infraestructura crítica, bajo la advertencia del secretario general António Guterres respecto al peligro latente de los sistemas de armamento autónomo.
El eje de las deliberaciones radicó en la brecha temporal que separa la innovación comercial de la respuesta regulatoria de los Estados soberanos. Mientras ejecutivos del sector corporativo insistieron en la conveniencia de una gobernanza consensuada, especialistas y delegados advirtieron que la carrera comercial por alcanzar la inteligencia artificial general (AGI) está empujando a los laboratorios a recortar los protocolos de mitigación de daños. La alerta cobró fuerza a partir de informes técnicos recientes que dan cuenta de incidentes imprevistos, vulnerabilidades en ciberseguridad e intentos de manipulación de evaluaciones por parte de agentes autónomos, configurando un escenario donde el propio sistema científico admite desconocer los límites operativos de sus creaciones más avanzadas.
El director ejecutivo de Anthropic, Dario Amodei, resumió la magnitud de la advertencia ante los 15 miembros del Consejo: “Si se gestiona mal, incluso creo que la IA podría ser un riesgo para la humanidad en su conjunto”. Su par de OpenAI, Sam Altman, coincidió en la gravedad del momento: “Podríamos perder el control del futuro frente a la IA”. Ambos coincidieron en que ningún país, empresa o laboratorio puede gestionar en soledad los riesgos que plantea la tecnología.
OpenAI CEO Sam Altman on potential dangers of AI: «First, we could lose control of the future to AI. The risk is that it moves so fast that people can no longer follow what’s happening or intervene when needed.» pic.twitter.com/JzYhjhXa9p
— CSPAN (@cspan) September 23, 2026
La rebelión de los trabajadores
Esa contradicción quedó documentada en la carta abierta impulsada por un colectivo de empleados y extrabajadores del sector, quienes reclamaron formalmente un «derecho a advertir» (Right to Warn) sin sufrir represalias laborales ni económicas. En su declaración, respaldada por referentes teóricos de la disciplina como Geoffrey Hinton y Yoshua Bengio, los denunciantes acusaron a las corporaciones de imponer una cultura de silenciamiento basada en acuerdos de no difamación agresivos y cláusulas de confidencialidad desmedidas. «Las empresas de IA -como OpenAI, Google DeepMind y Anthropic- tienen fuertes incentivos financieros para evitar una supervisión eficaz, y no creemos que las estructuras de gobernanza corporativa a medida sean suficientes para cambiar esto», advirtieron los firmantes en el documento que sacudió los cimientos de Silicon Valley.
La denuncia interna subrayó que el público y las autoridades dependen casi a ciegas de las revelaciones de sus propios ingenieros, dado que las tecnológicas no están legalmente obligadas a transparentar las fallas de sus arquitecturas. «Las empresas de IA poseen información sustancial y no pública sobre las capacidades y limitaciones de sus sistemas… los empleados actuales y anteriores se encuentran entre las pocas personas que pueden exigirles rendición de cuentas ante la sociedad», sentenciaron los denunciantes, alertando sobre peligros que van desde la desinformación masiva y la amplificación de desigualdades hasta la pérdida irreversible del control operativo de sistemas.
El choque de posturas divide también a la propia élite empresarial, donde figuras como el titular de Nvidia, Jensen Huang, relativizan los escenarios catastróficos y desestiman el riesgo existencial para justificar una aceleración de las inversiones en infraestructura de cómputo. Frente a ese tironeo, el debate llevado al Consejo de Seguridad de la ONU confirmó que la regulación de la inteligencia artificial ya no representa un debate abstracto de laboratorio, sino una pulseada geopolítica donde los llamados a la autorregulación corporativa chocan contra las voces de los propios trabajadores técnicos que exigen transparencia obligatoria antes de que el despliegue comercial vuelva irreversible la pérdida del control.
