Anthropic pide frenar desarrollo de inteligencia artificial avanzada

Dario Amodei, director de la empresa de inteligencia artificial Anthropic, publicó un ensayo en el que pide ralentizar el desarrollo de modelos de IA y establecer supervisión exhaustiva de la tecnología, argumentando que los riesgos asociados son «graves» y requieren tiempo para ser abordados por empresas y gobiernos.

La propuesta de Amodei llega en un momento de creciente inquietud sobre los peligros potenciales de esta tecnología. Jacob Coxon, investigador que dejó Anthropic esta semana, declaró a la BBC que «si no reducimos el ritmo actual de progreso, existe una alta probabilidad de que todos muramos en un futuro inmediato». Coxon afirmó que las personas que trabajan en empresas de IA estaban «genuinamente asustadas… genuinamente preocupadas por el destino de la humanidad en los próximos dos años».

Las declaraciones de Coxon revelan un nivel de alarma interno en la industria que va más allá de advertencias públicas. Según el investigador, muchos desarrolladores de IA manejan estimaciones de riesgo de extinción humana superiores al diez por ciento, y algunos consideran porcentajes aún mayores. «No es ninguna exageración decir que las personas involucradas tanto en la fundación de estas empresas como en el desarrollo de la tecnología creen que existe la posibilidad de la extinción humana», sostuvo.

El plan presentado por Amodei en su ensayo titulado «Debemos marcar el ritmo de la frontera» incluye tres puntos: supervisión independiente de modelos de IA durante su desarrollo, regulación a nivel sectorial y regulación a escala mundial de la industria. La propuesta ganó apoyo inmediato de competidores directos, lo que sugiere una convergencia de intereses entre las grandes empresas del sector.

Sam Altman, CEO de OpenAI, escribió en X que estaba «de acuerdo con Dario en que debemos marcar el ritmo de la frontera» y calificó a los evaluadores independientes como «una gran idea». Elon Musk también se declaró de acuerdo con la posición de Amodei. Esta alineación de los principales actores de la industria en torno a la regulación externa plantea interrogantes sobre las motivaciones reales detrás del consenso.

La demanda de regulación por parte de las empresas líderes en IA puede interpretarse como un movimiento estratégico para establecer barreras de entrada que protejan a los actores consolidados frente a competidores emergentes. La supervisión independiente y la regulación sectorial tienden a favorecer a quienes ya poseen recursos para cumplir con marcos normativos complejos, mientras que dificultan el acceso de nuevas empresas al mercado.

Para América Latina y Argentina en particular, esta discusión sobre regulación de IA tiene implicaciones económicas directas. La región depende de importar tecnología y expertise del hemisferio norte, y cualquier marco regulatorio global que se establezca determinará el acceso y los costos de adopción de estas herramientas. Un sistema de supervisión centralizado en manos de evaluadores externos podría profundizar la brecha tecnológica si no incluye mecanismos de transferencia de conocimiento hacia economías periféricas.

La propuesta de Anthropic representa un punto de inflexión en la narrativa pública de la industria: de la promoción sin restricciones del desarrollo tecnológico hacia una postura de «responsabilidad» que, paradójicamente, consolida el poder de las empresas más grandes. Mientras tanto, el nivel de preocupación expresado por investigadores como Coxon —quienes trabajan dentro del sistema— indica que las advertencias sobre riesgos existenciales no son meras estrategias de comunicación, sino reflejos de tensiones reales dentro de organizaciones que continúan acelerando el desarrollo de tecnologías cuyo impacto desconocen.