Cultura
Tensiones éticas en la industria de la IA: una nueva renuncia en Anthropic reaviva el debate
«Están apostando con nuestras vidas», dijo Jacob Coxon, investigador de la compañía que decidió renunciar con una carta pública.
La última renuncia registrada en Anthropic se produce en un contexto de creciente presión competitiva entre los principales laboratorios del sector de la Inteligencia Artificial para acelerar el despliegue de modelos fundacionales. El investigador de seguridad Jacob Coxon fundamentó su decisión de apartarse de la compañía al señalar que «los plazos comerciales están imponiendo un ritmo que no permite completar las pruebas de contención y evaluación de riesgos con el rigor técnico que exige esta tecnología». Coxon remarcó que las alertas internas sobre vulnerabilidades no recibieron la prioridad comprometida, advirtiendo que «continuar en la estructura actual implicaba validar un nivel de riesgo innecesario en el lanzamiento de sistemas cada vez más autónomos».
La situación evoca los orígenes de la propia Anthropic, fundada en 2021 por Dario Amodei, Daniela Amodei y un grupo clave de investigadores que renunciaron a OpenAI tras discrepancias sobre el enfoque de seguridad, gobernanza corporativa y la velocidad del avance técnico posterior a la inversión multimillonaria de Microsoft.
Daniela y Dario Amodei
En su fundación, la empresa se constituyó bajo la figura de Public Benefit Corporation con el compromiso explícito de priorizar la investigación sobre alineación por sobre los imperativos de rentabilidad inmediata, un principio que las recientes dimisiones vuelven a poner en tela de juicio.
Entre las frases más sonantes del texto de Coxon se destacan:
«Corren derecho hacia una superinteligencia capaz de mejorarse a sí misma y apuestan con nuestras vidas»
«Las personas que están construyendo IA creen sinceramente que podría matarnos a todos para finales de la década»
«Ninguna otra actividad humana representa este nivel de peligro»
En OpenAI, dice, muchos «no internalizaron lo que está en juego para la civilización»
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
— Jacob Coxon (@hilbertspaess) September 9, 2026
El fenómeno de bajas por motivos éticos atraviesa de manera constante a los gigantes tecnológicos dedicados a la IA. En Google, a finales de 2020, Timnit Gebru, co-líder del equipo de Inteligencia Artificial Ética, fue desvinculada tras un conflicto abierto en torno a un artículo de investigación que cuestionaba los sesgos, el impacto ambiental y los riesgos de opacidad en los modelos masivos de lenguaje (LLMs); poco después, su colega Margaret Mitchell también fue apartada. Estas decisiones derivaron en renuncias en cadena dentro del equipo de investigación y fuertes reclamos de la comunidad científica internacional.
En OpenAI, las fricciones internas sobre gobernanza y seguridad se tradujeron en mayo de 2024 en la renuncia de Jan Leike, co-director del equipo de Superalignment, quien argumentó públicamente que «la cultura y los procesos de seguridad han pasado a un segundo plano frente a los productos brillantes». Su salida coincidió con la de Ilya Sutskever, cofundador y científico en jefe de la compañía —quien luego fundó Safe Superintelligence (SSI)—, y con una carta abierta firmada por un grupo de exempleados que exigían mayor transparencia interna y el derecho a advertir sobre riesgos existenciales sin sufrir represalias laborales.
Las recientes declaraciones de Coxon confirman que los esquemas de autorregulación corporativa muestran tensiones crecientes a medida que los modelos adquieren capacidades de razonamiento más complejas y despliegue a gran escala. Mientras los reguladores en la Unión Europea y Estados Unidos debaten marcos normativos de cumplimiento obligatorio para fiscalizar los entrenamientos de frontera, dentro de los laboratorios persiste la controversia sobre si los mecanismos de supervisión independientes son compatibles con la lógica de competencia acelerada del mercado tecnológico global.
Pingback: Andrew Garfield dejó de usar inteligencia artificial tras interpretar a Sam Altman: «Estamos entrando en un territorio muy desconocido» - Política Viral