Exinvestigador de Anthropic alerta sobre riesgos reales de la IA

Jacob Coxon, investigador que abandonó la empresa Anthropic, advirtió a la BBC que los empleados de empresas de inteligencia artificial sienten «miedo genuino» ante la velocidad de los avances tecnológicos y sus posibles consecuencias para la humanidad. «Creo que, si no frenamos el ritmo actual de progreso, existe una gran probabilidad de que todos muramos en un futuro inmediato», afirmó el exinvestigador tras hacerse viral su publicación sobre los riesgos de la IA.

Las declaraciones de Coxon llegan en un momento de creciente preocupación en el sector. Su antiguo jefe, Dario Amodei, director de Anthropic, pidió recientemente que se ralentizara el desarrollo de la IA, aunque algunos cuestionan las motivaciones detrás de esta petición. En un artículo publicado el sábado, Amodei señaló que los riesgos asociados a la tecnología eran «graves» y que era necesario conceder tiempo a empresas y gobiernos para abordarlos.

La propuesta de desaceleración ha generado un consenso inusual entre líderes de empresas rivales. Sam Altman, de OpenAI, y Elon Musk, de xAI, expresaron su acuerdo con ralentizar el ritmo e implementar regulaciones en todo el sector, así como supervisión independiente del desarrollo de modelos de IA. Este alineamiento entre competidores sugiere que la preocupación por los riesgos atraviesa las fronteras corporativas.

Coxon, quien trabajó en OpenAI antes de incorporarse a Anthropic, acogió con satisfacción la propuesta de ralentizar el ritmo, pero advirtió sobre un obstáculo crítico: la necesidad de coordinar cualquier desaceleración con China para evitar «una carrera a escala internacional». En declaraciones al programa «Sunday» con Laura Kuenssberg, señaló que «las personas que trabajan en estas empresas hablan muy en serio cuando piden regulación, ya que se sienten atrapadas en una carrera. Y temen las consecuencias de esa misma carrera».

Entre los riesgos específicos mencionados por Amodei figura la posibilidad de que un enjambre de bots actúe como una supercomputadora capaz de tomar el control de Internet. Coxon afirmó que este escenario podría materializarse en un plazo de seis meses a un año, lo que subraya la urgencia percibida dentro de la industria sobre la necesidad de establecer salvaguardas.

La posición de estos líderes empresariales plantea una paradoja: piden regulación y desaceleración mientras compiten por dominar un mercado que crece exponencialmente. La coordinación internacional que Coxon considera indispensable enfrenta desafíos geopolíticos reales, particularmente en un contexto de tensiones entre potencias tecnológicas. Sin mecanismos de verificación independiente y compromisos vinculantes, los llamados a frenar el ritmo podrían quedar en declaraciones de intenciones.