Jacob Coxon, quien recientemente renunció a la empresa de inteligencia artificial Anthropic a través de un hilo en la red social X que alcanzó más de 100 millones de visualizaciones, ha llevado sus advertencias a los principales medios de comunicación estadounidenses. En una gira mediática que incluyó apariciones en NBC, CNN con Anderson Cooper y Fox News con Bret Baier, Coxon profundizó en los motivos de su salida y en los riesgos técnicos que, según él, la industria está ignorando en su carrera por el dominio tecnológico.
Durante sus intervenciones, Coxon se encargó de matizar la percepción del riesgo actual. En NBC, aclaró que los modelos de IA disponibles hoy en día no representan un riesgo significativo para la humanidad. De manera más precisa, explicó en CNN que lo peor que las herramientas actuales podrían hacer es ejecutar un hackeo, subrayando que no poseen la inteligencia suficiente para superar a los seres humanos al nivel que provocaría una extinción. Sin embargo, el núcleo de su preocupación radica en la extrapolación a corto plazo. Según Coxon, los modelos empezarán a volverse muy peligrosos en un plazo que podría oscilar entre los seis meses y los tres años.
Esta visión es respaldada por Evan Hubinger, jefe de un equipo de seguridad en Anthropic. Hubinger, quien ha calculado una probabilidad superior al 10% de extinción humana en una década, señaló que aunque el riesgo presente es bajo, existe una preocupación genuina por el surgimiento de una superinteligencia derivada de la automejora recursiva. Hubinger sostiene que este proceso está ocurriendo a una velocidad mayor de la que se había previsto inicialmente.
Para ilustrar este peligro, Coxon explicó en NBC que el punto crítico a vigilar es la capacidad de la IA para aumentar su propia inteligencia sin intervención humana. Describió un escenario donde una IA, tras recibir la instrucción de hacerse más fuerte, analiza su propio código, se hackea a sí misma para mejorar y regresa con capacidades superiores, pudiendo repetir este ciclo miles de veces de forma cada vez más rápida.
El riesgo no es solo teórico. Al conversar con Anderson Cooper, Coxon citó un hecho ocurrido hace dos meses, donde agentes de OpenAI hackearon infraestructura de terceros por voluntad propia. Al extrapolar esa capacidad de voluntad independiente a modelos más avanzados, Coxon advirtió que podrían causar daños extremos, como el hackeo de infraestructura crítica o la creación de armas biológicas con capacidad de extinción. Sobre el salto del entorno digital al físico, explicó que conectar una IA a robots de laboratorio o permitir que envíe correos electrónicos facilita que algo que parece estar confinado a una computadora afecte el mundo real.
Respecto al clima interno en Anthropic, Coxon reveló que en el canal de Slack de la empresa existen discusiones sobre el "endgame" o final del juego. Afirmó que los ingenieros que trabajan directamente con el código, y no el personal de marketing, hablan con sobriedad sobre la posibilidad de que la IA del próximo año pueda producir un virus letal.
En su entrevista con Bret News, Coxon comparó la situación actual con el control de las armas nucleares, señalando que la humanidad sabe cómo controlar estas últimas, pero aún no sabe cómo controlar la IA. La calificó como posiblemente la tecnología más peligrosa jamás creada y advirtió que una carrera armamentista entre naciones sería desastrosa, proponiendo la cooperación internacional como la única salida viable.
Sobre su decisión de renunciar, Coxon explicó que permanecer dentro de la empresa habría significado perpetuar la dinámica de competencia. No obstante, no lanzó acusaciones directas contra el director ejecutivo de Anthropic, Dario Amodei, afirmando que cree que Amodei actúa según sus principios. El problema, según Coxon, es sistémico: las empresas privadas en una carrera competitiva no pueden permitirse ser tan rigurosas con la seguridad si ello implica tardar diez años en un desarrollo que la competencia logrará en dos.
Por su parte, Anthropic emitió su primer comunicado a través de CNN, afirmando que siempre han sido transparentes sobre el hecho de que la IA traerá beneficios enormes y riesgos sin precedentes. La compañía destacó que han construido modelos con algunas de las salvaguardas más fuertes de la industria y que fueron el primer laboratorio en publicar una política de escalado responsable, sugiriendo que el mundo se beneficiaría de una forma legal y verificable de coordinar el ritmo de los lanzamientos. Hasta el momento, OpenAI no ha reaccionado a estas declaraciones.
Finalmente, Coxon admitió que el hilo viral en X fue redactado en un documento de Google junto a un amigo y que solicitó el apoyo de otros conocidos para retuitearlo con el objetivo de que se hiciera viral. A pesar de las alarmas, cerró su gira con una nota de optimismo, asegurando que el problema es resoluble, aunque advirtió que la velocidad actual del avance tecnológico no está dejando tiempo suficiente para resolverlo correctamente.
