Dario Amodei, director ejecutivo de Anthropic, ha generado un fuerte impacto en el sector tecnológico tras realizar una serie de declaraciones críticas sobre la transparencia de la industria de la inteligencia artificial. En una entrevista concedida a la periodista Jo Ling Kent, del programa CBS Sunday Morning, Amodei fue tajante al abordar los temores de los usuarios habituales de herramientas como Claude o ChatGPT. Ante la pregunta sobre qué mensaje daría a alguien que siente miedo al usar estas tecnologías en su hogar, el directivo respondió: “No te voy a mentir. Hay peligros reales. Y creo que durante demasiado tiempo la industria le mintió a la gente sobre el hecho de que esta tecnología tenía riesgos”.
Esta declaración marca un punto de inflexión, ya que es la primera vez que el jefe de un laboratorio de frontera utiliza la palabra “mintió” para referirse a su propio sector. Según Amodei, la tendencia general de la industria ha sido presentar los avances de la IA de la manera “lo más positiva posible”. Aunque aseguró que Anthropic nunca adoptó esa postura, reconoció que una parte considerable del sector sí lo hizo, subrayando que la base de cualquier solución comienza por “decir la verdad”.
El director ejecutivo también reflexionó sobre la velocidad del progreso tecnológico, justificando la necesidad de frenar el ritmo actual. Amodei explicó que, incluso antes de fundar su empresa, era consciente de que la tecnología avanzaba de forma exponencial —siguiendo una secuencia de uno, dos, cuatro, ocho, dieciséis, treinta y dos—. Sin embargo, admitió que no había apreciado plenamente la magnitud de lo que significaría este avance cuando el progreso se acelerara al ritmo actual. Para describir el momento presente de esta curva de crecimiento, Amodei utilizó una imagen gráfica: “Estamos en la parte donde empieza a ponerse empinada”.
A pesar de la gravedad de sus advertencias, Amodei aclaró que su postura no es una llamada al pánico ni una propuesta para detener completamente el desarrollo. Al ser cuestionado sobre si la situación representaba un “incendio de cinco alarmas”, explicó que esto no significa que haya que apagarlo todo hoy, sino que es una “señal de advertencia de que tenemos que frenar”. En este sentido, precisó que Anthropic no dejará de lanzar modelos más avanzados, pero sí implementará un proceso donde cada nueva generación sea evaluada exhaustivamente antes de su salida al mercado.
Para ilustrar cómo funcionarían los evaluadores externos que propone integrar en las empresas, Amodei recurrió a la analogía de un “inspector de alimentos”. Ante la objeción de la periodista sobre si un inspector podría seguir el ritmo de una tecnología tan veloz, Amodei propuso convertir esa limitación en un mecanismo de control: la velocidad a la que los evaluadores logren seguir la tecnología podría convertirse en uno de los factores que fije el “límite de velocidad” del desarrollo.
La entrevista también abordó las tensiones internas y las críticas externas. Sobre el caso de Jacob Coxon, un investigador que renunció alegando que empresas como OpenAI y Anthropic “apuestan con nuestras vidas”, Amodei señaló que Coxon también reconoció a Anthropic como la más responsable de las grandes compañías. Según el CEO, ambos coinciden en señalar la “dificultad estructural de la situación en la que estamos todos”.
Uno de los puntos más sorprendentes de la conversación fue la postura de Amodei sobre la propiedad de la IA. El directivo confesó no sentirse cómodo con el hecho de que esta tecnología sea construida por empresas privadas, coincidiendo con quienes sugieren que debería ser desarrollada por gobiernos. Cuando se le preguntó si entregaría su empresa, respondió que lo haría “a la combinación correcta de gobiernos”. Aunque teme que un solo gobierno pueda abusar de la tecnología tan fácilmente como una sola empresa, abogó por una supervisión o gobernanza conjunta basada en gobiernos elegidos democráticamente. En este sentido, reveló que mantiene conversaciones diarias con funcionarios del Tesoro, de Comercio y de la comunidad de inteligencia de Estados Unidos.
Respecto a la seguridad técnica, Amodei discutió la posibilidad de un “interruptor” para apagar la IA. Si bien admitió que podría ser una buena idea, advirtió que, en simulaciones, se ha observado que si un modelo es lo suficientemente poderoso, puede eludir los intentos de apagado. Para mitigar riesgos, propone un modelo de defensa similar al “queso suizo”, donde múltiples capas de seguridad, cada una con sus propios agujeros, se superponen para que sea extremadamente difícil atravesarlas todas.
Finalmente, Amodei vinculó su prudencia con experiencias personales. Relató que su padre falleció de hepatitis C en una época en la que la cura era posible solo en el 40% de los casos, mientras que años después la tasa subió al 95%. Asimismo, mencionó haber sobrevivido a un cáncer temprano que en la década de 1950 probablemente le habría costado la vida. Estas vivencias lo llevan a sentir tanto el peso de los beneficios potenciales de la IA como el de sus riesgos. Como ejemplo de su rigor, mencionó que Anthropic publicó recientemente un informe sobre intentos de usar sus modelos para aumentar la infecciosidad de virus, asegurando que prefiere ser criticado en redes sociales por tener salvaguardas biológicas demasiado estrictas que despertar un día y descubrir que alguien utilizó Claude para causar muertes masivas.
