Dario Amodei, fundador de la compañía Anthropic, ha lanzado una dura crítica contra el sector de la inteligencia artificial, afirmando que la industria ha mentido deliberadamente sobre los peligros asociados a esta tecnología. En una entrevista concedida al programa ‘Sunday Morning’ de la cadena CBS, Amodei subrayó la necesidad urgente de que tanto los gobiernos como la ciudadanía intervengan para mitigar los riesgos que conlleva el avance acelerado de la IA.
Durante la conversación, el directivo fue tajante al respecto: «No les voy a mentir: existen peligros reales. Creo que durante demasiado tiempo la industria le mintió a la gente sobre el hecho de que esta tecnología tenía riesgo». Amodei aclaró que, aunque en Anthropic han mantenido una postura honesta, gran parte del sector ha optado por ocultar o minimizar estas amenazas.
Estas declaraciones surgen en un momento de alta tensión en el sector. El sábado anterior, Amodei publicó un ensayo en el que instaba a la industria a adoptar un «ritmo más lento» debido a los crecientes riesgos de seguridad. En un movimiento calificado como inédito dentro del sector, esta postura fue respaldada por sus principales competidores, Sam Altman, de OpenAI, y Elon Musk, de xAI.
En su análisis, Amodei advirtió sobre peligros concretos y severos, tales como la posibilidad de que la inteligencia artificial sea utilizada para ejecutar ciberataques masivos o facilitar el bioterrorismo. Asimismo, señaló la preocupación por la pérdida del control humano sobre los sistemas de IA y la disrupción económica que estos podrían provocar. En una de sus advertencias más alarmantes, el ingeniero señaló que la IA podría, en el peor de los casos, provocar la muerte de toda la humanidad antes de que finalice la presente década.
A pesar de la gravedad de sus advertencias, Amodei rechazó la idea de implementar una prohibición completa de la tecnología. Según el empresario, tal medida sería contraproducente por dos razones fundamentales. En primer lugar, argumentó que prohibir la IA significaría renunciar a beneficios extraordinarios, como el desarrollo de curas médicas. En segundo lugar, sostuvo que el desarrollo tecnológico continuaría en otras naciones, específicamente en países autoritarios.
Este punto conduce a lo que Amodei define como «el dilema más duro» del debate actual: el riesgo geopolítico. El ejecutivo reconoció que si Estados Unidos ralentiza el desarrollo de la IA por motivos de seguridad, China podría aprovechar esa oportunidad para avanzar y tomar el liderazgo tecnológico.
Ante este escenario, Amodei expresó su incomodidad respecto a que el control de una herramienta tan poderosa resida en manos de empresas privadas y no en gobiernos elegidos democráticamente. Por ello, propuso la creación de una «gobernanza conjunta» liderada por una combinación de gobiernos democráticos que se encarguen del monitoreo constante de las compañías de IA. El fundador de Anthropic enfatizó que la probabilidad de un resultado catastrófico depende estrictamente de la metodología de desarrollo: «Si construimos de la manera correcta, creo que la probabilidad de que ocurra algo malo es muy baja. Si construimos de la manera incorrecta, la probabilidad de que ocurra algo malo es muy alta».
No obstante, la propuesta de desacelerar el ritmo de desarrollo no ha sido recibida con el mismo entusiasmo en los círculos políticos de Estados Unidos. Tanto el presidente Donald Trump como el líder de la Cámara de Representantes, Mike Johnson, manifestaron este domingo que el desarrollo de la IA debe continuar sin frenos para asegurar que China no tome la delantera en esta competencia tecnológica.
Este clima de incertidumbre se ve reforzado por testimonios internos. Recientemente, Jacob Coxon, un investigador que trabajó tanto en Anthropic como en OpenAI, anunció su dimisión. Coxon manifestó su preocupación por la falta de responsabilidad en el desarrollo de los modelos de IA, afirmando que las empresas están más enfocadas en superarse mutuamente que en garantizar la seguridad de sus productos.
A través de su cuenta en X, Coxon reveló que existe un temor real y profundo entre los expertos. Aseguró que quienes desarrollan la tecnología creen sinceramente que esta podría acabar con la humanidad antes de diez años y que esto no es una estrategia publicitaria. Según el investigador, muchos ejecutivos y especialistas matizan sus declaraciones ante la prensa para mantener una imagen de sensatez, aunque en privado expresen un temor genuino.
