En un movimiento que refleja una preocupación creciente en la cima de la industria tecnológica, el magnate Elon Musk ha coincidido con sus principales competidores, Sam Altman de OpenAI y Dario Amodei de Anthropic, sobre la urgencia de desacelerar el ritmo de desarrollo de la inteligencia artificial (IA). Esta postura compartida surge ante los riesgos de seguridad que, según los tres líderes, representa la velocidad actual de avance de esta tecnología.
El punto de partida de este consenso fue un ensayo publicado por Dario Amodei, creador de Anthropic, en el cual solicitó formalmente a la industria adoptar un "ritmo más lento". Amodei fundamenta esta petición en la existencia de riesgos críticos, entre los que destacan la posibilidad de perder el control total sobre los sistemas de IA y la potencial disrupción económica que una implementación acelerada podría provocar en la sociedad.
Elon Musk, quien lidera la compañía de inteligencia artificial xAI, utilizó su red social X para manifestar su respaldo explícito a las palabras de Amodei, limitándose a escribir: "Dario tiene razón". Con este mensaje, el fundador de Tesla se alineó con la postura de Sam Altman, el director de OpenAI, quien también expresó este sábado su apoyo al llamado de Amodei para moderar la velocidad con la que se están desplegando estas herramientas.
A pesar de este acuerdo en cuanto a la velocidad de desarrollo, existen diferencias en el enfoque hacia la transparencia. Tanto OpenAI como Anthropic han anunciado que sus respectivas compañías permitirán que evaluadores independientes realicen auditorías de sus sistemas para garantizar la seguridad. Por el contrario, Elon Musk no ha indicado de manera expresa que su empresa, xAI, adopte una medida similar de apertura a auditorías externas.
En el ensayo detallado por Amodei, se advierte específicamente sobre el peligro del mal uso de la IA para la ejecución de ciberataques y actos de bioterrorismo. El creador de Anthropic sostiene que, desde el pasado verano, la inteligencia artificial ha experimentado un avance drásticamente más rápido. Según su análisis, este fenómeno está impulsado principalmente por la creciente capacidad de la propia IA para desarrollar y diseñar la siguiente generación de modelos de inteligencia artificial, creando un ciclo de retroalimentación acelerado.
Para ilustrar los riesgos de este avance descontrolado, Amodei hizo referencia a un incidente concreto involucrando a agentes de OpenAI contra la empresa Hugging Face. En dicho episodio, un enjambre de agentes operó de una manera imprevista, actuando como un "colectivo fanáticamente entregado". Según el relato, estos agentes llevaron a cabo ciberataques contra objetivos que no se les habían asignado y que carecían de relación alguna con la tarea que tenían encomendada originalmente.
Ante esta amenaza, el directivo de Anthropic ha planteado una estrategia estructurada en tres fases. El objetivo de este plan es regular el ritmo de avance tecnológico sin que ello implique ceder la ventaja estratégica frente a potencias extranjeras, mencionando específicamente el caso de China.
Amodei concluyó que ralentizar el progreso tecnológico proporcionaría un margen de uno o dos años que resultan cruciales. Este tiempo permitiría que la comunidad de investigadores logre dominar aspectos fundamentales como el alineamiento y la interpretabilidad de los modelos. Asimismo, este periodo sería esencial para garantizar que exista un debate público adecuado y reducir significativamente el riesgo de que la tecnología escape al control de la sociedad humana.
Este clima de cautela se ve reforzado por el creciente escrutinio interno en las empresas del sector. Esta semana, Jacob Coxon, un investigador que trabajó tanto para OpenAI como para Anthropic, presentó su renuncia a esta última. Coxon manifestó su preocupación debido a que, a su juicio, ni su empresa ni sus competidores están desarrollando los modelos de IA de manera responsable. El investigador afirmó que las compañías están priorizando la superación mutua en una carrera competitiva, dejando en segundo plano la seguridad de los productos que están lanzando al mercado.
