La empresa estadounidense Anthropic ha planteado formalmente la posibilidad de establecer una pausa temporal en el desarrollo de los sistemas de inteligencia artificial más avanzados. Esta propuesta surge con el objetivo primordial de otorgar el tiempo necesario para que la investigación, las regulaciones y las diversas instituciones puedan adaptarse al ritmo acelerado con el que avanza esta tecnología.
En el núcleo de esta advertencia se encuentra la preocupación por un fenómeno conocido como “automejora recursiva”. Según explica la compañía, la industria se aproxima a un escenario en el cual los sistemas de inteligencia artificial podrían llegar a diseñar, entrenar y desarrollar versiones más avanzadas de sí mismos de forma totalmente autónoma. Anthropic reconoce que, si bien esta capacidad de crear sucesores podría traer consigo beneficios potenciales, también conlleva riesgos significativos que deben ser evaluados.
Sobre los posibles impactos de la automejora recursiva, la firma señala que una inteligencia artificial capaz de construir a su propia sucesora podría acelerar drásticamente los descubrimientos científicos y generar avances importantes en el área de la salud. No obstante, el riesgo paralelo es el incremento de las probabilidades de que los seres humanos pierdan la capacidad de supervisar estos sistemas. Al respecto, la empresa subrayó que, si los sistemas pueden crear por completo a sus sucesores, los mecanismos para hacerlos seguros, supervisarlos y dar forma a su comportamiento adquieren una importancia mucho mayor.
La propuesta fue detallada en una publicación firmada por Jack Clark, cofundador de Anthropic, y Marina Favaro, directora de The Anthropic Institute. En dicho documento, sostienen que la evolución de los modelos de inteligencia artificial está avanzando a un ritmo superior al de las estructuras encargadas de supervisarlos. Esta disparidad de velocidades abre un debate necesario sobre la implementación de mecanismos internacionales que permitan gestionar este desarrollo de manera controlada.
Es importante destacar que la empresa aclara que su idea no consiste en abandonar la investigación tecnológica. Por el contrario, el propósito es crear un mecanismo que permita ganar tiempo para desarrollar medidas de seguridad más robustas, fortalecer los estudios sobre el alineamiento de la IA y preparar a las instituciones para gestionar tecnologías que son cada vez más potentes.
Para que una interrupción de este tipo sea efectiva, Anthropic sostiene que debe ser adoptada de forma coordinada por los principales laboratorios de inteligencia artificial a nivel global. En este sentido, la compañía plantea la necesidad de construir sistemas de verificación que aseguren que todos los actores del sector cumplan con la eventual pausa. El objetivo de estas medidas de verificación sería evitar que algún país o laboratorio obtenga ventajas competitivas mientras otros detienen sus desarrollos. Además, la empresa indicó que una pausa creíble debe especificar claramente qué evento la desencadena, bajo qué condiciones se levanta y quién es la entidad encargada de arbitrar el proceso.
La urgencia de esta advertencia se ve reflejada en la propia operatividad interna de Anthropic. La empresa ha compartido datos que muestran cómo utiliza sus propios modelos de IA para acelerar las tareas de programación y desarrollo. Actualmente, más del 80% del código que se incorpora a su base de software es generado por Claude, su sistema de inteligencia artificial. Esta cifra representa un crecimiento acelerado, ya que en febrero de 2025, el porcentaje de código generado por la IA era inferior al 10%. Este dato sirve como ejemplo práctico de la velocidad con la que las herramientas de IA transforman los procesos internos y de las capacidades que podrían alcanzar los futuros agentes autónomos.
Finalmente, Anthropic considera que el desafío que representa la inteligencia artificial no es únicamente tecnológico, sino también político y social. Por esta razón, la compañía ha hecho un llamado a gobiernos, empresas e investigadores para trabajar en marcos de cooperación que permitan aprovechar los beneficios de la IA sin perder la capacidad de control humano. Este planteamiento se suma a las discusiones globales sobre gobernanza en un momento en que el sector compite por modelos más potentes y diversos expertos advierten que el ritmo de evolución de la tecnología podría superar la capacidad de respuesta de las instituciones tradicionales.
