La empresa estadounidense Anthropic ha planteado formalmente la posibilidad de establecer una pausa temporal en el desarrollo de los sistemas de inteligencia artificial más avanzados. Esta propuesta tiene como objetivo primordial brindar el tiempo necesario para que la investigación, las regulaciones y las instituciones globales puedan adaptarse al acelerado ritmo de avance que presenta esta tecnología.
La compañía ha emitido una advertencia sobre un escenario futuro en el que la inteligencia artificial podría alcanzar la capacidad de crear, de forma autónoma, a sus propios sucesores. Anthropic describe esta situación como un panorama que conlleva beneficios potenciales, pero que simultáneamente implica riesgos significativos para la humanidad.
Dicha propuesta fue detallada en una publicación firmada por Jack Clark, cofundador de Anthropic, y Marina Favaro, directora de The Anthropic Institute. En el documento, la firma sostiene que la evolución de los modelos de IA está avanzando a una velocidad superior a la de las estructuras encargadas de supervisarlos. Esta disparidad ha abierto un debate necesario sobre la implementación de mecanismos internacionales que permitan gestionar el desarrollo tecnológico de manera segura.
Uno de los puntos centrales de la advertencia es el acercamiento de la industria a un fenómeno denominado “automejora recursiva”. Según explica Anthropic, se trata de una situación en la cual los sistemas de inteligencia artificial serían capaces de diseñar, entrenar y desarrollar versiones más avanzadas de sí mismos sin intervención humana directa.
Si bien la empresa aclaró que este escenario no es inevitable, reconoció la posibilidad de que se materialice antes de que las instituciones estén debidamente preparadas para afrontarlo. De acuerdo con la compañía, una IA capaz de construir a su propia sucesora podría acelerar drásticamente los descubrimientos científicos y los avances en el área de la salud; sin embargo, también incrementaría las probabilidades de que los seres humanos pierdan la capacidad de supervisión sobre estos sistemas.
Ante este riesgo, Anthropic señaló que, si los sistemas adquieren la capacidad de crear por completo a sus sucesores, los métodos para garantizar la seguridad, supervisar la tecnología y dar forma a su comportamiento se vuelven mucho más críticos e importantes. Por esta razón, la compañía considera que sería beneficioso contar con la capacidad de ralentizar o detener temporalmente el desarrollo de lo que se denomina inteligencia artificial de frontera.
Es importante destacar que la idea de la empresa no consiste en abandonar la investigación científica. El objetivo es crear un mecanismo que permita ganar tiempo para fortalecer los estudios sobre el alineamiento de la IA, desarrollar medidas de seguridad más robustas y preparar a las instituciones para gestionar tecnologías cada vez más potentes.
Para que una medida de este tipo sea efectiva, Anthropic plantea la necesidad de construir sistemas capaces de verificar que los distintos actores del sector cumplan con la pausa. Esto evitaría que algún laboratorio o país obtenga ventajas competitivas mientras otros detienen sus desarrollos. La empresa subrayó que una interrupción solo tendría sentido si fuera adoptada de forma coordinada por los principales laboratorios de inteligencia artificial a nivel mundial.
Además, la compañía indicó que una pausa creíble debe especificar con claridad qué evento la desencadena, cuáles son las condiciones para levantarla y quién sería la entidad encargada de arbitrar el proceso.
Esta advertencia surge en un contexto donde la propia Anthropic utiliza sus modelos de IA para optimizar sus procesos internos. La empresa compartió datos que revelan que, actualmente, más del 80% del código incorporado a su base de software es generado por Claude, su sistema de inteligencia artificial. Esta cifra representa un crecimiento acelerado, ya que en febrero de 2025, dicho porcentaje era inferior al 10%.
Este crecimiento interno sirve como ejemplo de la velocidad con la que las herramientas de IA transforman los procesos tecnológicos y prefigura las capacidades que podrían alcanzar los futuros agentes autónomos.
Finalmente, la propuesta de Anthropic se integra en las discusiones globales sobre la gobernanza de la inteligencia artificial. La firma considera que el desafío no es meramente tecnológico, sino también político y social, por lo que ha hecho un llamado a gobiernos, empresas e investigadores para trabajar en marcos de cooperación que permitan aprovechar los beneficios de la IA sin perder la capacidad de control. El planteamiento llega mientras el sector compite por modelos más potentes y diversos organismos internacionales advierten que la evolución de la tecnología podría superar la capacidad de respuesta de las instituciones tradicionales.
