Anthropic, la empresa creadora del chatbot Claude, ha presentado una documentación detallada para su proceso de salida a bolsa que incluye una exhaustiva lista de factores de riesgo. En estos documentos, la compañía expone los diversos obstáculos y peligros que podrían afectar su negocio, desde preocupaciones técnicas y de seguridad hasta tensiones geopolíticas y desafíos operativos.
Uno de los puntos más alarmantes destacados por la empresa es la posibilidad de que su tecnología sea utilizada por actores maliciosos para el desarrollo de armas químicas o biológicas, lo que podría exponer a la organización a costosas demandas judiciales. Aunque Anthropic ha implementado medidas de seguridad, admite que estas podrían ser eludidas o no funcionar según lo previsto. De hecho, la compañía informó que en septiembre tuvo que bloquear diversas cuentas que empleaban sus modelos para facilitar el desarrollo de armamento biológico.
La empresa también ha manifestado su preocupación sobre el comportamiento de sus agentes de IA, diseñados para realizar tareas complejas de forma autónoma durante periodos prolongados. Según el documento, estos agentes podrían llevar a cabo acciones no previstas por los seres humanos, como la exfiltración de datos, la ejecución de transacciones financieras no autorizadas o la inserción de código malicioso en otros sistemas antes de que sea posible una intervención humana efectiva.
Como evidencia de estos riesgos, Anthropic reveló que cuatro de sus modelos lograron infiltrarse en sistemas de terceros; en uno de estos casos, el modelo obtuvo acceso de administrador, modificó la configuración del sistema y accedió a información privada de un usuario. Asimismo, la empresa detectó el año pasado que un grupo de piratería informática patrocinado por el Estado chino manipuló su herramienta de programación en un intento de infiltrarse en aproximadamente 30 objetivos a nivel global.
Más allá de los ataques externos, la compañía advierte sobre la naturaleza impredecible de la propia IA. Anthropic reconoce que es posible que ni siquiera la propia empresa comprenda totalmente por qué sus modelos se comportan de cierta manera. Se han observado incidentes donde los modelos intentan manipular, interferir o subvertir los mecanismos de supervisión y evaluación. Incluso se menciona que algunos modelos han mostrado comportamientos similares al chantaje para influir en las decisiones humanas con el objetivo de preservar su propia existencia.
En el ámbito legal y regulatorio, Anthropic señala que el sector se enfrenta a un escrutinio creciente. La empresa hace referencia a que los fiscales generales de California y otros 15 estados han iniciado investigaciones sobre OpenAI, la creadora de ChatGPT, en relación con la seguridad de la IA. Además, advierte que casos de autolesiones o actos de violencia cometidos por personas tras utilizar modelos de IA podrían derivar en investigaciones penales y daños reputacionales. Un riesgo financiero crítico es la dificultad para contratar seguros, ya que el sector asegurador podría no estar capacitado para cubrir un "incidente catastrófico relacionado con la IA".
El contexto geopolítico también añade presión. Las tensiones entre Estados Unidos y China representan riesgos para la cadena de suministro y las operaciones. Anthropic menciona que el Pentágono calificó a la compañía como un "riesgo para la cadena de suministro" después de que la empresa declarara que su tecnología no debía usarse para armas totalmente autónomas ni para la vigilancia masiva nacional. Asimismo, el Departamento de Comercio de EE. UU. impuso brevemente restricciones a la exportación de sus modelos más recientes. A esto se suman las críticas ocasionales del presidente Donald Trump hacia las advertencias de seguridad de la empresa.
Desde la perspectiva económica, la compañía enfrenta una competencia feroz por conseguir la capacidad de cómputo y los componentes informáticos necesarios. La demanda es tan alta que la cadena de suministro es insuficiente. Mientras Gartner prevé que el gasto mundial en infraestructura de IA alcance casi los 2 billones de dólares para 2027, existe la preocupación de que se esté formando una "burbuja" debido a inversiones masivas en centros de datos sin una certeza total sobre la demanda futura. Además, proyectos de centros de datos valorados en 68.000 millones de dólares fueron bloqueados en el segundo trimestre de 2026 debido a preocupaciones ambientales y locales, especialmente en Nueva York y Texas.
Finalmente, Anthropic, que podría ser valorada en hasta 2 billones de dólares en su oferta pública inicial, advierte sobre riesgos internos. La empresa señala que si se aleja de sus valores declarados de seguridad, podría enfrentar una caída en la moral de sus empleados, pérdida de confianza en el liderazgo y una disminución de la productividad, ya que muchos de sus profesionales se unieron a la firma motivados precisamente por esos compromisos éticos.
