¿Puede una inteligencia artificial diseñada para salvar vidas ser utilizada para crear armas biológicas? Anthropic, la compañía detrás del modelo Claude, advierte que el uso indebido de la biología es uno de los riesgos más graves para la IA actual.
En un informe reciente, la empresa reveló que ha bloqueado múltiples cuentas de usuarios que eludieron sus controles de seguridad para ocultar el propósito de sus investigaciones. Se presentaron cinco estudios de casos reales donde se realizaron búsquedas sobre la llamada “ganancia de función”, abarcando desde venenos y toxinas hasta la gripe aviar.
Durante un análisis de 30 días, Anthropic identificó cerca de 35 acciones de investigación potencialmente preocupantes. Aunque la compañía señaló que los involucrados eran “científicos en ejercicio”, admitió que no puede determinar con certeza si tenían la intención de causar daño o si realizaban investigaciones con fines científicos legítimos.
Este es el dilema del uso dual: las mismas capacidades que permiten descubrir medicamentos para curar el cáncer pueden ser aprovechadas por actores malintencionados para desarrollar armas biológicas. Además, la firma informó que ha interrumpido gestiones para utilizar sus modelos en operaciones de vigilancia, estafas y el desarrollo de armas convencionales, como drones y misiles.
La alarma crece entre los expertos. Exempleados de la compañía, como Jacob Coxon, han advertido que el avance acelerado de la tecnología podría provocar un “caos extremo” o incluso la extinción si no se implementan controles estrictos. A pesar de que casi 1,400 empleados de diversas empresas de IA han pedido al Gobierno de Estados Unidos regular la tecnología, actualmente la industria se supervisa en gran medida a sí misma.
Siguenos en Noticias lat para más noticias.
