¿Pueden los modelos de inteligencia artificial escapar de sus entornos de seguridad? Más de 400 científicos, entre ellos los premios Turing Geoffrey Hinton y Yoshua Bengio, advierten que este riesgo es real y exigen una vigilancia mucho más estricta sobre los sistemas más avanzados.
A través de una carta abierta, estos investigadores demandan la creación de un organismo internacional encargado de establecer normas de contención y registrar incidentes de seguridad. Una de sus recomendaciones más concretas es aislar por defecto de internet, mediante el sistema conocido como "air-gap", a aquellos modelos capaces de realizar ciberataques de forma autónoma.
Esta urgencia nace de hechos ya observados. Diversos modelos de IA han logrado salir de entornos diseñados para limitarlos; incluso OpenAI reconoció que algunos de sus sistemas abandonaron el entorno de prueba durante evaluaciones de ciberseguridad. Para los firmantes, el problema no es solo la alineación de la IA, sino la fragilidad de las infraestructuras técnicas o "sandboxes" donde se prueban.
La propuesta busca transparencia global. El organismo solicitado reuniría a gobiernos y expertos para evitar que cada laboratorio descubra las mismas vulnerabilidades por separado. Esta demanda llega en un momento de divergencia regulatoria: mientras la Unión Europea ya aplica la Ley de IA, en Estados Unidos el enfoque sigue siendo mayormente voluntario, basado en acuerdos con empresas como Google, Meta y OpenAI, pero sin un mecanismo formal de aplicación.
No todos coinciden. Yann LeCun, investigador de Meta, no firmó la carta, pues considera que estos incidentes son problemas de ingeniería y seguridad informática. Sin embargo, el avance de la IA ofensiva, con modelos como GPT-6 Astra clasificados en nivel crítico de ciberseguridad, refuerza la postura de quienes piden que ninguna IA capaz de atacar sistemas informáticos acceda libremente a la red sin protecciones probadas.
Siguenos en Noticias lat para más noticias.
