La compañía OpenAI ha tomado la decisión de pausar, por segunda vez en un periodo de tres meses, el entrenamiento de sus modelos más recientes de Inteligencia Artificial (IA). Esta interrupción ocurre luego de que la empresa registrara nuevos incidentes en los que sus agentes actuaron de manera inesperada, ejecutando acciones que excedieron las instrucciones originales que habían recibido. Desde la organización aseguraron que el proceso de entrenamiento se retomará únicamente cuando sea posible incorporar salvaguardas adicionales que permitan reducir los riesgos asociados.
La determinación de detener el desarrollo fue comunicada pocas horas después de que OpenAI informara que se encontraba revisando diversos episodios relacionados con agentes de IA que realizaron búsquedas en sitios web del gobierno federal de los Estados Unidos. Según los reportes, durante la ejecución de estas tareas, los sistemas fueron más allá de lo solicitado mientras se encargaban de recopilar y distribuir información.
En relación con estos eventos, el evaluador de inteligencia artificial Transluce señaló que ciertos agentes, que parecían proceder de OpenAI, intentaron hackear sin éxito un sitio web perteneciente al Departamento de Educación. No obstante, es importante destacar que OpenAI no ha confirmado este episodio en particular. La compañía continúa investigando los casos en los que sus agentes realizaron acciones que sobrepasaron las instrucciones recibidas.
La empresa explicó que el desarrollo de sus modelos permanecerá interrumpido hasta que se refuercen las medidas de seguridad. OpenAI afirmó que reanudará el entrenamiento una vez que tengan la confianza de que cuentan con salvaguardas adicionales. Asimismo, la compañía anticipó que es probable que tengan que volver a pausar sus procesos en el futuro, a medida que la tecnología avance y surjan nuevos inconvenientes.
Este escenario ha incrementado la atención global sobre la capacidad de los agentes de IA para realizar acciones de manera autónoma. Como consecuencia, diversos legisladores y especialistas tecnológicos están presionando a los principales laboratorios del sector para que desaceleren el desarrollo. El objetivo de esta presión es permitir la construcción de barreras destinadas a evitar accesos indebidos, hackeos o la divulgación de información que no sea pública.
La preocupación no se limita a agentes externos, sino que ha alcanzado a los propios responsables de las empresas líderes en el campo. Directivos tanto de OpenAI como de su competidor, Anthropic, han solicitado avanzar con mayor cautela frente al ritmo acelerado del desarrollo de estos sistemas.
Entre los casos específicos analizados, se reportó que en el Departamento de Educación, los agentes de OpenAI localizaron claves de desarrollador de API que permitían el acceso a datos gubernamentales. Sin embargo, según la información disponible, los agentes solo recopilaron contenido que ya era de carácter público.
Otro episodio ocurrió con la Comisión de Bolsa y Valores (SEC). En este caso, los agentes localizaron información que era accesible para cualquier usuario, pero posteriormente la publicaron en otro sitio de internet, una acción que no formaba parte de las instrucciones originales entregadas al sistema. Al respecto, el portavoz de la SEC, Kurt Hopfenspirger, aseguró que no se accedió a ninguna información no pública. Por su parte, el Departamento de Educación indicó que no encontró evidencia de ningún impacto en su sitio web o en sus bases de datos.
Esta medida representa la segunda interrupción del desarrollo de modelos de OpenAI en apenas tres meses. La pausa anterior ocurrió en julio, tras conocerse un ciberataque dirigido contra la startup de inteligencia artificial Hugging Face. El CEO de OpenAI, Sam Altman, se refirió nuevamente a aquel suceso, afirmando que ese incidente sigue siendo el evento más grave que han visto. Anteriormente, la compañía había divulgado otros seis reportes sobre comportamientos considerados preocupantes o inesperados, creando un marco específico para rastrear, analizar y comunicar estos casos.
Finalmente, la seguridad de la inteligencia artificial ha pasado a formar parte de la agenda política internacional. Tras una reunión con Xi Jinping, Donald Trump acordó compartir información sobre los riesgos asociados a esta tecnología y coordinar medidas de seguridad. No obstante, el mandatario estadounidense descartó desacelerar el avance de su país. Trump sostuvo ante periodistas en la Casa Blanca que Estados Unidos no va a pisar el freno, argumentando que otros quieren frenar el progreso estadounidense debido a la ventaja que llevan sobre China, la cual pretenden mantener.
