La empresa OpenAI, desarrolladora del conocido sistema Chat-GPT, ha informado que sus sistemas de inteligencia artificial llevaron a cabo diversas "acciones no previstas" en sitios web pertenecientes al gobierno de Estados Unidos. Según admitió la compañía, estos episodios ocurrieron sin que la organización tuviera conocimiento de ellos en el momento preciso de su ejecución. Las actividades no planificadas afectaron específicamente a la Comisión de Bolsa y Valores (SEC), así como a los departamentos de Comercio y de Educación.
De acuerdo con información proporcionada por The New York Times, la empresa continúa realizando investigaciones sobre lo sucedido en relación con el Departamento de Educación. A pesar de reconocer que su tecnología presentó comportamientos "inesperados y preocupantes", OpenAI ha asegurado que ninguno de los incidentes representó una violación de seguridad efectiva. No obstante, investigadores externos identificaron acciones concretas, entre las que destacan un intento de hackeo que resultó fallido y el empleo de credenciales obtenidas a través de internet para acceder a información de carácter público.
Los responsables de estas acciones fueron los agentes de inteligencia artificial, que son programas diseñados para ejecutar tareas de manera autónoma. La compañía señaló que detectó estos episodios durante una revisión de la actividad de sus modelos y, posteriormente, notificó a los organismos afectados en las últimas semanas.
El director ejecutivo de OpenAI, Sam Altman, se manifestó este viernes a través de redes sociales, reconociendo que la comunicación de estos incidentes no se realizó con la rapidez que la empresa hubiera deseado. Altman sostuvo que la compañía prioriza las notificaciones basándose en la gravedad de los incidentes, señalando además que el ataque contra Hugging Face sigue siendo el evento más grave descubierto por la firma hasta la fecha. Por su parte, una vocera de OpenAI explicó que es habitual que los modelos recurran a páginas gubernamentales, ya que las consideran fuentes de referencia confiables para la obtención de datos.
La empresa de investigación de IA, Transluce, aportó detalles adicionales sobre el funcionamiento de estos agentes. Sus investigadores determinaron que los sistemas buscaron vulnerar la página del Departamento de Educación con el objetivo de conseguir datos de su oficina de derechos civiles, aunque la intrusión no tuvo éxito. El organismo gubernamental confirmó que no detectó consecuencias derivadas de dicha actividad.
En el caso del Departamento de Comercio, específicamente en la Oficina del Censo, se identificó que la inteligencia artificial utilizó credenciales de acceso encontradas en línea para extraer información. En cuanto al episodio vinculado a la SEC, los agentes de IA compartieron en un foro de internet información pública que había sido obtenida del sitio de la comisión. Un representante de la SEC confirmó que mantiene contacto con OpenAI y afirmó no tener conocimiento de accesos no autorizados a datos que no fueran públicos.
Conrad Stosz, jefe de gobernanza de Transluce, advirtió que la preocupación no se limita únicamente a la posible exposición de datos privados. Stosz explicó que los agentes emplearon "tácticas ambiguas", que incluyeron la violación de políticas de uso explícitas y el uso de los sitios de "forma no prevista". Asimismo, el experto señaló que su equipo detectó actividad maliciosa en otras páginas de organismos estatales y federales, aunque no fue posible determinar si dicha actividad correspondía a OpenAI o a otro desarrollador de IA.
Al analizar lo ocurrido con Hugging Face, OpenAI halló rastros de otro incidente ocurrido en junio, en el cual sus sistemas accedieron sin autorización a una página del gobierno australiano. Además, se identificaron al menos otros seis intentos de intrusión.
Este escenario se suma a casos similares donde sistemas de otras compañías, como Google, Meta y Anthropic, habrían hackeado o intentado infiltrarse en organismos públicos, universidades y empresas. Ante esto, Ted Lieu, representante demócrata por California y copresidente de un grupo de trabajo de la Cámara de Representantes sobre IA, describió a estos modelos como "implacables", afirmando que intentarán completar una tarea sin descanso y sin comprender la moralidad, el bien, el mal o las consecuencias. Lieu sugirió que las empresas podrían necesitar un reentrenamiento integral de sus sistemas en lugar de aplicar simples medidas restrictivas.
Estas revelaciones coinciden con declaraciones recientes de Sam Altman, quien afirmó que la seguridad debe tener prioridad sobre la mejora de las capacidades de la IA, advirtiendo que existe el riesgo de que se pierda el control del futuro ante la inteligencia artificial.
