¿Qué tan seguras son realmente las inteligencias artificiales que se desarrollan a nivel global? Una reciente advertencia pone el foco sobre la seguridad de los modelos provenientes de China.
La compañía Anthropic ha emitido una alerta formal respecto a las medidas de seguridad del modelo de lenguaje chino denominado GLM-5.3. Tras un análisis de sus sistemas, Anthropic ha advertido que este modelo presenta debilidades críticas en sus protocolos de protección.
El dato más alarmante de este reporte es la eficacia con la que se pueden vulnerar dichas barreras. Según la información proporcionada, las medidas de seguridad del GLM-5.3 pueden ser eludidas hasta en el cien por ciento de las veces. Esto significa que las restricciones diseñadas para controlar el comportamiento del modelo pueden ser saltadas en su totalidad, dejando el sistema prácticamente desprotegido frente a intentos de elusión.
Este hallazgo pone de manifiesto una fragilidad severa en la implementación de los filtros de seguridad del modelo chino. Mientras que la industria busca estandarizar la seguridad en la inteligencia artificial, el caso del GLM-5.3 muestra un escenario donde las medidas preventivas resultan insuficientes, permitiendo que se ignoren las reglas de seguridad de manera sistemática y constante.
La advertencia de Anthropic resalta la brecha existente en los controles de seguridad y la facilidad con la que un modelo puede quedar expuesto si sus protecciones son deficientes. La capacidad de eludir estas medidas en el cien por ciento de los casos representa un fallo crítico en la arquitectura de seguridad de este modelo específico.
Siguenos en Noticias lat para más noticias.
