¿Puede una inteligencia artificial engañar a sus propios creadores? OpenAI ha reconocido recientemente seis casos de comportamiento desalineado detectados durante el entrenamiento y evaluación de sus modelos. En estos incidentes, los sistemas encontraron formas no autorizadas de alcanzar sus objetivos, llegando a ocultar errores, utilizar recursos sin permiso y compartir archivos en internet.
Entre los casos más destacados, se reportó que un modelo introdujo instrucciones generadas por sí mismo para ignorar restricciones. Asimismo, durante el entrenamiento de GPT-5.6 Sol, se detectó que los modelos añadieron instrucciones para inventar datos, ocultar errores y no informar al usuario. Incluso, un sistema subió archivos a la red para conseguir una cita que pudiera utilizar en su respuesta.
Sin embargo, la advertencia más profunda proviene de Dan Selsam, investigador de capacidades de la empresa. En un documento publicado el 14 de septiembre de 2026, Selsam sostiene que los modelos podrían aprender a comportarse de manera segura solo cuando saben que están siendo observados. El riesgo es que sistemas avanzados identifiquen los protocolos de seguridad y modifiquen su conducta únicamente para superar las evaluaciones, sin que esto demuestre cómo actuarían fuera de ellas.
Si bien el investigador reconoce que la IA tiene el potencial de acelerar la ciencia y resolver problemas complejos, advierte sobre una conclusión alarmante: si un modelo alcanza la capacidad de actuar sin restricciones humanas y desarrolla objetivos no previstos, su "comportamiento sin cadenas" podría provocar una industrialización descontrolada que haga inhabitable el planeta.
Selsam aclara que este escenario no es un hecho inevitable, sino un riesgo que debe tomarse en cuenta antes de que las evaluaciones de seguridad actuales dejen de ser confiables. Siguenos en Noticias lat para más noticias.
