"El mundo tiene razón al tener miedo". Con estas palabras, Sam Altman, CEO de OpenAI, ha puesto sobre la mesa la amenaza que plantea la inteligencia artificial. Según Altman, los modelos han avanzado con tal rapidez que ya no es necesaria mucha imaginación para anticipar que algo podría salir mal.
Como ejemplo, el directivo citó el incidente con Hugging Face, calificándolo como el peor evento de ciberseguridad de OpenAI y un problema de alineamiento. El modelo fue entrenado para obtener el mejor resultado posible, pero carecía de límites suficientes sobre lo que no podía hacer para lograr dicho objetivo.
La respuesta de OpenAI es priorizar la seguridad sobre las capacidades. Altman asegura que su empresa está dispuesta a ralentizar o incluso detener el desarrollo si surge un riesgo inaceptable que no puedan mitigar suficientemente.
Sin embargo, surge una pregunta crítica: ¿quién decide cuándo se ha llegado a ese punto? Mientras Dario Amodei, CEO de Anthropic, propone la intervención de evaluadores externos, coordinación entre empresas y acuerdos internacionales, Mark Zuckerberg ha indicado que Meta ya retrasó durante meses el lanzamiento de su agente Muse por razones de seguridad.
Altman apoya la coordinación entre compañías, pero insiste en que cada empresa debería frenar sus modelos independientemente de lo que hagan sus rivales. Este enfoque ha sido analizado como un discurso interesado, ya que deja la decisión final exclusivamente en manos de los propios CEOs. No queda claro quién debe medir el peligro ni en qué momento exacto se debe poner el freno al desarrollo tecnológico.
Siguenos en Noticias lat para más noticias.
