¿Podría la inteligencia artificial poner en riesgo la supervivencia humana? Esta es la inquietud que lleva al secretario general de la ONU, António Guterres, a proponer la creación de un mecanismo global de intercambio de información y salvaguardas comunes.
Guterres compara la situación actual con la Guerra Fría, recordando que, ante los riesgos nucleares, Washington y Moscú establecieron diálogos para evitar un desastre. Según el secretario, es esencial que los países con mayor capacidad tecnológica coordinen esfuerzos para evitar que la carrera por la hegemonía en IA termine en una catástrofe global.
La alarma no solo proviene de la ONU. Dario Amodei, de Anthropic, advierte que en un plazo de 6 a 12 meses, la "automejora recursiva" de la IA podría provocar una pérdida de control y daños masivos en la ciberseguridad. Sam Altman, CEO de OpenAI, ha respaldado este llamado y anunció que su compañía permitirá auditorías independientes en sus sistemas.
Sin embargo, las posturas políticas divergen. Donald Trump ha subestimado los peligros, afirmando que el único control necesario es un presidente "fuerte e inteligente". Por su parte, Pekín defiende el aumento de las salvaguardas, aunque acusa a empresas estadounidenses de difundir mensajes "amenazantes" que dificultan la gobernanza global.
Este será uno de los temas centrales en la reunión entre Trump y Xi Jinping el próximo 24 de septiembre en la Casa Blanca. Guterres advierte que la división geopolítica crea riesgos graves, ya que la IA no se detiene en las fronteras. Por ello, la ONU ha convocado a un panel de expertos científicos para garantizar que las medidas se basen en evidencias y se logre un avance seguro y responsable.
Siguenos en Noticias lat para más noticias.