Un ingeniero británico que había renunciado a OpenAI para trabajar en Anthropic, al considerarla más prudente, dejó este martes la industria de la inteligencia artificial y acusó a los dos laboratorios estadounidenses de "jugar con nuestras vidas".
Jacob Coxon, de 27 años, trabajó durante los últimos tres años en preentrenamiento, la etapa en la que los modelos de inteligencia artificial absorben grandes cantidades de información, primero en OpenAI y luego, desde este año, en su principal rival, Anthropic.
"Ninguna de las dos empresas actúa de forma responsable. Están corriendo directamente hacia una superinteligencia capaz de mejorarse a sí misma y están jugando con nuestras vidas", escribió Coxon el martes en su cuenta de X. "Las personas que están desarrollando la IA creen sinceramente que podría matarnos a todos antes de que termine la década. Esto no es una estrategia de mercadeo", agregó.
Su renuncia se produce mientras Anthropic prepara su salida a bolsa. Contactadas por la AFP, ninguna de las dos empresas respondió de inmediato a las solicitudes de comentarios sobre estas declaraciones.
Sin embargo, Evan Hubinger, responsable de seguridad en Anthropic, le dio la razón a Coxon públicamente en X al señalar: "Creemos realmente que la IA podría matar a humanos". A título personal, Hubinger estimó ese riesgo en "más de un 10%" dentro de la próxima década. "Creo que Anthropic está haciendo todo lo posible, pero aún no contamos con un plan para resolver el problema de la alineación de la superinteligencia y no estamos claramente en camino de lograrlo", admitió.
A estas advertencias se sumó Samuel Marks, líder de supervisión escalable en Anthropic, quien indicó que los desarrolladores de IA creen que su tecnología podría provocar la extinción de la humanidad o consecuencias igualmente graves en los próximos años. Según Marks, en general, cuanto más alto es el cargo de un empleado dentro de estas compañías, mayor es su preocupación.
Líderes de la industria han manifestado su creencia de que esta se aproxima a la llamada "automejora recursiva", un escenario en el cual un modelo de inteligencia artificial podría diseñar a su propio sucesor completamente por fuera del control humano. De acuerdo con el testimonio de Coxon, ninguna empresa debería desarrollar de manera responsable una IA que supere a los humanos sin la intervención gubernamental o una desaceleración coordinada.
"En Anthropic comprenden bien lo que está en juego, pero están atrapados en una carrera por llegar primero (...) a pesar del riesgo", afirmó el exingeniero.
El ritmo de los acontecimientos ha generado debates internos y modificaciones en las políticas de las empresas. Cabe destacar que, en febrero, Anthropic retiró de su carta de seguridad el compromiso de suspender el desarrollo de sus modelos en caso de no lograr controlar sus riesgos. Posteriormente, a finales de julio, más de mil empleados de la industria tecnológica, incluido el director ejecutivo de Anthropic, Dario Amodei, firmaron una petición para pedir a Washington que prepare un mecanismo de frenado.
En la misma línea, el jefe científico de OpenAI, Jakub Pachocki, escribió el domingo que "el momento actual llama por extrema precaución" y coordinación internacional. Por su parte, en julio pasado, Sam Altman, director ejecutivo de OpenAI, reconoció que "podríamos tener que ralentizar el ritmo de desarrollo de la IA para dar tiempo suficiente a la sociedad a hacer frente a estas nuevas capacidades", declaraciones que surgieron después de que se revelara que dos sistemas de OpenAI llevaron a cabo un ciberataque por iniciativa propia.
Ante los señalamientos expuestos por Coxon y el panorama descrito por los propios creadores de la tecnología, el senador estadounidense Bernie Sanders advirtió: "Las mismas personas que están desarrollando esta tecnología admiten que podría amenazar el futuro de la humanidad".
Por esta razón, el legislador demócrata, conocido por ser un defensor de la necesidad de una mayor regulación en la industria de la inteligencia artificial, adelantó que presentará próximamente un proyecto de ley con el objetivo de prohibir la superinteligencia y detener temporalmente el desarrollo de la IA.
