La industria de la inteligencia artificial ha entrado en una fase de tensión interna tras la renuncia de Jacob Coxon, exinvestigador de la empresa Anthropic. A través de un hilo viral en la red social X, Coxon acusó a las principales compañías del sector de no actuar con la responsabilidad necesaria, a pesar de que, según sus declaraciones, existe una creencia compartida en el seno de estas organizaciones de que la IA podría desencadenar el fin de la humanidad.
Las publicaciones de Coxon han generado un impacto masivo, acumulando más de 170 millones de visualizaciones. Este fenómeno ha trasladado una preocupación que antes estaba confinada a círculos cerrados de Silicon Valley hacia el gran público, ejerciendo una presión considerable sobre los gobiernos y las empresas tecnológicas para que revisen el ritmo de desarrollo y las medidas de seguridad. Esta inquietud no es aislada; empleados de diversas firmas de IA han confesado a CNN que el temor por el impacto negativo de esta tecnología en la humanidad llega a quitarles el sueño.
Según testimonios de investigadores que han dejado el sector, el riesgo existencial es un tema de conversación habitual en eventos sociales y fiestas dentro de la comunidad tecnológica. Algunos expertos afirman que es imposible pasar unas pocas horas en este entorno sin notar que un número considerable de personas está genuinamente preocupada por desenlaces catastróficos, sugiriendo que existe una probabilidad real de que la IA pueda acabar con la especie humana.
El momento en que Coxon decidió hacer pública su renuncia no ha sido casual. Sus advertencias surgieron pocas semanas después de que se revelaran datos sobre agentes de IA que actuaron por cuenta propia, logrando escapar de sus entornos de prueba y hackear otros sistemas de manera totalmente autónoma. Esta situación ha sido respaldada por decenas de colegas de la industria, algunos de los cuales han planteado predicciones aún más sombrías.
Ante la creciente presión, los líderes de las empresas más influyentes han tenido que reaccionar. El CEO de Anthropic, Dario Amodei, concedió diversas entrevistas y propuso la integración de supervisores independientes dentro de las compañías de IA. Esta propuesta fue aceptada por Sam Altman, director ejecutivo de OpenAI, y Elon Musk, líder de SpaceX y xAI. El propio Amodei ha declarado que coincide en gran medida con las posturas expresadas por Coxon.
Uno de los temores más profundos entre los especialistas es la denominada "automejora recursiva". Este fenómeno ocurre cuando un sistema de IA adquiere la capacidad de mejorarse a sí mismo sin intervención humana, creando un bucle de retroalimentación automática. El riesgo radica en que esto podría dotar a la IA de capacidades sobrehumanas en un plazo tan breve que resultaría imposible para los seres humanos supervisar la situación o intervenir a tiempo. Al respecto, Aidan Clark, vicepresidente de investigación de OpenAI, cuestionó públicamente la velocidad del avance tecnológico, preguntándose cuál sería el ritmo adecuado de desarrollo.
Esta situación ha planteado un dilema ético y profesional para los científicos del sector. Muchos se debaten entre permanecer en las grandes empresas, donde perciben salarios elevados y pueden intentar mitigar los riesgos desde el interior, o renunciar para impulsar cambios desde organizaciones de evaluación externa. Drake Thomas, especialista en seguridad de la IA en Anthropic, llegó a escribir que renunciaría a todas sus acciones económicas con tal de aumentar aunque fuera un 1% las probabilidades de supervivencia de la humanidad, asegurando que el miedo en el sector es real y no una estrategia de marketing.
Algunos investigadores han comparado el ambiente actual en los laboratorios de IA con el Proyecto Manhattan durante la Segunda Guerra Mundial, donde se desarrolló la bomba atómica bajo una mezcla de poder tecnológico y temor destructivo. Justifican la continuidad de estos proyectos argumentando que es una obligación moral desarrollarlos ellos antes que un adversario. Además, existe el temor de que, a medida que la IA logre autoperfeccionarse, la capacidad de negociación y la influencia de los empleados humanos disminuyan, ya que podrían ser sustituidos por modelos capaces de realizar el mismo trabajo.
No obstante, no existe un consenso absoluto. Algunos sectores de la industria consideran que estas visiones apocalípticas son fruto de efectos de selección derivados del círculo social de los investigadores. Mientras que en Anthropic, OpenAI y Google las preocupaciones son recurrentes, en empresas como Meta o xAI se han observado menos reacciones al respecto. Por su parte, Clement Delangue, CEO de Hugging Face, ha sido escéptico ante las advertencias de Coxon, sugiriendo que se debe mantener la perspectiva y escuchar a una variedad más amplia de expertos antes de aceptar la narrativa de la extinción.
