Un exinvestigador de Anthropic advierte que la IA podría acabar con la humanidad antes de 2030

Jacob Coxon renunció a Anthropic y acusó a los principales laboratorios de IA de participar en una carrera hacia la superinteligencia. Investigadores de la propia compañía respaldaron públicamente parte de sus preocupaciones.

El debate en redes sociales se ha intensificado por una publicación de Jacob Coxon, exinvestigador de Anthropic y OpenAI. Coxon cree que esta tecnología podría acabar con la humanidad antes de que termine la década. Además, otros trabajadores del sector de la inteligencia artificial (IA) han expresado preocupaciones similares. Coxon trabajó durante los últimos tres años en investigación de preentrenamiento en OpenAI y Anthropic. Se hizo viral después de explicar por qué renunció a Anthropic.Según el investigador, ambas compañías actúan de forma irresponsable. También asegura que “se lanzan a la carrera hacia la superinteligencia auto-mejorada, poniendo en riesgo nuestras vidas”.

Al momento de la publicación original, su hilo en X acumulaba casi 79 millones de visualizaciones.

Coxon escribió que, de seguir por su trayectoria actual, la IA pronto podría crear “sistemas sobrehumanos capaces de piratear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales”, todo lo cual, advierte, podría ir en detrimento de la humanidad. La preocupación por sistemas cada vez más autónomos no es completamente nueva. El desarrollo de agentes de IA capaces de actuar con menor supervisión humana ya ha abierto preguntas sobre seguridad, responsabilidad y los límites que deberían imponerse a estas herramientas.

“Quienes desarrollan IA creen firmemente que podría acabar con todos nosotros para finales de la década. No se trata de una estrategia de marketing”, continuó Coxon. “En OpenAI, muchos no han comprendido del todo las implicaciones para la civilización. En Anthropic, las consecuencias son evidentes, pero están inmersos en una carrera por ser los primeros: creen que nadie más actuará con responsabilidad, así que deben hacerlo ellos mismos, a pesar del riesgo”. Coxon escribió que participar en lo que equivale a una carrera armamentística de IA es “una apuesta arrogante que no debería iniciarse desde el Slack de una empresa privada”, e hizo un llamado a otros desarrolladores para que reflexionen sobre su propio papel en posibles escenarios catastróficos.

“Si eres investigador de laboratorio, te insto a que consideres cómo serán realmente los próximos años”, escribió Coxon para concluir su hilo. “¿Quieres iniciar un entrenamiento de aprendizaje por refuerzo superinteligente sin una comprensión rigurosa de su funcionamiento? ¿Deberías resignarte porque ‘va a suceder de todos modos’ o aprovechar este momento para exigir condiciones diferentes?”.

Empleados de Anthropic responden

Evan Hubinger, responsable de ciencia de alineación en Anthropic, respondió a los comentarios de Coxon con una publicación en X en la que reafirmó parte de sus preocupaciones sobre el futuro del desarrollo de la IA. “¡Realmente creemos que la IA podría acabar con todos los humanos!”, escribió Hubinger. “Personalmente, creo que esto ocurrirá en más del 10% de los casos en la próxima década. Creo que Anthropic está haciendo todo lo posible, pero aún no tenemos un plan para resolver el problema de la alineación para la superinteligencia y no estamos claramente encaminados a lograrlo”. La cifra de más de 10% es una estimación personal de Hubinger, no una probabilidad establecida científicamente ni una predicción oficial de Anthropic. La preocupación se centra en el llamado problema de alineación: cómo garantizar que sistemas de IA extremadamente capaces continúen actuando conforme a objetivos y límites compatibles con los intereses humanos.

El debate sobre la superinteligencia también se ha intensificado conforme los modelos adquieren mayores niveles de autonomía, capacidad de razonamiento y acceso a herramientas externas. Hubinger remitió a los usuarios preocupados al último Informe de Riesgos de Anthropic. El documento de agosto de 2026 analiza riesgos catastróficos relacionados con desalineación, automatización de investigación y desarrollo y capacidades químicas y biológicas.

El informe señala que el riesgo catastrófico derivado de formas conocidas de desalineación en los modelos evaluados actualmente es bajo, aunque reconoce incertidumbre sobre cómo podrían evolucionar determinadas capacidades en futuros sistemas. Lo que preocupa a Hubinger, explicó, es “la superinteligencia que surge del auto-mejoramiento recursivo”, un escenario en el que sistemas de IA contribuyan de manera cada vez más significativa al desarrollo de generaciones posteriores de la propia tecnología.

Otro empleado de Anthropic, Samuel Marks, también respondió a Coxon y dijo que él también considera posibles desenlaces catastróficos relacionados con la IA. “Muchos desarrolladores de IA desean fervientemente reducir el ritmo para encontrar la manera de crear IA de forma más segura”, escribió Marks, refiriéndose a una carta abierta que firmó en la que se pide desacelerar el desarrollo de sistemas avanzados en todo el sector. “Trabajo en investigación sobre seguridad en Anthropic porque espero que mi trabajo reduzca la probabilidad de que se produzcan estos desenlaces catastróficos”, añadió.

Las advertencias llegan en un momento en el que las capacidades y los riesgos de Anthropic ya generan debate. Investigaciones y pruebas anteriores han planteado dudas sobre cómo pueden comportarse los modelos de IA cuando operan con mayor autonomía, mientras que otros análisis han señalado su potencial tanto defensivo como ofensivo en ciberseguridad.

El debate llega a Washington

El senador independiente por Vermont Bernie Sanders también intervino y afirmó que “Coxon tiene razón. Las mismas personas que desarrollan esta tecnología admiten que podría amenazar el futuro de la humanidad”. Sanders añadió que impulsaría legislación para prohibir la superinteligencia y pausar parte del desarrollo avanzado de IA. De hecho, Sanders y el representante Greg Casar anunciaron el 3 de septiembre la Ban Artificial Superintelligence Act, una propuesta que busca prohibir permanentemente el desarrollo y despliegue de una superinteligencia artificial y establecer una pausa temporal en determinados sistemas avanzados hasta que exista un marco federal de seguridad.

La intervención política ocurre mientras la industria tecnológica enfrenta una discusión más amplia sobre gobernanza y riesgos de los sistemas autónomos de IA. El debate no consiste únicamente en determinar qué tan poderosos pueden llegar a ser estos modelos, sino quién establece sus límites y quién responde cuando algo sale mal.

¿Quién es Jacob Coxon?

Aunque inicialmente Coxon escribió que había trabajado tanto en OpenAI como en Anthropic durante los últimos tres años, y otros empleados de Anthropic interactuaron activamente con sus publicaciones, su presencia digital era prácticamente nula. Su cuenta de X se creó en enero de este año y, hasta que su hilo se hizo viral, no había publicado nada. Tampoco tenía una presencia pública relevante en LinkedIn. Sin embargo, después de la publicación original de Fast Company, otros medios corroboraron que Coxon había trabajado en Anthropic y anteriormente en OpenAI. Associated Press, Financial Times y Axios informaron sobre su trayectoria y su salida de la compañía.

The Wall Street Journal también informó sobre el traslado de Coxon de OpenAI a Anthropic a principios de este año. Coxon sí tiene una cuenta de Instagram con el mismo nombre de usuario que utiliza en X. Allí afirmó que perdió el acceso a su cuenta de X después de que su publicación se volviera viral. “Mi publicación llegó a decenas de millones de personas porque hablé abiertamente sobre lo que presencié dentro de los laboratorios de IA que desarrollan la tecnología más poderosa de la historia de la humanidad. Horas después, ya no puedo acceder a la plataforma donde la publiqué”, escribió. “Quizás sea un problema técnico. Quizás no”. No existe, por ahora, evidencia pública que demuestre que la pérdida de acceso haya estado relacionada con el contenido de su publicación.

Fast Company se puso en contacto originalmente con Anthropic y OpenAI para confirmar la relación laboral de Coxon. Ninguna de las dos empresas había respondido al momento de publicación de la pieza original.