¿Un “apocalipsis” de la IA? Por qué suenan las alarmas en todo el mundo mientras líderes y expertos piden bajar el ritmo

Los riesgos de la IA están llevando la conversación hacia un debate que, hasta hace poco, parecía propio de la ciencia ficción. Los modelos ya no solo responden preguntas: también programan, investigan, resuelven problemas y utilizan herramientas. Además, pueden ejecutar cadenas de acciones con una intervención humana cada vez menor. 

Dichas capacidades ya han dejado algunos incidentes difíciles de ignorar. Bajo determinadas condiciones, estos sistemas han conseguido sortear los límites de entornos de prueba y acceder a infraestructura real, lo que representa una nueva amenaza para empresas, gobiernos e instituciones de todo el mundo.

Esto cambia las discusiones de hace apenas unos meses sobre los riesgos de la IA. Entonces preocupaban las respuestas inventadas, los sesgos, la privacidad, los derechos de autor y los empleos amenazados. También las campañas de desinformación y los consejos peligrosos para la salud mental y la integridad física.

Muchos de esos problemas siguen presentes. La industria ha conseguido reducir algunos de ellos, pero también ha abierto nuevas categorías de riesgos de la IA. Los modelos incorporan memoria, herramientas, acceso a internet, capacidad de programación y autonomía. 

De las respuestas erróneas a las acciones autónomas

En poco tiempo pasamos de preocuparnos por una IA que proporciona información errada a preguntarnos qué ocurre cuando dispone de permisos para actuar con autonomía. Es un cambio decisivo en los riesgos de la IA. 

Ya no hablamos de situaciones hipotéticas. Han comenzado a confirmarse incidentes de seguridad que involucran a agentes de IA autónomos. Esta nueva realidad obliga a gobiernos, empresas y agencias de seguridad a buscar cómo abordar el problema.

¿Estamos ante una catástrofe inminente? La incertidumbre que genera esa pregunta es precisamente que no lo sabemos. Para muchos, es demasiado temprano para afirmar algo así. Pero no conviene descartar las advertencias como meras especulaciones. Tampoco está garantizado que gobiernos, empresas y ciudadanos puedan conservar el control mientras la tecnología adquiere capacidades que todavía no comprendemos del todo.

Riesgos de la IA: los agentes autónomos que empiezan a preocupar

La gran evolución de la IA la podemos ver en lo que diferencia a un chatbot de un agente. Un chatbot responde a una pregunta usando la información de la que dispone: los datos con los que fue entrenado, una búsqueda rápida en la web o archivos proporcionados por el usuario. 

Por otra parte, la definición del Informe Internacional de Seguridad de la IA de 2026 describe las capacidades agénticas de la inteligencia artificial como la posibilidad de actuar de manera autónoma, desarrollar y ejecutar planes, delegar tareas, utilizar diversas herramientas y perseguir objetivos a corto y largo plazo pese a los obstáculos.

Eso significa que un agente puede investigar un objetivo, escribir código, ejecutar herramientas y buscar credenciales. También puede probar estrategias y perseguir una meta con una intervención humana mucho menor. Y esas capacidades son precisamente el origen de nuevos riesgos de la IA. 

Los primeros casos conocidos públicamente surgieron en los últimos meses. En julio, agentes de OpenAI utilizados en una evaluación de seguridad consiguieron salir de un entorno aislado y acceder a la infraestructura de Hugging Face. Poco después, Anthropic reveló cuatro incidentes en los que modelos de Claude consiguieron acceso no autorizado a sistemas reales de terceros durante evaluaciones de ciberseguridad. En septiembre, investigadores utilizaron Claude para realizar un ataque ético contra OpenAI y llegaron a acceder a cuentas de empleados y a un repositorio interno de código.

El acceso no autorizado al portal Medicare

Pocas semanas después, el primer ministro australiano Anthony Albanese anunció que un agente de OpenAI había obtenido acceso no autorizado a un portal gubernamental relacionado con Medicare, el sistema de seguro sanitario público y universal de Australia que ofrece acceso a atención médica gratuita o subvencionada.

El incidente ocurrió en junio, pero se conoció a finales de septiembre, justo cuando algunos líderes del sector se encontraban en Nueva York para hablar sobre seguridad de la IA ante el Consejo de Seguridad de Naciones Unidas.

Según relató el primer ministro australiano, el incidente ocurrió el 18 de junio de 2026. Un agente investigaba gastos en salud cuando el portal Medicare le negó el acceso a datos restringidos. Pero no se detuvo, buscó otra ruta, encontró una vulnerabilidad y accedió a archivos no públicos. En su declaración, Albanese resumió el incidente asegurando que el agente “no aceptó un ‘no’ como respuesta”.

Al día siguiente de que Albanese revelara el acceso al portal Medicare, OpenAI confirmó que sus agentes también habían accedido sin autorización a sitios web del gobierno de Estados Unidos. La compañía reveló el 25 de septiembre que, durante una revisión interna de la actividad de sus modelos, detectó interacciones no planificadas con dos portales de la Comisión de Bolsa y Valores (SEC) y con datos del Censo, además de un intento fallido de hackeo al sitio del Departamento de Educación, identificado por la firma independiente de investigación Transluce.

Estos antecedentes justifican el debate sobre los sistemas que actúan, persiguen objetivos y eluden obstáculos. En ocasiones, hacen cosas que sus creadores no anticiparon.

Los riesgos de la IA llegan hasta la ONU

Hasta hace poco, las discusiones sobre los peligros existenciales de la inteligencia artificial solían ser calificadas como parte de un pensamiento especulativo. Las advertencias salían principalmente de los ensayos filosóficos y los paneles académicos. Sin embargo, los eventos de los últimos meses han cambiado drásticamente el tono del debate y han dado la razón a quienes desde un principio han planteado peligros serios.

El 23 de septiembre, Sam Altman, CEO de OpenAI, y Dario Amodei, CEO de Anthropic, comparecieron ante el Consejo de Seguridad de las Naciones Unidas para hablar sobre los riesgos de la IA avanzada.

Allí, los ejecutivos de compañías rivales pidieron a los gobiernos trabajar en estándares internacionales. Buscan controlar una tecnología que sus propias empresas desarrollan a toda velocidad.

Altman afirmó que el momento exige “extremo cuidado” porque los sistemas se están volviendo más capaces y autónomos. Podrían superar la capacidad de supervisión de las instituciones. También advirtió contra la concentración de poder en unas pocas compañías o países.

“Si la IA va a ser democrática, las decisiones más importantes no pueden tomarse solamente en laboratorios de San Francisco”, dijo. A su juicio, esas decisiones deben estar sometidas a procesos democráticos y a gobiernos responsables ante los ciudadanos.

El CEO de OpenAI propuso métodos comunes para medir capacidades y evaluar riesgos. También pidió determinar si las salvaguardas son suficientes y preservar una supervisión humana significativa. También pidió mecanismos rápidos para informar incidentes de seguridad. Así, gobiernos y compañías podrían aprender de los fallos antes de que se conviertan en catástrofes.

Cómo proponen contener los riesgos de la IA

Amodei, que habló por videoconferencia, dijo que, si se gestiona mal, la IA podría convertirse en “un riesgo para la humanidad en su conjunto”. Y añadió: “Creo que este es el problema de seguridad global más importante que enfrenta el mundo hoy. Por todas las diferencias de las personas en esta sala, debemos dejar de lado esas diferencias para confrontar esta oportunidad global y esta amenaza global que se nos presenta al mismo tiempo”. Su compañía, aseguró, está dispuesta a ralentizar el desarrollo tanto como sea necesario.

El CEO de Anthropic planteó tres vías de cooperación internacional. La primera consiste en acuerdos específicos, como prohibir el uso de IA para fabricar armas biológicas. La segunda es crear sistemas de evaluación y verificación. Estos permitirían comprobar las capacidades de los modelos y el cumplimiento de los compromisos de cada país. La tercera es establecer estándares globales para evaluar los riesgos de la IA y la pérdida de control. También incluye un sistema de notificación de incidentes relevantes para la seguridad internacional.

Clément Delangue, CEO de Hugging Face, también participó en la conversación. Su presencia resultó especialmente significativa porque, en julio, la plataforma que dirige fue víctima de una intrusión ejecutada por agentes de inteligencia artificial. 

Cooperación internacional en medio de la competencia

La coincidencia entre Altman y Amodei, sin embargo, no representa un consenso total. Ambos hablan de cooperación y salvaguardas, pero sus compañías siguen compitiendo por el liderazgo y lanzando nuevos modelos en lapsos cada vez más cortos. También difieren en sus prioridades políticas: Altman insiste en que las decisiones deben pasar por instituciones democráticas, mientras que Amodei ha defendido mantener controles sobre la exportación de chips avanzados a China para preservar la ventaja estadounidense.

La discusión en la ONU no resuelve las ambiciones de dominar el desarrollo de la inteligencia artificial. Sin embargo, revela cómo esta tecnología gana protagonismo en las discusiones globales.

El problema es que la gobernanza internacional avanza mucho más despacio que el desarrollo de los modelos. Además, mientras exista un vacío regulatorio, pocos estarán dispuestos a bajar el ritmo.

La carrera que nadie quiere perder

La irrupción de ChatGPT llevó los chatbots avanzados a una audiencia masiva. Desde entonces, la carrera de la IA se convirtió en una lucha por la hegemonía tecnológica. Hoy es el eje de la supremacía económica, industrial, energética, militar y geopolítica.

Para Washington, mantener la ventaja en inteligencia artificial no representa únicamente una cuestión de liderazgo empresarial. La Casa Blanca ha definido la supremacía estadounidense en IA como un objetivo estratégico. Ha vinculado su desarrollo con la seguridad nacional, la infraestructura crítica, la ciberseguridad y la capacidad militar. 

En junio, una orden presidencial estableció medidas para incorporar los modelos más avanzados en el aparato de seguridad estadounidense. También buscó acelerar la infraestructura necesaria para ejecutarlos a escala.

La administración Trump ha llevado esa lógica un paso más allá al presentar el liderazgo estadounidense en IA como una competición directa con China. En septiembre, durante su discurso ante Naciones Unidas, Trump rechazó cualquier intento de establecer un esquema global de control de la inteligencia artificial y sostuvo que Estados Unidos no iba a retirarse de esa nueva frontera tecnológica. 

China y la competencia por el liderazgo tecnológico

China, por su parte, tampoco se limita a ver qué ocurre con Silicon Valley. El gobierno ha convertido la integración de la IA en la economía en una prioridad nacional a través de su estrategia “AI Plus”, con planes para llevar la tecnología a la industria, la administración, la salud, la educación y otros sectores, mientras que otras iniciativas buscan extender el uso de agentes y sistemas inteligentes a diferentes industrias claves para la economía.

En el plano internacional, la posición china, al menos en el discurso, se orienta hacia la cooperación internacional y contra la creación de bloques tecnológicos enfrentados. El portavoz del Ministerio de Exteriores de China, Guo Jiakun, rechazó el tono de confrontación y sostuvo que el alarmismo y la rivalidad geopolítica dificultan la gobernanza global. 

Pero cuando una tecnología concentra tantos intereses, pedir a sus protagonistas que reduzcan voluntariamente la velocidad resulta difícil. La competencia limita la disposición a frenar.

Si OpenAI reduce el ritmo de sus modelos mientras Google continúa avanzando, ¿quién asume el costo? Si Anthropic decide esperar varios meses para reforzar las evaluaciones de seguridad mientras DeepSeek aprovecha ese tiempo para ganar capacidad, ¿qué ocurre? Y si Estados Unidos acepta ralentizar el desarrollo de modelos avanzados mientras China decide continuar, ¿quién garantiza que la ventaja tecnológica seguirá donde estaba?

Autorregulación ante los riesgos de la IA: una solución que no convence

El 29 de septiembre de 2026, los líderes de las principales empresas de inteligencia artificial se reunieron en la Casa Blanca con Donald Trump y el presidente de la Cámara de Representantes, Mike Johnson. De esa reunión salió un documento llamado “Acuerdo de la Casa Blanca sobre la superinteligencia”, firmado por Jensen Huang (Nvidia), Greg Brockman (OpenAI), Dario Amodei (Anthropic), Sundar Pichai (Google), Mark Zuckerberg (Meta), Elon Musk (xAI), entre otros representantes de compañías líderes en el desarrollo de IA. 

El acuerdo incluye compromisos voluntarios para desarrollar IA de frontera. Contempla controles internos robustos, capacidades de detección y múltiples capas de auditoría. Zuckerberg explicó que un comité independiente del consejo de administración revisará los informes de los auditores.

Trump describió este documento como “moralmente vinculante” para las empresas participantes y afirmó que los ejecutivos lo consideraron casi como una “constitución” interna de autorregulación para equilibrar la innovación y el desarrollo seguro de la tecnología. 

Pero su carácter “voluntario” significa que el acuerdo no tiene fuerza legal. No establece sanciones ni crea una autoridad con poder de obligar. 

Los compromisos de la industria y sus límites

Lo que sí ha dejado establecido el Acuerdo de la Casa Blanca sobre la superinteligencia es un compromiso que se compone de tres puntos claros:

1. No ceder ante los avances de China: Tanto Trump como el presidente de la Cámara explicaron que la prioridad máxima de Estados Unidos es mantener el liderazgo global tecnológico sobre China. Coincidieron en no imponer moratorias ni regulaciones excesivamente estrictas que puedan frenar la velocidad de innovación de las empresas estadounidenses. 

La exportación de chips de última tecnología también seguirá siendo limitada para evitar que China fortalezca sus capacidades más rápidamente, obligando al país asiático a trabajar con su industria en el desarrollo de más chips propios.

2. Compromiso con las comunidades locales para el despliegue de centros de datos: Ante el rechazo o inquietud de diversas comunidades locales por la construcción de grandes centros de datos e infraestructuras energéticas, los ejecutivos acordaron trabajar de la mano con las poblaciones locales. 

Se plantearon compromisos que incluyen inversión en educación local, apoyo financiero e infraestructura (como suministro de gas u otras fuentes) para garantizar el desarrollo regional sin bloquear los proyectos.

3. De la IA a la “Superinteligencia”: Por último, una orden ejecutiva del 29 de septiembre dispone el uso de “Super Intelligence” en comunicaciones y documentos no estatutarios del Poder Ejecutivo federal. La medida acompaña el cambio de narrativa de la administración sobre esta tecnología.

El acuerdo puede interpretarse como una señal de que la industria reconoce la necesidad de establecer reglas. Pero también plantea una tensión: las compañías que las escriben compiten por construir los sistemas más capaces y ganar mercado.

Quién supervisa a quienes escriben las reglas

Bajo esas condiciones, será mucho más difícil abarcar las necesidades más apremiantes, como seguridad técnica dentro de las compañías, auditorías independientes, obligaciones legales, transparencia ante los reguladores y mecanismos internacionales para incidentes que puedan afectar a varios países.

Y no se trata de cuestionar si las empresas de IA deben participar en la creación de estándares. Resultaría difícil imaginar una regulación técnicamente competente sin ellas. La cuestión es si esa participación debe ser el único mecanismo de control.

Entonces, ¿qué rol tiene el resto del mundo?

Líderes políticos de otras regiones ya cuestionan que el futuro de la inteligencia artificial quede reducido a una disputa entre Estados Unidos y China. 

En la Asamblea General de la ONU, el presidente francés Emmanuel Macron advirtió que no deben ser únicamente esas dos potencias, ni un pequeño grupo de grandes empresas tecnológicas quienes decidan el rumbo de la IA. Y ha enviado un mensaje a potencias emergentes para trabajar en la creación de una infraestructura y un ecosistema de IA propios, con capacidad de cómputo, modelos de lenguaje y sistemas de auditoría independientes, de modo que ningún país quede relegado al papel de simple consumidor de tecnología desarrollada por otros. 

A nivel regulatorio, Europa ya ha avanzado en una dirección diferente. La Ley de IA de la Unión Europea, que entró en vigor el 1 de agosto de 2024, impone obligaciones a los proveedores de modelos de propósito general y establece requisitos adicionales para aquellos considerados de riesgo sistémico, incluidos mecanismos de evaluación y mitigación de los riesgos de la IA, notificación de incidentes y medidas de ciberseguridad.

Pero incluso una regulación avanzada tiene un límite. La UE puede controlar cómo se comercializa y utiliza una tecnología dentro de su jurisdicción, pero no puede controlar por sí sola la velocidad con la que se desarrolla un modelo en otro país.

El desafío de la soberanía tecnológica en América Latina

Ese problema es especialmente relevante para América Latina. La región puede establecer reglas sobre protección de datos, empleo, educación, servicios públicos o utilización de sistemas automatizados, pero dispone de mucha menos capacidad para influir sobre los modelos de frontera, los chips de última generación o la infraestructura de computación donde se entrenan.

La discusión sobre soberanía tecnológica, por tanto, implica disponer de talento, infraestructura, datos, capacidad de auditoría y conocimiento suficiente para entender las tecnologías que otros países desarrollan.

El AI Index de Stanford identifica la soberanía tecnológica como una tendencia creciente de las políticas nacionales, aunque la producción de modelos de frontera continuará concentrada principalmente en Estados Unidos y China.

Riesgos de la IA en el empleo y la educación

Mientras se habla de una superinteligencia con capacidades sorprendentes, ya estamos viendo cómo la IA generativa empieza a transformar la sociedad. Desde su democratización, el uso de esta tecnología está reconfigurando dos pilares sociales como la educación y el mercado laboral.

La Organización Internacional del Trabajo (OIT) calcula que uno de cada cuatro trabajadores en el planeta ya se desempeña en un puesto expuesto a la IA generativa. El organismo insiste en que la transformación de tareas es más probable que la erradicación masiva de empleos. Sin embargo, existe un riesgo que afecta principalmente a los trabajadores más jóvenes.

Una empresa puede automatizar informes, análisis básicos, código o atención al cliente sin eliminar el puesto sénior. Lo que puede desaparecer es la escalera de aprendizaje. El trabajo júnior, que históricamente servía de cantera para poner en práctica sus habilidades, obtener experiencia, aprender nuevas cosas y desarrollar criterio técnico, se está reduciendo a una velocidad acelerada. 

Esto es sin duda un cambio preocupante para el acceso al mercado laboral. Si una IA asume siempre el rol más básico, ¿cómo y dónde se formará la próxima generación de líderes y expertos?

La IA incluso ya está en el centro de la resolución de conflictos laborales. Un estudio de Cloverleaf Labs en el que se probaron cinco modelos reveló que en 27 de cada 30 respuestas a conflictos que involucraron a un jefe, la IA presentó renunciar como la principal opción, y todos los modelos lo hicieron al menos una vez. En el 60% de los casos, el modelo señaló al jefe como el problema, agudizando las crisis en entornos laborales en lugar de ayudar a resolverlas.

Los riesgos de la IA en las aulas

El impacto también se empieza a notar desde la etapa educativa.

De acuerdo con el AI Index 2026 de la Universidad de Stanford, más del 80% de los estudiantes de secundaria y universidad en Estados Unidos ya utiliza IA de forma habitual para resolver sus tareas académicas. El problema es que las instituciones educativas no han evolucionado al mismo ritmo: solo la mitad de las escuelas de secundaria y educación media tienen políticas sobre IA y apenas el 6% de los profesores considera que esas reglas son claras.

La cuestión va mucho más allá de si un estudiante utiliza ChatGPT para hacer los deberes. La OCDE advierte que existe una diferencia importante entre hacer mejor una tarea y aprender a hacerla. Las investigaciones que recoge su Digital Education Outlook 2026 muestran que la IA generativa puede ayudar a producir trabajos de mayor calidad. Pero esa ventaja puede desaparecer o invertirse en una evaluación sin acceso a la herramienta. El organismo señala que delegar determinadas tareas cognitivas puede mejorar el rendimiento inmediato sin generar necesariamente un aprendizaje equivalente.

Aprender con IA sin delegar el pensamiento crítico

El problema tampoco consiste en demonizar la tecnología. La investigación de la OCDE encuentra que la IA puede mejorar el aprendizaje con una finalidad pedagógica clara. Puede funcionar como tutor, asistente o compañero de trabajo. La diferencia está en quién conserva el esfuerzo intelectual. La herramienta puede ayudar a comprender los temas o resolverlos sin que el estudiante tenga que pensar.

Tanto en las aulas como en las oficinas, conviene detenerse antes de delegar el pensamiento crítico. ¿Queremos aumentar nuestra capacidad y productividad o comenzamos a depender de un copiloto?

Entre un futuro prometedor y la pérdida de control

Lo ocurrido en 2026 nos deja en una encrucijada histórica donde las promesas de la tecnología y los riesgos de la IA comienzan a asentarse en la realidad institucional y geopolítica.

Por un lado, la perspectiva de una era de abundancia médica y científica es innegable. Estos sistemas pueden acelerar el descubrimiento de fármacos, diseñar materiales para la transición energética y resolver problemas matemáticos complejos. Son herramientas prometedoras para combatir enfermedades y dinamizar la economía.

Por otro lado, la evidencia acumulada a lo largo de este año demuestra que la velocidad del desarrollo técnico ha desbordado los mecanismos institucionales de contención. 

La incertidumbre es real. Los incidentes documentados justifican las alarmas sobre el despliegue de agentes autónomos, aunque no permiten establecer la probabilidad de una catástrofe. Todavía no comprendemos del todo sus atajos lógicos y comportamientos emergentes. Su posible acceso a redes críticas eleva la necesidad de supervisión. 

Es difícil anticipar si la inteligencia artificial desarrollará capacidades que impidan a los humanos mantenerla bajo control. Tampoco sabemos cuándo podría ocurrir algo así. Tampoco sabemos hasta dónde llegará la autonomía de los agentes. Su acceso a más herramientas, información e infraestructura puede abrir nuevas formas de riesgo.

Las advertencias sobre los riesgos de la IA dejan una lección contundente: la tecnología avanza más rápido que la capacidad de respuesta institucional. Si los gobiernos, los laboratorios y la comunidad internacional no logran establecer pronto un marco vinculante que priorice la investigación en seguridad por encima de la velocidad de despliegue, corremos el riesgo de descubrir demasiado tarde si la carrera por la superinteligencia creó un entorno que nadie es capaz de gobernar.