Bienvenido a la era del combate a través del chatbot

Parece como si hubiéramos entrado en la era de la guerra con inteligencia artificial (IA) sobre la que las películas siempre nos advirtieron.

Es cierto que parte de esto lleva años ocurriendo. Gran parte de la guerra ya se libra mediante drones. Ejércitos de todo el mundo realizan simulaciones de alta fidelidad para planificar posibles ataques, y algunos soldados incluso utilizan la realidad virtual. Una nueva generación de empresas de tecnología de defensa compite por su parte del complejo militar-industrial.

Pero ahora es evidente que los funcionarios de defensa están recurriendo a chatbots para misiones militares y de combate importantes, incluyendo operaciones destinadas a capturar, e incluso eliminar, a jefes de estado. Este fue el caso a principios de este año, cuando Estados Unidos lanzó una operación para capturar a Nicolás Maduro, el entonces presidente de Venezuela y ahora detenido federalmente. También fue cierto el 28 de febrero, cuando el ejército estadounidense —junto con las Fuerzas de Defensa de Israel— lanzó un importante ataque contra el régimen iraní y asesinó al líder del país, el ayatolá Alí Jamenei.

Ambas operaciones involucraron a Claude, el conjunto de grandes modelos de lenguaje creado por el laboratorio de inteligencia artificial de frontera Anthropic.

¿Cómo llegamos a esta situación?

El ejército estadounidense ha buscado y desarrollado herramientas de alta tecnología durante décadas. Las modernas plataformas de sensores y vigilancia le han permitido recopilar cada vez más datos y, a su vez, utilizarlos como base para nuevos modelos algorítmicos. La definición exacta de inteligencia artificial siempre ha sido flexible, pero incluso en la década de 2000, grupos de investigación como DARPA (Agencia de Proyectos de Investigación Avanzada de Defensa) desarrollaban proyectos de robótica y vehículos autónomos. Las organizaciones militares también apoyaron las primeras iniciativas para utilizar el aprendizaje automático.

El impulso militar a la IA se formalizó en 2017, cuando el Departamento de Defensa anunció el Proyecto Maven, una iniciativa destinada a optimizar las plataformas de datos militares y sentar las bases para la implementación de algoritmos y otras tecnologías avanzadas, como la visión artificial y la detección de objetos, en las operaciones y el campo de batalla. Tras la oposición interna y las protestas generalizadas, Google abandonó el desarrollo de Maven, y Palantir ahora proporciona la tecnología principal para la herramienta.

La IA en contextos violentos

En 2018, las Fuerzas Armadas de Estados Unidos crearon la Oficina Conjunta de Inteligencia Artificial para centralizar su trabajo en tecnologías emergentes. Esta posteriormente se convirtió en la Oficina Principal de Inteligencia Digital y Artificial, cuyo objetivo es acelerar la adopción de la IA en todas las ramas militares.

Lo que hace que este momento parezca tan inquietante es que el ejército parece estar empleando las mismas herramientas de IA que usa el consumidor común, pero en contextos mucho más violentos. Y como esas herramientas son tan familiares, es fácil imaginar que el ejército las use con la misma naturalidad y rapidez con la que nosotros las usamos. Quizás, como sugirió un usuario de internet , alguien del Departamento de Defensa simplemente le escribió a Claude: “Claude, secuestra al dictador de Venezuela… No te equivoques”, de la misma manera que le pedimos que nos responda un correo electrónico más.

—Para que conste, cuando le pregunto a Claude sobre su papel en estas operaciones, niega cualquier implicación: “No ayudé en ninguna de esas operaciones”, me dice mi chatbot. “Soy Claude, un asistente de IA creado por Anthropic. No tengo capacidades operativas, no realizo acciones en el mundo y no estoy involucrado en operaciones geopolíticas o encubiertas de ningún tipo”—.

Sabemos, sin embargo, que Claude se utilizó en operaciones recientes, aunque la IA probablemente realizaba algo mucho más complejo que responder a una indicación improvisada. Hay muchas preguntas sobre cómo, exactamente, se utilizó a Claude en la operación de Venezuela y, de hecho, cómo se está utilizando en la guerra actual con Irán. Pero sí sabemos que Claude goza de gran popularidad en el ejército y en el gobierno.

Funciones secretas y con relevancia geopolítica

Exfuncionarios de inteligencia artificial del Departamento de Defensa y empleados de Palantir me comentaron la semana pasada que la herramienta funciona junto con Maven, el programa insignia de inteligencia artificial del ejército. También sabemos que, al menos durante la operación contra Maduro, se accedió a la tecnología de Anthropic a través de un servicio clasificado ofrecido al ejército a través de Palantir. Es muy probable que se tratara de algo mucho más complejo que simplemente pedirle a Claude que elaborara un plan de ataque y lo ejecutara. 

Esto no va a desaparecer. A pesar del esfuerzo continuo del gobierno federal por eliminar la tecnología de Anthropic de sus sistemas, no hay indicios de que la agencia haya terminado con los LLM. OpenAI y xAI también han obtenido importantes contratos del Departamento de Defensa; la semana pasada, ambas compañías firmaron acuerdos que permitirán el uso de su tecnología en sistemas clasificados. —Conectar la tecnología de xAI u OpenAI a los sistemas del Departamento de Defensa podría ser tan sencillo como conectarlos mediante una API, según me cuenta un exempleado de Palantir—. El Departamento de Defensa también mantiene un recurso dedicado a la IA generativa llamado GenAI.mil.

No me sorprende. Suelo usar chatbots, plataformas como Claude y ChatGPT, para realizar tareas de investigación menores y molestas que preferiría no hacer, además de otras innumerables cosas que me han hecho mucho más productivo. Pero también pueden volverme más descuidado, y sé lo tentador que es delegar la tarea a un tercero, completamente tecnológico. Por eso resulta aún más desconcertante recordar que el ejército estadounidense utiliza estos mismos chatbots de formas mucho más secretas y con mayor relevancia geopolítica.