ONU tiene una estrategia de IA para todos, menos para los laboratorios que la desarrollan

La Semana Digital de Ginebra se inauguró el 6 de julio con el Diálogo Global sobre la gobernanza de la inteligencia artificial (IA) y la Cumbre Global de IA para el Bien Común, donde el nuevo Panel Científico Internacional Independiente de las Naciones Unidas sobre Inteligencia Artificial presentó a los gobiernos su primera evaluación científica global de la IA.

Esta reunión culmina tres años en los que la ONU ha producido un volumen impresionante de trabajo sobre IA, desde el Pacto Mundial Digital hasta el informe Gobernar la IA para la Humanidad; desde la recomendación de la UNESCO sobre la ética de la IA hasta las cumbres anuales de la Unión Internacional de Telecomunicaciones. En conjunto, este trabajo comparte una postura común en la que la ONU trata la IA como algo que se recibe, un recurso que debe canalizarse hacia fines beneficiosos, alineado con los Objetivos de Desarrollo Sostenible, monitoreado en cuanto a sus efectos sociales y sujeto a salvaguardias éticas.

Este es el lado de la demanda de tecnología, y es donde se centra actualmente toda la actividad sustantiva de la ONU.

La oferta, es decir, los lugares donde se produce, evalúa y distribuye la IA de vanguardia, carece por completo de una presencia significativa de la ONU. No existe ningún organismo multilateral con personal técnico capaz de examinar el trabajo de un laboratorio, ni un mecanismo para evaluar las pruebas de entrenamiento, ni una infraestructura compartida para la notificación de incidentes a nivel internacional.

Cuál es la propuesta de la ONU

La estructura de gobernanza para las próximas décadas se está consolidando en la actualidad mediante acuerdos bilaterales entre laboratorios de vanguardia y los gobiernos que los albergan, en entidades privadas como el Proyecto Glasswing de Anthropic y en decisiones de control de exportaciones por parte de los países que albergan la tecnología.

Una vez establecidos esos hechos institucionales, el camino de menor resistencia para cada decisión posterior será extenderlos en lugar de construir una alternativa multilateral.

Este patrón se hace visible en las noticias. El Departamento de Comercio de Estados Unidos autorizó recientemente la publicación del modelo de IA más avanzado de Anthropic para aproximadamente 100 instituciones estadounidenses, dos semanas después de que una suspensión del control de exportaciones lo dejara fuera de servicio para todos.

Tanto la suspensión como la liberación selectiva fueron decididas por la Casa Blanca. Los socios aprobados son estadounidenses, pero las poblaciones afectadas por la tecnología son globales.

Los funcionarios europeos han expresado públicamente su frustración ante esta nueva dependencia de las decisiones tomadas en Washington, D.C. La autoridad para determinar qué poblaciones tienen acceso a una tecnología de seguridad fronteriza reside ahora, por defecto, en una única administración nacional.

¿Cómo sería el papel de la ONU como proveedor de inteligencia artificial?

Ya se están realizando evaluaciones previas al despliegue de modelos de IA. El Instituto de Seguridad de la IA del Reino Unido y el Centro de Estándares e Innovación de la IA de Estados Unidos (antes Instituto de Seguridad de la IA ) prueban modelos de vanguardia mediante acuerdos voluntarios con los principales laboratorios, una práctica tan habitual que los propios laboratorios la citan como prueba de un desarrollo responsable.

La pregunta que el sistema multilateral no se ha planteado hasta ahora es por qué la garantía de seguridad de la que disponen dos países no debería estar disponible para los otros 191 estados del mundo.

La ONU ya ha realizado este tipo de trabajo técnico. El Organismo Internacional de Energía Atómica (OIEA) se creó en 1957 para colaborar directamente con los lugares donde se fabrica material nuclear, y sus salvaguardias le otorgan una presencia técnica permanente en los países que han firmado el Tratado de No Proliferación Nuclear. El organismo trabaja dentro de las instalaciones donde se manipula el material nuclear, en lugar de hacerlo desde fuera de la industria que lo maneja, y las poblaciones de los países sin programas nucleares reciben garantías de un sistema que ninguno de ellos podría construir por sí solo.

Laboratorios de vanguardia en IA tienen sus propios motivos para participar

Ya están sometiendo modelos a evaluación voluntaria, porque esto les proporciona una acreditación que pueden citar y una defensa contra el argumento de que el desarrollo de vanguardia se está produciendo sin supervisión.

Un acuerdo multilateral sigue la misma lógica, brindando a los laboratorios una garantía que pueden ofrecer a mercados y gobiernos más allá de los dos países que actualmente la proporcionan, y protegiéndolos de la fragmentación regulatoria que generarían los acuerdos país por país. Les interesa ganarse la confianza del mundo, no solo de Washington y Londres.

La dificultad reside en que la producción de IA de vanguardia se concentra en Estados Unidos y China, y ninguno de los dos países muestra mucho interés en abrir sus laboratorios a una presencia multilateral.

Lo mismo ocurrió con las salvaguardias nucleares en 1953, cuatro años antes de que el OIEA entrara en funcionamiento, cuando una concentración similar de capacidades en dos potencias rivales, Washington y Moscú, parecía imposibilitar políticamente cualquier acuerdo. El organismo se creó porque ambas partes concluyeron que la transparencia mutua era preferible a la opacidad mutua, y el breve periodo entre 1953 y 1957 resultó ser el periodo formativo durante el cual se sentaron las bases para los siguientes 70 años.

La autoridad de la ONU

La agenda de reformas de la UN80 es el vehículo obvio a través del cual podría surgir la supervisión de la oferta, ya que la iniciativa está lidiando con la forma de reorientar la Secretaría de la ONU hacia el multilateralismo futuro, y la brecha en la gobernanza de la IA es precisamente la ausencia estructural que un proceso de reforma pretende abordar.

La ONU no puede ejercer autoridad en nombre de los miles de millones de personas a las que sirve si solo está presente en el lado donde se sienten las consecuencias de la tecnología de vanguardia y está ausente del lado donde se producen esas consecuencias.

Para subsanar esa deficiencia no se necesita una nueva agencia desde el primer día: bastaría con un mandato de la ONU80 para una pequeña unidad permanente de evaluación, conformada con recursos que la ONU ya posee, como el Centro Internacional de Computación, y una invitación a los laboratorios para que extiendan al centro los acuerdos voluntarios que ya respetan en Londres y Washington. Esa es la labor que deberá abordar la siguiente fase del compromiso multilateral.