Papa León XIV llama a controlar la inteligencia artificial

El Papa León XIV destacó los desafíos de la inteligencia artificial al asumir el cargo este mes, subrayando la esperanza de los líderes religiosos de influir en una tecnología cargada tanto de grandes esperanzas como de temores apocalípticos.

El Papa fue citado por líderes evangélicos protestantes estadounidenses que publicaron el miércoles una carta abierta al presidente Donald Trump, en la que pedían una “revolución de la IA que se acelere responsablemente”, al tiempo que advertían sobre un “peligro potencial”.

El 10 de mayo, León XIV declaró a los cardenales que había adoptado su nombre papal en honor a León XIII (1878-1903). Había “abordado la cuestión social en el contexto de la primera gran revolución industrial”, afirmó el Papa.

Hoy, “la Iglesia ofrece a todos el tesoro de su doctrina social en respuesta a otra revolución industrial y a los avances en el campo de la inteligencia artificial”, añadió.

La carta del miércoles de los evangélicos exigía el desarrollo de “poderosas herramientas de IA que ayuden a curar enfermedades y resolver problemas prácticos”.

Pero también advirtió sobre “máquinas autónomas, más inteligentes que los humanos, que nadie sabe cómo controlar”, haciéndose eco del lenguaje de los llamados “catástrofes de la IA” de Silicon Valley.

Cambio trascendental

La mención de la IA por parte del Papa León XIV se produce tras años de intervenciones en diferentes niveles de la Iglesia Católica, según Paolo Benanti, de 51 años, sacerdote con un doctorado en ingeniería. Benanti ha asesorado tanto al Vaticano como al gobierno italiano en materia de tecnología.

El difunto papa Francisco integró sus ideas sobre tecnología e IA en reflexiones más amplias sobre el cambio climático y la sociedad.

En un discurso pronunciado en enero, citó “las preocupaciones sobre los derechos de propiedad intelectual, la seguridad laboral de millones de personas, la necesidad de respetar la privacidad y proteger el medio ambiente”, así como la desinformación.

Estos desafíos del siglo XXI inspiraron la declaración de Francisco en 2015: “No vivimos una época de cambio, sino un cambio trascendental”, declaró Benanti a AFP.

Y se esforzó por afirmar que el Vaticano no buscaba frenar el progreso.

“Observen la enorme mejora que la IA puede producir” en casos como la asistencia al diagnóstico médico en regiones con escasez de médicos, dijo.

“La IA podría ser una herramienta maravillosa, pero podría convertirse en un arma… esto es algo que podría ocurrir con todo tipo de tecnología, desde el martillo… hasta la energía nuclear”, añadió Benanti.

Algoritmos éticos

Francisco instó a la creación de una nueva “algor-ética” (combinación de “algoritmo” y “ética”) para gobernar la inteligencia artificial emergente.

Un concepto moral clave en los documentos de la Iglesia sobre tecnología es la defensa de la “dignidad humana”. Esto significa evitar “cualquier tipo de sistema que simplemente no pueda reconocer la singularidad del ser humano y respetarla”, dijo Benanti.

Benanti puso el ejemplo hipotético de un proceso automatizado para decidir sobre las solicitudes de asilo “basado en la correlación con otros datos y no en la propia y única historia”.

Esta tecnología recordaría el Holocausto, “la página más oscura del siglo pasado”, cuando un simple dato sobre si una persona era judía o no podía condenarla, afirmó Benanti.

En el mundo laboral, el fraile espera ver “innovación en IA compatible con los humanos”, con personas “que aporten algo único al proceso”.

Instó a los humanos a “seguir en condiciones de generar valor” en lugar de verse relegados a cubrir las carencias de las capacidades de las máquinas.

“Reducir los riesgos”

Francisco afirmó en enero del año pasado que “las máquinas altamente sofisticadas que sirven de soporte para el pensamiento… pueden ser abusadas por la tentación primordial de volverse como Dios sin Dios”.

“Es muy peligroso que los individuos se atribuyan poderes divinos para tomar decisiones por el resto de nosotros”, coincidió el reverendo Johnnie Moore, presidente del Congreso de Líderes Cristianos con sede en Estados Unidos y uno de los principales firmantes de la carta abierta del miércoles.

En lugar de permitir que los jefes tecnológicos y los científicos definan el futuro, los líderes deberían recurrir a la sabiduría acumulada a lo largo de los siglos por el pensamiento religioso para ayudar a trazar el rumbo, declaró a la AFP por teléfono desde Washington.

Si bien el Papa León XIV destacó los “nuevos desafíos para la defensa de la dignidad humana, la justicia y el trabajo” derivados de la inteligencia artificial, los líderes evangélicos fueron más allá.

Citaron la declaración de 2015 del CEO de OpenAI, Sam Altman: “La IA probablemente conducirá al fin del mundo, pero mientras tanto, habrá grandes empresas”.

“El riesgo actual es demasiado alto para ser tolerable”, declaró Moore. “Tenemos que reducir el riesgo para los seres humanos en este proceso”.