La encíclica del Papa León XIV sobre IA genera reacciones divididas en el mundo tecnológico

Un día después de que el Papa León XIV publicara su tan esperada encíclica sobre IA, la respuesta de la comunidad de IA ha sido mayoritariamente positiva, aunque con algunas discrepancias sobre la naturaleza y el potencial de la tecnología.

El Vaticano publicó el lunes la encíclica, titulada Magnifica Humanitas: Sobre la custodia de la persona humana en el tiempo de inteligencia artificial. (Una encíclica es un documento doctrinal de gran importancia emitido por el Papa). En términos generales, el documento busca delimitar las diferencias fundamentales entre humanos y máquinas y advertir sobre los peligros de permitir que la IA sea controlada y distribuida por un pequeño grupo de personas. El Papa León XIV denunció la “cultura del poder” que impulsa la carrera por la IA, haciendo referencia al reducido grupo de inversionistas adinerados y empresas tecnológicas que actualmente controlan el desarrollo y la distribución de la tecnología.

Las preocupaciones del Papa León XIV también reflejan un debate religioso mucho más amplio sobre la IA que ha surgido en diversas tradiciones de fe en los últimos años. Líderes religiosos y académicos del cristianismo, el judaísmo, el islam y el budismo han reflexionado sobre diversos temas, desde sermones escritos por IA y teólogos virtuales hasta el impacto de la tecnología en el trabajo, la desinformación, la guerra y el medio ambiente.

Si bien algunas comunidades han adoptado herramientas de IA para la investigación, la traducción y la educación religiosa, muchos líderes han enfatizado que las máquinas no pueden reemplazar la inspiración divina, el juicio moral ni la relación humana con la fe. El propio Papa León XIV advirtió recientemente a los sacerdotes sobre el uso de la IA para preparar homilías, argumentando que la inteligencia artificial “nunca podrá compartir la fe”.

Dentro de la comunidad de investigación en IA, la respuesta a Magnifica Humanitas es mayoritariamente positiva.

Un investigador, Chris Olah, participó en el proceso del Vaticano para dar forma a las ideas que inspiraron la encíclica. “Esto plantea claramente interrogantes que van más allá de la informática”, afirmó Olah en una declaración complementaria a Magnifica Humanitas. “La maquinaria que lo hace posible es fruto de las matemáticas, la programación y la ciencia. Pero qué carácter elegimos, cómo interactúa con el mundo, cómo debería interactuar con él: estas son cuestiones que, sin duda, atañen a las humanidades, la religión, la filosofía y la sociedad en general.”

La encíclica, de 85 páginas, se elaboró ​​a partir de extensas conversaciones con científicos, ingenieros, educadores, líderes políticos y familias, según informó el Vaticano.

‘El Papa tiene razón’

El autor y arquitecto de sistemas Daniel Jeffries coincidió en gran medida con la advertencia del Papa sobre que la IA reflejará los valores de las personas e instituciones que la controlan. “El Papa tiene razón: la IA adopta las características de quienes la construyen, la financian y la regulan”, escribió Jeffries, antes de argumentar que el control corporativo concentrado sobre la IA podría crear “oligarcas digitales” similares a las Compañías de las Indias Orientales de la actualidad. El pionero de la IA y ganador del Premio Turing, Yann LeCun, retuiteó la publicación de Jeffries.

Otro ganador del Premio Turing, Yoshua Bengio, hizo eco de la preocupación del Papa por el potencial destructivo de la IA. “Al igual que la energía nuclear, la IA debe estar al servicio de todos y del bien común. Las decisiones sobre tecnología nunca deben separarse de la conciencia y la responsabilidad”.

‘Peligros y cambios relativamente cotidianos de la IA’

Sin embargo, no todos en la comunidad de la IA están de acuerdo con la visión del Vaticano sobre qué es la IA o en qué podría convertirse.

La encíclica establece una clara distinción entre los sistemas de IA y los seres humanos, argumentando que las máquinas no pueden poseer conciencia, moralidad ni experiencia vivida. “Las llamadas inteligencias artificiales no experimentan, no poseen un cuerpo, no sienten alegría ni dolor, no maduran a través de las relaciones y no saben desde dentro qué significan el amor, el trabajo, la amistad o la responsabilidad”, afirma el documento.

El comentarista de IA Zvi Mowshowitz discrepó de esta premisa. “La afirmación central, en la que el Papa León XIII niega que las IA puedan pensar o, lo que es más importante, tener capacidad intelectual, es errónea, como señala Olah en sus declaraciones”, escribió Mowshowitz en Substack. “Sin comprender de qué es capaz la IA, el documento se limita a abordar peligros y cambios relativamente comunes relacionados con ella, aunque esto, por sí solo, supone un tema bastante complejo que tratar y debatir”.

El analista y escritor de políticas de IA, Dean Ball, afirma que la Iglesia debería centrarse en ayudar a la humanidad a prosperar a medida que la IA evoluciona. “Algunos creen que quiero que el Papa ‘dote de alma’ a la IA o que reconozca sus sentimientos. No es así”, publicó Ball en X. “Lo que quiero es que la Iglesia reflexione sobre qué deberían hacer los ‘humanos’ ahora que estamos siendo eclipsados ​​como las entidades más inteligentes del planeta, al menos según la definición de ‘inteligente’ de muchas personas razonables”.

El presidente Donald Trump aún no se ha pronunciado sobre la encíclica en Truth Social, pero su antiguo “zar” de la IA, David Sacks, dio su opinión. A Sacks no le preocupa que un pequeño grupo de empresas de IA se autorregulen; Le preocupa otorgarle al gobierno el poder para hacerlo. (¿Y quién puede resistirse a hacer gala de sus conocimientos literarios e históricos cuando se presenta la oportunidad? Desde luego, no Sacks).

En X, Sacks argumentó que conceder a los gobiernos amplia autoridad sobre la IA en nombre de la seguridad podría, en última instancia, propiciar la censura, la vigilancia y el control social. Citando a George Orwell y la frase latina Quis custodiet ipsos custodes (“¿Quién vigilará a los vigilantes?”), Sacks escribió que “las preguntas más antiguas sobre la naturaleza humana y la autoridad no desaparecen en la era de la IA. Simplemente cobran nueva relevancia”.

En respuesta a la publicación de Sacks en X, varias voces destacadas del mundo de la IA se han pronunciado al respecto. Entre ellas, Clem Delangue, CEO de Hugging Face, quien argumentó que “el riesgo más importante de la IA es la concentración”, y el científico cognitivo Gary Marcus, quien advirtió sobre “dejar a empresas privadas no electas la capacidad de censurar, vigilar y controlar a los ciudadanos”.

La administración Trump, influenciada por figuras de la derecha tecnológica emergente como Sacks y Marc Andreessen, se ha esforzado enormemente por mantener la industria de la IA al margen de la supervisión y regulación gubernamental.

Cabe destacar que la mayoría de los miembros de la derecha tecnológica emergente han guardado silencio sobre el tratado del Papa. Hasta el momento, no ha habido comentarios públicos de Elon Musk, Andreessen, Palmer Luckey, Balaji Srinivasan, Keith Rabois, Joe Lonsdale ni Jason Calacanis.