¿La IA provocará más polarización política? Experto cree que no es tan simple

A medida que la Inteligencia Artificial (IA) se integra en la vida cotidiana, algunos temen que esta tecnología pueda desencadenar una polarización política masiva. Según esta teoría, los chatbots pueden ser moldeados mediante datos de entrenamiento e instrucciones del sistema para dar prioridad a ciertas visiones del mundo, y los usuarios que interactúan con ellos a diario podrían absorber gradualmente esos sesgos a gran escala.

Pero Brendan Nyhan, politólogo del Dartmouth College, advierte que no hay que dar por sentado que ese futuro sea inevitable. Los maestros en Derecho pueden ser poderosos, afirma, pero eso no significa que vayan a influir en la gente como esperamos, ni siquiera como pretenden sus creadores.

Existen varias razones por las que una polarización política impulsada por la IA podría ser más difícil de lograr de lo que parece. La mayoría de la gente no sigue de cerca las noticias políticas, y no está claro con qué frecuencia utilizan herramientas de inteligencia artificial para obtener orientación política. Y si bien los asistentes virtuales pueden parecer persuasivos, e incluso en algunos casos han fomentado comportamientos preocupantes, hay pocas pruebas de que estén transformando fundamentalmente las creencias más arraigadas de la mayoría de los usuarios.

También existe una tensión práctica. Las empresas pueden verse presionadas a orientar los sistemas de IA hacia ciertos puntos de vista, pero al mismo tiempo compiten en cualidades como la precisión y la razonabilidad. Es difícil optimizar ambas a la vez.

El surgimiento de la era de las redes sociales fue instructivo, afirma Nyhan, quien, junto con sus coautores, publicó recientemente un capítulo preliminar que explica algunos de los desafíos del estudio del impacto de la IA en la política. Como muchos recordamos, el resultado de las elecciones de 2016 generó serias preocupaciones sobre si las plataformas de redes sociales como Facebook habían provocado polarización política mediante algoritmos sesgados y noticias falsas. Sin embargo, una década después de esas elecciones, la investigación en ciencias sociales aún no se ha pronunciado sobre si las redes sociales realmente tuvieron este tipo de impacto. 

Fast Company entrevistó a Nyhan sobre cómo, si bien la tecnología puede ser transformadora, el comportamiento humano también puede ser bastante persistente.

(Nota: Esta entrevista ha sido editada para mayor brevedad y claridad).

Tuvimos un largo debate sobre si las redes sociales habían provocado una polarización política masiva. ¿Qué lecciones aprendimos de aquella época al reflexionar sobre la IA?

Es importante reconocer que a menudo oímos hablar de nuevas tecnologías y nos aferramos a las afirmaciones sobre los daños que supuestamente causarán antes de que la evidencia sea lo suficientemente sólida como para justificar lo que se afirma.

En este caso, la evidencia es escasa. Las plataformas de redes sociales son difíciles de estudiar, pero en la medida en que podemos evaluarlas, no es evidente que hayan polarizado más nuestra política. Puede que hayan contribuido de ciertas maneras específicas, pero en muchos casos, reflejan esa polarización política.

Fui uno de los autores de un estudio que comparó aleatoriamente la exposición a fuentes afines en las redes sociales, uno de los mecanismos más citados para explicar la polarización social. Al reducir dicha exposición, no se observó ningún efecto en la polarización de las actitudes ni en la decisión de voto. También se han realizado varios estudios en los que se paga a las personas para que dejen de usar las redes sociales durante un tiempo. Estos estudios también han tenido efectos bastante modestos, en el mejor de los casos. Si bien no son necesariamente nulos, ciertamente no hay evidencia de que las redes sociales sean la causa principal de la polarización. 

El temor es que estas empresas tengan mucho control y se hayan convertido en canales de información, sobre todo ahora que más gente pasa de los motores de búsqueda a las plataformas de LLM. Existe el temor de que nos conviertan a todos en republicanos o demócratas

Ejercen mucho poder. Hablamos del temor de que los países autoritarios influyan en el contenido de los programas de maestría en derecho de forma problemática. Creo que hay motivos para preocuparse por el contenido sobre el que se imparte la formación. 

Al mismo tiempo, resulta mucho más difícil persuadir a la gente a gran escala de lo que se suele suponer. Los chatbots de IA pueden ser bastante persuasivos cuando las personas interactúan con ellos sobre temas controvertidos, pero la mayoría de la gente no les pregunta a las plataformas de inteligencia artificial qué deberían creer sobre el cambio climático o por quién votar.

¿Existe alguna evidencia de que estos grandes modelos de lenguaje realmente exhiban internamente algunos valores que se inclinen hacia un lado u otro en términos de izquierda y derecha?

Se han aplicado diversos cuestionarios a los profesionales con maestría en derecho (LLM) para evaluar sus actitudes hacia las personas. Al responder preguntas en este formato, tienden a dar respuestas que, en promedio, se inclinan hacia la izquierda. Esto probablemente refleja el equilibrio de la información con la que han sido capacitados. También puede reflejar, en parte, la manera en que las empresas los están desarrollando.

La mejora del rendimiento de los modelos ha tendido a impulsar a los modelos de lógica descriptiva hacia respuestas más precisas. Con esto quiero decir que las empresas de IA están claramente inmersas en una carrera por desarrollar mejores modelos entre sí, y generalmente hemos visto que los modelos que obtienen mejores resultados en las pruebas comparativas en las que compiten suelen ofrecer información más precisa y basada en evidencia.

Pero la mejora ha sido bastante rápida, y de hecho, hasta ahora ha demostrado ser bastante difícil tener un modelo de vanguardia que simplemente te dé resultados políticos que te resulten atractivos. Grok realmente se ha quedado atrás en la vanguardia, e incluso se puede ver cómo vuelve a tipos de respuestas más estándar cuando Elon Musk deja de prestarle tanta atención y de presionar a sus ingenieros para que lo manipulen. Tiende a volver a decir cosas como que el cambio climático es real.