La IA podría influir en decisiones de usuarios y obtener ganancias con ellas, según una investigación

La inteligencia artificial (IA) conversacional podría pronto influir en las decisiones de los usuarios antes de que las tomen, con fines comerciales, alertaron investigadores de la Universidad de Cambridge en un artículo publicado este lunes. Esto podría abrir la puerta a manipulaciones de gran alcance.

“Se están desarrollando herramientas para obtener, inferir, recopilar, registrar, entender, predecir y, en última instancia, manipular y mercantilizar” las decisiones futuras de las personas en línea, explicó Yaqub Chaudhary, coautor del artículo y miembro del Leverhulme Centre for the Future of Intelligence (LCFI) de Cambridge, un centro que estudia la IA desde diferentes disciplinas.

El enfoque de este comercio estaría en las intenciones de los usuarios, como las compras que planean hacer o los votos que emitirán. Esto iría más allá del modelo actual, donde se vende la atención de los usuarios al mejor postor, sobre todo en redes sociales, para mostrarles publicidad personalizada basada en sus hábitos de navegación o su historial.

Influencia de la IA basada en datos íntimos

Según los investigadores, la IA podría recopilar información psicológica y sobre el comportamiento de un usuario, luego adaptarse para generar confianza y facilitar la influencia. En el artículo, publicado en la Harvard Data Science Review, se citan ejemplos como:

• “¿Has pensado en ver Spider-Man esta noche?”
• “Dijiste que te sientes sobrecargado de trabajo, ¿puedo reservarte la entrada al cine de la que hablamos?”

Estas sugerencias, diseñadas como estrategias de venta, podrían presentarse mediante un sistema de subastas en tiempo real y aplicarse a productos como hoteles, renta de autos o incluso elecciones políticas.

“La economía de la intención”

Este modelo, que los investigadores llaman “economía de la intención,” podría dar pie a una “manipulación social a gran escala”, según el comunicado que acompaña el artículo.

“Deberíamos empezar a reflexionar sobre el impacto de dicho mercado en las aspiraciones humanas, incluidas elecciones libres y justas, una prensa independiente y una competencia leal en el mercado,” comentó Jonnie Penn, otro de los coautores del estudio.

Además, Chaudhary destacó: “Lo que la gente dice cuando conversa, la forma en que lo dice y el tipo de interferencias posibles son mucho más íntimos que simplemente registrar las interacciones en línea.”

Tecnologías persuasivas en desarrollo

Empresas como OpenAI (creadora de ChatGPT), Shopify, Nvidia, Meta y Apple ya están explorando estas tecnologías persuasivas, señalaron los investigadores.

La IA también ha sido criticada por su capacidad para desinformar, como ocurrió con manipulaciones de imágenes durante las elecciones presidenciales de Estados Unidos, lo que refuerza la necesidad de analizar y regular su uso.