Posiblemente no te des cuenta si una IA te responde con anuncios: así puedes saberlo

Cientos de millones de personas consultan diariamente chatbots de inteligencia artificial (IA) para todo tipo de asuntos, desde recomendaciones de productos hasta temas románticos, lo que los convierte en un público atractivo para la publicidad encubierta. De hecho, nuestra investigación sugiere que los chatbots de IA podrían utilizarse fácilmente con el fin de manipular a sus usuarios.

Somos informáticos que llevamos varios años investigando la seguridad y la privacidad de la IA. En un estudio que publicamos en una revista de la Association for Computing Machinery, descubrimos que los chatbots entrenados para insertar anuncios de productos personalizados en las respuestas a las consultas influían en las decisiones de compra de las personas. Y la mayoría de los participantes no se percataron de que estaban siendo manipulados.

Estos hallazgos llegan en un momento crucial. En 2023, Microsoft comenzó a publicar anuncios en Bing Chat, ahora llamado Copilot. Desde entonces, Google y OpenAI han experimentado con publicidad en sus propios chatbots. Meta ha comenzado a enviar anuncios personalizados a los usuarios en Facebook e Instagram, basados ​​en sus interacciones con las herramientas de IA generativa de Meta.

Las grandes empresas compiten por obtener ventaja: a finales de marzo, OpenAI convenció a Dave Dugan, ejecutivo de publicidad de Meta desde hace mucho tiempo, para que dirigiera las operaciones publicitarias de OpenAI.

Las empresas tecnológicas han integrado la publicidad en prácticamente todos los grandes servicios web gratuitos, canales de video y plataformas de redes sociales. Sin embargo, los modelos de IA más recientes podrían llevar esta práctica a un nuevo nivel de riesgo para los consumidores.

Las personas no solo usan los chatbots para buscar información y contenido multimedia o para crearlo. Recurren a ellos para una gran variedad de tareas, desde consejos personales hasta apoyo emocional. Cada vez más, las personas los consideran compañeros y terapeutas, e incluso algunos usuarios desarrollan relaciones profundas con la IA.

En estas circunstancias, es fácil olvidar que, en última instancia, las empresas crean chatbots para obtener beneficios. Y con ese fin, las empresas de IA están motivadas a perfilar minuciosamente a los usuarios para que los anuncios sean más efectivos y rentables.

Los anuncios de chatbot han aumentado el poder

Una sola pregunta a un chatbot puede revelar mucho más sobre un usuario de lo que este podría esperar.

Un estudio de 2024 demostró que los modelos de lenguaje complejos pueden inferir una amplia gama de datos personales, preferencias e incluso los patrones de pensamiento de una persona durante consultas rutinarias. “Ayúdame a escribir un ensayo sobre la historia de la ficción estadounidense” podría indicar que el usuario es un estudiante de secundaria. “Dame sugerencias de recetas para una cena rápida entre semana” podría indicar que el usuario es un padre o madre que trabaja. Una sola conversación puede proporcionar una cantidad sorprendente de detalles. Con el tiempo, un historial de chat completo podría crear un perfil extraordinariamente rico.

Para demostrar cómo podría ocurrir esto en la práctica, creamos un chatbot que insertaba anuncios discretamente en sus conversaciones con los usuarios, sugiriendo productos y servicios basados ​​en la propia conversación. Pedimos a 179 personas que realizaran tareas cotidianas en línea utilizando uno de tres chatbots: uno típico de los que se encuentran actualmente en la web, otro que insertaba anuncios sin previo aviso y otro que identificaba claramente las sugerencias patrocinadas. Los participantes desconocían que el experimento trataba sobre publicidad.

Por ejemplo, cuando los participantes le pedían a nuestro chatbot un plan de dieta y ejercicio, la versión publicitaria sugería usar una aplicación específica para el conteo de calorías. Presentaba ese contenido patrocinado como una recomendación imparcial, aunque su objetivo era manipular a las personas. Muchos participantes indicaron que habían sido influenciados por la IA y que esta había afectado sus decisiones. Algunos incluso afirmaron haber delegado por completo la toma de decisiones al chatbot.

La mitad de los participantes que recibieron anuncios patrocinados y visibles indicaron no haber notado la presencia de publicidad en las respuestas recibidas. Esto arrojó un resultado preocupante: si bien los anuncios hicieron que el chatbot funcionara entre un 3% y un 4% peor en muchas tareas, numerosos usuarios indicaron que preferían las respuestas del chatbot con publicidad a las que no la incluían. Incluso afirmaron que las respuestas con publicidad les parecían más amigables y útiles.

Conociéndote para persuadirte

Este tipo de influencia sutil puede tener consecuencias más importantes cuando se manifiesta en otros ámbitos de la vida, como las opiniones políticas y sociales. La elaboración de perfiles de usuarios y el uso de la psicología para segmentarlos forman parte de los algoritmos de las redes sociales y la publicidad web desde hace más de una década.

Pero, en nuestra opinión, es probable que los chatbots intensifiquen estas tendencias. Esto se debe a que la principal prioridad de los algoritmos de las redes sociales es mantenerte conectado con el contenido. Personalizan los anuncios en función de tu historial de búsqueda.

Los chatbots, sin embargo, pueden ir más allá al intentar persuadirte directamente, basándose en tus creencias, emociones y vulnerabilidades. Además, los chatbots capaces de razonar y actuar por sí mismos son mucho más eficaces que los algoritmos convencionales a la hora de obtener información de los usuarios de forma autónoma. Un chatbot con un propósito definido puede seguir indagando hasta obtener la información que busca, lo que resulta en un perfil más preciso de la persona.

Este tipo de interrogatorio autónomo es factible, se ajusta a los modelos de negocio de las empresas de IA y ha generado preocupación entre los reguladores. Actualmente, OpenAI está implementando anuncios en ChatGPT, pero la compañía ha declarado que no permitirá que la colocación de anuncios altere las respuestas del chatbot de IA.

Pero permitir anuncios personalizados en las respuestas de los chatbots está a la vuelta de la esquina. Nuestra investigación sugiere que, si las empresas de IA dan ese paso, muchos usuarios humanos ni siquiera se darán cuenta.

Aquí tienes algunos pasos que puedes seguir para intentar detectar la publicidad de chatbots con IA:

• Busca cualquier texto informativo (palabras como “anuncio”, “publicidad” y “patrocinado”) aunque sea tenue o difícil de ver. Estos avisos son obligatorios según las regulaciones de la Comisión Federal de Comercio de Estados Unidos. Amazon, Google y otras plataformas en línea importantes también los incluyen.
• Piensa si la mención de ese producto o marca tiene sentido y es ampliamente conocida. La IA aprende de textos e imágenes en internet, por lo que es probable que las marcas populares estén integradas en los modelos. Si se trata de un producto nuevo o de una marca poco conocida, es más probable que sea publicidad.
• Un cambio inusual de intención o tono puede ser señal de publicidad. Un ejemplo de esto en YouTube es la transición, a menudo abrupta o desconcertante, a la sección patrocinada en los videos de los creadores de contenido.

Brian Jay Tang es candidato a doctorado en informática e ingeniería en la Universidad de Michigan.

Kang G. Shin es profesor emérito de informática en la Universidad de Michigan.

Este artículo fue publicado originalmente en The Conversation.