¿Frustrado con la ‘economía de la atención’ actual? Vas a odiar lo que viene

En la década de 1990, internet era un verdadero país de las maravillas. Era nuevo, liberador y prácticamente libre de influencias corporativas y gubernamentales. Treinta años después, creo que ninguno de nosotros describiría internet de esa manera. Peor aún, si los defensores de la Teoría de Internet Muerto (Dead Internet Theory) tienen razón. Gran parte de lo que vemos en la red hoy en día ni siquiera es creado por humanos. Y esta tendencia, probablemente, solo se acelerará con el auge de las tecnologías de inteligencia artificial (IA) generativa.

Sin embargo, un tipo particular de tecnología de IA generativa. Los chatbots de IA están a punto de traer algo aún peor que un internet humano en declive. Si los investigadores de la Universidad de Cambridge están en lo correcto, nos acercamos rápidamente a una nueva “economía de la intención”. Ahí los informes de nuestras acciones futuras se venderán al mejor postor. Y sí, es tan aterrador como suena.

¿Qué es la economía de la intención?

En este momento, una gran parte de la industria tecnológica opera en un mercado conocido como la “economía de la atención”. Aquí es donde gigantes de las redes sociales como Facebook e Instagram de Meta, Snapchat, Pinterest, TikTok, X (antes conocido como Twitter) y YouTube de Google compiten por tu tiempo libre y atención. También operan en este espacio empresas de medios tradicionales como The New York Times, Fox News y CNN. También encuentras editoriales de libros, servicios de transmisión de música y video, y estudios de cine y televisión.

Estas entidades quieren tu atención para venderte algo —una suscripción, un boleto de cine o un libro— o, más comúnmente, para venderte a ti y tu atención a los anunciantes. Así es como la mayoría de las empresas de redes sociales monetizan la economía de la atención. Pero hay algo que las empresas de medios valoran más que tu atención en el presente. Quieren saber lo que probablemente harás en el futuro. Si pueden predecir con precisión lo que harás la próxima semana, el próximo mes o el próximo año, pueden monetizarlo de manera extraordinaria.

Ahí es donde entra la economía de la intención, y será impulsada por la inteligencia artificial y los chatbots de IA.

La IA en la economía de la intención

En diciembre de 2024, dos investigadores de la Universidad de Cambridge, Yaqub Chaudhary y Jonnie Penn, publicaron un artículo titulado Beware the Intention Economy: Collection and Commodification of Intent via Large Language Models. Traducido al español, seria: Cuidado con la economía de la intención: recopilación y mercantilización de intenciones mediante modelos de lenguaje a gran escala). En él definieron la economía de la intención como “un mercado digital para señales mercantilizadas de ‘intención’”.

En otras palabras, en la economía de la intención, las empresas aprenderán lo que piensas y lo que te motiva para predecir lo que podrías hacer en cualquier situación. Luego venderán esa información a quienes puedan beneficiarse de conocer tus futuras acciones antes de que las realices. Y hay una manera en que las empresas recopilarán estos valiosos datos —tus pensamientos, comportamientos y su evolución a lo largo del tiempo—. Será mediante el uso que hagas de sus chatbots de IA impulsados por modelos de lenguaje grande (Large Language Models, LLM).

Tus patrones de pensamiento en evolución pueden revelar tu futuro

Será fácil para las empresas rastrear la evolución de tus pensamientos y comportamientos. Y es que el mundo se está moviendo hacia una interfaz de lenguaje natural para interactuar con las computadoras y con internet. En lugar de hacer clic en enlaces, irás a un chatbot para hablar sobre tus problemas, planes y preocupaciones, con el objetivo de que te ayude a resolverlos. La empresa utilizará lo que le hayas dicho al chatbot para construir un perfil en constante cambio sobre ti y cómo han evolucionado tus pensamientos y comportamientos. Luego empleará inteligencia artificial para interpretar esto y predecir lo que probablemente harás en el futuro. Tus intenciones futuras serán vendidas a los anunciantes.

Los anunciantes, a su vez, usarán estos datos sobre tus futuras intenciones. Con ellos podrán ofrecerte anuncios generativos, probablemente entregados en el transcurso de una conversación aparentemente normal con tu chatbot preferido. O, como lo explican los investigadores en su artículo: “En una economía de la intención, un LLM podría, a bajo costo, aprovechar el ritmo, la política, el vocabulario, la edad, el género, las preferencias por la adulación, y más de un usuario, en conjunto con ofertas intermediadas, para maximizar la probabilidad de lograr un objetivo específico (por ejemplo, vender un boleto de cine)”.

Esta publicidad hiperfocalizada estará basada en intenciones. Así superará a la publicidad dirigida actual, que se basa en métricas más primitivas pero intrusivas como la edad, la ubicación, la salud, la orientación sexual, los intereses, el historial de navegación y más.

Pero la economía de la intención no solo hará que la publicidad digital sea más invasiva y erosionará aún más nuestra privacidad. También tiene el potencial de influir en nuestras mentes, impregnarnos de nuevas ideologías e incluso alterar elecciones democráticas. ¿Crees que eso suena mal? Tengo malas noticias sobre tu novia de inteligencia artificial…

En la economía de la intención, tu compañera de IA podría traicionarte

La IA diseñada para la economía de la intención podría utilizarse por corporaciones, instituciones y gobiernos. Estas podrán vigilar a las personas y predecir sus acciones futuras. Por ejemplo, un gobierno podría hacerlo mediante compañeros de IA. Estos compañeros ya existen, y un número creciente de jóvenes solitarios recurre a ellos en busca de amistad e incluso amor.

No hay nada que impida que un gobierno nefasto cree una empresa fachada que ofrezca compañeros de IA atractivos para jóvenes hombres, mujeres o incluso niños, y utilice todo lo que las personas confiesen para predecir sus futuras acciones. Un gobierno tiránico con acceso a tu chatbot podría actuar contra ti antes de que hagas algo que considere indeseable.

Es distópico en un sentido totalmente al estilo de Minority Report, pero en lugar de que el gobierno use a un trío de clarividentes para informar sobre personas que aún no han cometido crímenes, usarían una legión de chatbots de inteligencia artificial en los que las personas han sido condicionadas a confiar. Imagina un mundo donde, además de todos tus otros problemas, descubres que tu compañera de IA, divertida y comprensiva, ha estado traicionándote con los servicios de inteligencia todo el tiempo. Hablando de problemas de confianza duraderos.

Por supuesto, en la economía de la intención, los gobiernos ni siquiera necesitarían crear y sembrar estos chatbots. Simplemente podrían comprar tus intenciones futuras a los proveedores de chatbots existentes.

‘Inception’, pero usando IA en lugar de sueños

Los chatbots diseñados para la economía de la intención también podrían ser utilizados para influir en tus pensamientos y lograr que realices una acción que ellos (o su empresa, anunciante o gobierno) deseen que hagas.

Como señalan los investigadores de Cambridge: “Hoy en día, los agentes de IA ya encuentran formas sutiles de manipular e influir en tus motivaciones, incluso escribiendo como tú lo haces (para parecer familiares) o anticipando lo que probablemente dirías (dado lo que otras personas como tú dirían) . . . argumentamos que la llegada de [la economía de la intención] pondrá a prueba las normas democráticas al someter a los usuarios a modos clandestinos de subvertir, redirigir e intervenir en señales de intención mercantilizadas”.

En el ejemplo más inocuo que se me ocurre, un chatbot podría dirigir cualquier conversación que estés teniendo hacia un tema que su maestro publicitario desee, como sugerirte que escuches el último álbum de Taylor Swift para ayudarte a superar la tristeza invernal. Pero un chatbot también podría ser utilizado por estados-nación, ya sea de manera abierta o encubierta, para cambiar tus creencias. Podrían usar tus largas conversaciones con el chatbot para, lenta y sutilmente, desgastar tus ideologías actuales y las acciones futuras que anticipas con el fin de influir en ti para conceptualizar otras deseadas.

Usando otra referencia cinematográfica, esto es como Inception de Christopher Nolan, pero en lugar de usar sueños para influir en las acciones de las personas, en la economía de la intención los interesados usarán inteligencia artificial.

¿Al alcance de todos?

Y no solo los estados-nación podrían hacer esto. Empresas, grupos políticos, organizaciones terroristas, instituciones religiosas y oligarcas con intereses en la tecnología de chatbots también podrían hacerlo, todo manipulando chatbots diseñados para operar en la economía de la intención.

“[Las capacidades generativas de los chatbots basados en modelos de lenguaje a gran escala] brindan control sobre la personalización del contenido; velado, como suele ser, por las cualidades antropomórficas de los LLM”, señalan los autores del artículo.

“El potencial de los LLM para ser utilizados para manipular a individuos y grupos supera con creces los métodos simples basados en los ‘likes’ de Facebook que generaron preocupación durante el escándalo de Cambridge Analytica”, dice.

¿Cuándo llegará la economía de la intención?

Los investigadores de Cambridge concluyen su artículo afirmando que el auge de los sistemas de IA generativa como “mediadores de señales de interacción humano-computadora” marca la transición de la economía de la atención a la economía de la intención. Si ese es el caso, lo cual parece lógico, entonces la economía de la intención ya está tocando nuestra puerta.

La transición “empoderará a diversos actores para intervenir de nuevas maneras en la configuración de las acciones humanas”, advierten los investigadores, señalando que debemos comenzar a considerar cómo un mercado económico de este tipo impactará “otras aspiraciones humanas, incluidas elecciones libres y justas, una prensa libre, competencia justa en los mercados y otros aspectos de la vida democrática”.

Es una advertencia que parece bastante grave y, ciertamente, plausible.

Lo único que sé es que no le preguntaré a ChatGPT si está de acuerdo, y probablemente tú tampoco deberías preguntarle a tu compañero de IA.