Lo que necesitas saber sobre el lado oscuro del marketing con IA

La inteligencia artificial está revolucionando la forma en que las empresas comercializan sus productos, permitiéndoles llegar a los consumidores de maneras personalizadas e interactivas que hace poco parecían propias de la ciencia ficción.

Los especialistas en marketing utilizan algoritmos impulsados por IA para analizar grandes cantidades de datos que revelan preferencias individuales con una precisión sin igual. Esto permite a las empresas dirigir contenido —anuncios, correos electrónicos, publicaciones en redes sociales— de manera precisa, creando relaciones más cercanas con los consumidores.

Como investigadora que estudia la tecnología en el marketing, me uní a varios colegas para realizar una nueva investigación que demuestra que el marketing con IA ignora en gran medida sus posibles consecuencias negativas.

Nuestro estudio revisado por pares analizó 290 artículos publicados en los últimos 10 años en 15 revistas de marketing de alto rango. Descubrimos que solo 33 de ellos abordaron el “lado oscuro” del marketing con IA.

Esto es importante porque el desequilibrio crea una brecha crítica en la comprensión del impacto completo de la IA.

El marketing con IA puede perpetuar estereotipos dañinos, como producir representaciones hipersexualizadas de las mujeres, por ejemplo. La IA también puede vulnerar los derechos individuales de los artistas y difundir desinformación mediante deepfakes y “alucinaciones”, que ocurren cuando la IA presenta información falsa como si fuera cierta, como inventar eventos históricos.

También puede afectar la salud mental. La prevalencia de filtros de belleza impulsados por IA en redes sociales, por ejemplo, puede fomentar ideales poco realistas y desencadenar depresión.

Estas preocupaciones son significativas, generando ansiedad sobre el posible mal uso de esta poderosa tecnología. Muchas personas experimentan estos temores, pero las mujeres jóvenes son especialmente vulnerables. A medida que las aplicaciones de IA ganan aceptación, los estándares de belleza se alejan aún más de la realidad.

Nuestra investigación encuentra que hay una necesidad urgente de abordar las consideraciones éticas de la IA y sus posibles consecuencias negativas. Nuestro objetivo no es desacreditar la IA, sino asegurarnos de que el marketing con IA beneficie a todos, no solo a un puñado de empresas poderosas.

Creo que los investigadores deberían considerar explorar más a fondo los problemas éticos de la IA y cómo usarla de manera segura y responsable.

Esto es importante porque la IA se está utilizando de manera generalizada, desde las redes sociales hasta los autos autónomos y la toma de decisiones en salud. Comprender sus posibles efectos negativos permite que el público sea consumidor informado y exija un uso responsable de la IA.

Lauren Labrecque es profesora de marketing en la Universidad de Rhode Island.

Este artículo es republicado de The Conversation bajo una licencia de Creative Commons. Lea el artículo original.