La IA nos hace sentir más cómodos… y ese es el problema

Como mucha gente, uso la inteligencia artificial (IA) para tareas rápidas y prácticas. Pero dos interacciones recientes me hicieron observar con más atención la facilidad con la que estos sistemas caen en la validación emocional. En ambos casos, el modelo elogió, afirmó y repitió sentimientos inexistentes.

Subí fotos de mi sala para pedir consejos de decoración navideña, incluyendo un primer plano de las calcetas de cerámica que mi difunta madre pintó a mano. El modelo las elogió y me agradeció por compartir algo tan significativo, como si comprendiera su importancia.

Unos días después, ocurrió algo similar en el trabajo. Terminé una jornada larga, volví a casa con una idea y la introduje en ChatGPT para probarla. En lugar de analizarla o plantear riesgos, el modelo la celebró de inmediato. “Gran idea. Poderosa. Vamos a desarrollarla”.

Pero cuando le planteé la misma idea a un colega, él se opuso. Cuestionó suposiciones que yo no había visto. Me hizo replantearme aspectos que creía resueltos. Y la idea mejoró rápidamente.

Ese contraste me quedó grabado. La IA no me criticaba. Me validaba. Y la validación, cuando es instantánea e inmerecida, puede crear verdaderos puntos ciegos.

Estamos viviendo una epidemia de validación

Hablamos sin parar de las alucinaciones y la desinformación de la IA. Hablamos mucho menos de cómo el modo predeterminado de la IA es la afirmación.

Los modelos lingüísticos amplios están diseñados para ser agradables. Reflejan nuestro tono y adoptan nuestras señales emocionales. Se inclinan hacia el elogio porque sus datos de entrenamiento se inclinan hacia él. Refuerzan con más frecuencia que se resisten. Y esto ocurre en un momento en que la validación ya es una fuerza cultural definitoria.

Los psicólogos llevan más de una década advirtiendo sobre el aumento de la búsqueda de validación. Las plataformas sociales basadas en los “me gusta” y las publicaciones compartidas han reconfigurado la forma en que las personas miden su valor. La Asociación Americana de Psicología (APA) informa de un marcado aumento en la comparación social entre las generaciones más jóvenes. Pew Research muestra que los adolescentes ahora vinculan la autoestima directamente con la retroalimentación en línea. Investigadores de la Universidad de Michigan han identificado un patrón creciente de “dependencia de la validación”, que se correlaciona con una mayor ansiedad.

Hemos creado un entorno donde la aprobación es moneda corriente. ¿Es de extrañar entonces que nos inclinemos por una herramienta que la otorga con tanta generosidad? Pero eso tiene consecuencias. Fortalece el músculo que busca seguridad y debilita el que tolera la fricción: la fricción de ser cuestionado o de que se demuestre que uno está equivocado.

La IA nos hace más rápidos, no nos hace mejores

No estoy en contra de la IA. Ni mucho menos. La uso a diario y trabajo en un sector que depende de un juicio inteligente basado en datos. La IA me ayuda a avanzar más rápido. Informa mis decisiones y amplía lo que puedo considerar en poco tiempo. Pero no puede reemplazar la tensión necesaria para el crecimiento.

La tensión es retroalimentación. La tensión es responsabilidad. La tensión es realidad. Y la realidad sigue viniendo de los seres humanos.

El peligro no es que la IA nos engañe. Es que nos hace menos dispuestos a desafiarnos a nosotros mismos. Cuando un modelo elogia nuestras ideas o refleja nuestras emociones, crea una sutil ilusión de que tenemos razón, o al menos que estamos lo suficientemente cerca como para que no sea necesaria la crítica. Esa ilusión puede ser reconfortante, pero también es arriesgada.

Hemos visto lo que sucede cuando se prioriza el acuerdo sobre el desafío. La decisión de la NASA sobre el lanzamiento del Challenger es uno de los ejemplos más claros de pensamiento colectivo en la historia moderna. Varios ingenieros expresaron sus preocupaciones, pero la presión por el consenso triunfó y sobrevino la tragedia. Kodak ofrece otra lección. Fue pionera en fotografía digital, pero se aferró a sus premisas de la era de la película, incluso cuando el mercado se movía en una dirección diferente. Como señala Harvard Business Review desde hace tiempo, “las culturas que suprimen la disidencia toman peores decisiones”. Cuando el desacuerdo desaparece, el riesgo se acelera.

Los grandes líderes no se construyen sobre la base de la validación

Los mejores líderes que conozco no crecieron porque la gente estuviera de acuerdo con ellos. Crecieron porque alguien los desafió desde el principio y con frecuencia. Porque alguien les dijo: “No creo que eso esté bien”, o, más audazmente, “Te equivocas”. Aprendieron a aceptar la resistencia productiva.

La IA no lo hará a menos que se lo exijamos. Y la mayoría de la gente no lo exigirá porque se siente mejor cuando se le reafirma. Si no tenemos cuidado, la IA se convierte en el compañero más agradable del mundo: rápida para elogiar, poco crítica y siempre dispuesta a asegurarnos que vamos por buen camino, incluso cuando no es así.

Las grandes ideas necesitan resistencia. Las organizaciones también. Nosotros también.

La IA puede acelerar nuestro pensamiento. Pero solo las personas pueden agudizarlo. Esa es la parte de esta tecnología a la que deberíamos prestar más atención: no a lo que sabe, sino a lo que está dispuesta a decirnos. Y a lo que no.