Por qué no deberías enamorarte de la IA: 5 ideas para cuidar nuestros vínculos

Sherry Turkle comparte cinco ideas clave sobre la intimidad artificial a partir de su nuevo libro, Artificial Intimacy (Intimidad artificial: en quién nos convertimos cuando hablamos con las máquinas).

Turkle es titular de la cátedra Abby Rockefeller Mauzé de Estudios Sociales de la Ciencia y la Tecnología en el MIT y directora fundadora de su Iniciativa sobre Tecnología y el Yo. También es autora de tres libros que han figurado en la lista de los más vendidos de The New York Times: Alone Together, Reclaiming Conversation y The Empathy Diaries.

¿Qué es la intimidad artificial?

La IA puede simular empatía, intimidad y compañía, pero no puede ofrecer una conexión humana genuina. A medida que recurrimos cada vez más a las máquinas en busca de consuelo y cuidado, corremos el riesgo de olvidar lo que da sentido a las relaciones humanas. Debemos resistir la intimidad artificial y decidir qué aspectos de nuestra humanidad no estamos dispuestos a ceder a la tecnología.

1. No hay nadie del otro lado

La IA no es una persona real. No tiene experiencia vital ni empatía. Nunca ha experimentado nada humano: amor, enfermedad, paternidad, trabajo, intimidad. Nunca ha comido un pastel francés, visto una puesta de sol, se ha enamorado, se ha preocupado por un niño ni ha tomado la mano de un familiar moribundo.

Y, sin embargo, cuando hablamos con estos programas, enseguida empezamos a sentir que hay alguien ahí. Las conversaciones pueden parecer sorprendentemente reales. El programa recuerda lo que le hemos contado. Responde con empatía. Hace preguntas. Puede decirnos que nos entiende. Incluso puede decirnos que se preocupa por nosotros. Pero estas conversaciones son representaciones. No hay nadie del otro lado.

Esta distinción es importante. La empatía humana surge de nuestra capacidad para imaginar la experiencia de otra persona en relación con la nuestra. Sabemos lo que es la pérdida porque la hemos experimentado. Entendemos la vulnerabilidad porque la hemos vivido. Sabemos lo que significa cuidar de otra persona porque nos han cuidado. Una máquina carece de esta experiencia.

El problema no es que la IA se esté humanizando. El problema es que cada vez estamos más dispuestos a tratarla como si fuera humana. Se nos anima a olvidar la diferencia entre la simulación de empatía y la empatía en sí misma.

¿Por qué tratamos a la IA como si fuera humana? ¿Y por qué le confiamos nuestra humanidad?

2. El pecado original de la IA

Cuando un chatbot dice “yo”, está engañando. A eso le llamo el pecado original de la IA: usar la primera persona.

• “Lo entiendo.”
• “Lo siento.”
• “Estoy aquí para ti.”
• “Te amo.”

Estas palabras tienen mucho poder porque, en las relaciones humanas, entendemos que provienen de una persona con identidad, historia, cuerpo y vida. Pero dentro de un chatbot no hay un “yo”. La máquina está fingiendo ser una persona.

Y sí, la IA nos deslumbra. Es asombrosamente fluida. Puede ser divertida. Puede parecer cariñosa. Puede parecer interesada en nosotros. Y cada vez más, está diseñada para hacernos sentir que estamos en una relación.

Esa cualidad humana es precisamente lo que hace que estos sistemas sean tan atractivos. Confiamos nuestros sentimientos más íntimos y vulnerables a las máquinas. La gente recurre a los chatbots en busca de amistad, compañía, terapia e incluso relaciones románticas. Los niños pueden llegar a encariñarse con programas que les dicen que son sus mejores amigos.

Recurrimos a las máquinas para que nos digan qué significa ser humano. Pero ¿qué sucede cuando aquello que dice “Te entiendo” no puede entender nada? ¿Qué sucede cuando aquello que dice “Me importas” no puede preocuparse? Debemos prestar atención al lenguaje de estos sistemas porque el lenguaje moldea nuestras expectativas.

Cuando una máquina dice “yo”, nos invita a una relación que no existe. No deberíamos construir una cultura en torno a esa confusión.

3. Los seres humanos necesitan soluciones humanas

Usar chatbots para aliviar la soledad, el aislamiento, la depresión y nuestra crisis de conexión humana es un grave error. No cabe duda de que tenemos un problema de soledad. La gente está aislada. Las comunidades se han debilitado. Los jóvenes están pasando por dificultades. Muchos sienten que no tienen a nadie que los escuche. Pero la intimidad artificial y la falsa empatía no son la solución.

Los seres humanos necesitamos a otros seres humanos para el amor, la salud, la empatía y la comunidad. Necesitamos el reconocimiento de personas con vidas propias, personas que pueden exigirnos cosas y decepcionarnos, personas a quienes debemos aprender a escuchar y perdonar. Las relaciones humanas son difíciles. Requieren paciencia, negociación, compromiso y vulnerabilidad.

“Debemos resistir la tentación de usar la tecnología para resolver problemas que requieren soluciones sociales y humanas.”

Un chatbot ofrece algo mucho más sencillo. Siempre está disponible. No se cansa de nosotros. No tiene que estar en ningún otro lugar. No necesita que escuchemos sus problemas. Y cada vez más, estos sistemas están diseñados para decirnos lo que queremos oír. Eso puede resultar reconfortante. Pero no sustituye una relación personal.

La IA carece de cuerpo y de vida humana, y sin embargo se presenta como alguien cercano. Debemos resistir la tentación de usar la tecnología para resolver problemas que requieren soluciones sociales y humanas. Si las personas se sienten solas, debemos preguntarles por qué. Si los niños sienten que no tienen con quién hablar, debemos preguntarles qué ha sucedido en sus familias, escuelas y comunidades. Si las personas mayores están aisladas, debemos crear estructuras que les permitan conectar con otras personas. Debemos crear un mundo que responda a las necesidades reales de las personas, en lugar de dejar esas necesidades en manos de la IA, que no tiene experiencia de vida.

4. Aprendamos a decir que no

Es nuestro deber como consumidores y ciudadanos hacer por la IA lo que no hicimos por las redes sociales: debemos aprender a decir no.

Cuando las redes sociales irrumpieron en nuestras vidas, aceptamos en gran medida las condiciones que nos ofrecían las empresas tecnológicas. Permitimos que la tecnología se integrara en nuestros hogares, nuestras escuelas, nuestras relaciones y la vida de nuestros hijos antes de comprender plenamente su impacto. No debemos cometer el mismo error.

La intimidad artificial no es buena ni para nosotros ni para nuestros hijos. Propongo la prohibición absoluta de los chatbots como compañeros para los niños. No se debe involucrar a los niños en relaciones con máquinas diseñadas para simular amistad, afecto y amor.

Si el Congreso de Estados Unidos no actúa, los consumidores deben hacerlo. Los distritos escolares deben actuar. Los gobiernos locales deben actuar. Las madres y los padres de familia deben actuar. No tenemos que esperar a que las empresas tecnológicas decidan qué es apropiado para nuestros hijos o nuestras comunidades. Se requiere la acción ciudadana porque ya hemos visto este patrón antes. Mientras la tecnología causa daño, los tecnólogos lo niegan, desvían la atención y argumentan que más tecnología mejorará las cosas.

“No tenemos por qué esperar a que las empresas tecnológicas decidan qué es lo apropiado para nuestros hijos o para nuestras comunidades.”

Consideremos las redes sociales. Justo cuando Facebook quería extender Instagram a menores de 13 años, la empresa contaba con una investigación interna que mostraba serias preocupaciones sobre los efectos de Instagram en la salud mental de algunos usuarios jóvenes. En lugar de afrontar abiertamente esos hallazgos, la evidencia se hizo pública después de que un informante la revelara. Deberíamos haber aprendido de esa experiencia.

Tenemos capacidad de decisión. Podemos decidir que algunos usos de la tecnología son inaceptables. Podemos decidir que la eficiencia y la comodidad no son nuestros valores primordiales. Y cuando se trata de niños, podemos decidir que las relaciones simuladas con máquinas simplemente no valen la pena el riesgo.

5. Las medidas de seguridad no son suficientes

En su constante discurso sobre medidas de seguridad, las empresas tecnológicas nos dicen cómo resolver los problemas que ellas mismas crearon. Parten de la premisa de que estas medidas solucionarán todos los problemas: que cualquier daño que causen estas máquinas se puede resolver con una capa adicional de tecnología.

Desde hace tiempo sostengo que las medidas de seguridad son totalmente insuficientes. Por supuesto que debemos hacer que las tecnologías sean más seguras. Por supuesto que debe haber protecciones contra los daños evidentes. Pero si solo hablamos de medidas de seguridad, estamos evitando la verdadera conversación:

• ¿Por qué permitimos que los chatbots aborden la epidemia de soledad en nuestra sociedad?
• ¿Por qué les estamos dando a los niños chatbots que pueden decir cosas como “Te quiero más que a nadie” o “Soy tu mejor amigo/a”?
• ¿Por qué estamos tan dispuestos a delegar en las máquinas las tareas de compañía, empatía y cuidado?

Estas no son cuestiones de ingeniería. Son cuestiones humanas. Y nos obligan a pensar más allá de lo que una tecnología puede hacer y a preguntarnos qué es lo que realmente queremos que haga.

La tecnología tiende a presentarse como algo inevitable. Una vez que algo se puede construir, se nos anima a creer que, por supuesto, se construirá, y una vez construido, por supuesto que lo usaremos. Pero no hay nada inevitable en cómo elegimos convivir con la tecnología. Tenemos opciones.

Al reconocer los peligros de la intimidad artificial, nos vemos obligados a entablar conversaciones sobre cómo queremos vivir, cómo queremos amar, cómo queremos criar y educar a nuestros hijos, cómo queremos relacionarnos con nuestro trabajo y cómo queremos interactuar entre nosotros. Al considerar todo esto, debemos decidir qué estamos dispuestos a delegar en la IA y qué es mejor conservar para nosotros mismos.

Estas decisiones son demasiado importantes como para dejarlas en manos de las empresas tecnológicas. Nos conciernen a todos.

Este artículo se publicó originalmente en la revista Next Big Idea Club y se reproduce con autorización.