¿Tiene la IA un papel que desempeñar en el tratamiento de la salud mental?

En las últimas semanas, OpenAI ha enfrentado siete demandas que alegan que ChatGPT contribuyó a suicidios o crisis de salud mental. En una conversación reciente en Innovation@Brown Showcase, Ellie Pavlick, de la Universidad de Brown y directora de un nuevo instituto dedicado a explorar la inteligencia artificial (IA) y la salud mental, y Soraya Darabi, de la firma de capital riesgo TMV, una de las primeras en invertir en startups de IA en salud mental, analizaron esa controvertida relación. Pavlick y Darabi discuten las ventajas y desventajas de aplicar la IA al bienestar emocional, desde la terapia con chatbots hasta la IA como amigos y parejas. 

Un estudio reciente demostró que uno de los principales usos de ChatGPT para los usuarios es la salud mental, lo cual inquieta a mucha gente. Ellie, quiero empezar contigo, el nuevo instituto que diriges, conocido como ARIA, que significa Instituto de Investigación de IA sobre Interacción para la Asistencia de IA. Es un consorcio de expertos de varias universidades, respaldado por 20 millones de dólares de la Fundación Nacional de la Ciencia de Estados Unidos. Entonces, ¿cuál es el objetivo de ARIA? ¿Qué esperas que ofrezca? ¿Por qué está aquí?

Pavlick: La salud mental es algo muy… diría que ni siquiera sé si polariza. Creo que la primera reacción de mucha gente ante el concepto de salud mental con IA es negativa. Como su nombre indica, en realidad no empezamos como un grupo que intentara trabajar en salud mental.

Éramos un grupo de investigadores interesados ​​en los problemas más grandes y complejos de las tecnologías actuales de IA. ¿Cuáles son las áreas más difíciles a las que se intenta aplicar la IA y que, en nuestra opinión, la tecnología actual no está a la altura? Surgió la salud mental, que inicialmente se eliminó de nuestra lista de temas en los que queríamos trabajar, porque da mucho miedo pensar en los grandes riesgos que conlleva si se hace mal. Y luego volvimos a ella precisamente por eso. Nos dimos cuenta de que esto está sucediendo, que la gente ya lo está usando. Hay empresas que son como startups, algunas probablemente con un gran rendimiento, otras no.

La verdad es que ahora mismo nos cuesta incluso diferenciarlos. Y además, muchísima gente recurre a los chatbots y los usa como terapeutas. Así que pensamos que lo peor que podría pasar es que no tengamos un buen liderazgo científico al respecto. ¿Cómo decidimos qué puede y qué no puede hacer esta tecnología? ¿Cómo evaluamos este tipo de cosas? ¿Y cómo la desarrollamos de forma segura y confiable?

Hay preguntas como esta. Se necesitan respuestas, y la realidad es que la mayoría de ellas simplemente no podemos responderlas ahora mismo. Dependen de una comprensión de la IA que aún no tenemos. De una comprensión de los humanos y la salud mental que aún no tenemos. De un nivel de discurso que la sociedad no está preparada para aceptar. Carecemos del vocabulario, de los términos. Simplemente hay mucho que aún no podemos hacer para que esto suceda correctamente. Por eso, ARIA intenta ofrecer esta voz del sector público y académico para ayudar a liderar este debate.

Así es. No están esperando a que se publiquen estos datos ni a la decisión final, independientemente de lo que diga la academia o este consorcio. Ya están invirtiendo en empresas que se dedican a esto. Sé que son inversores en las primeras etapas de Slingshot AI, que ofrece apoyo en salud mental a través de la aplicación Ash. ¿Es Ash el tipo de servicio del que Ellie y su grupo deberían ser cautelosos? ¿En qué pensaban cuando decidieron realizar esta inversión?

Darabi: Bueno, la verdad es que no oigo que Ellie sea cautelosa. Creo que está siendo muy pragmática y realista. A grandes rasgos, retrocediendo y hablando de los datos esclarecedores y la magnitud de este problema, mil millones de cada ocho mil millones de personas padecen algún tipo de problema de salud mental. Menos del 50% busca tratamiento, y quienes lo hacen encuentran el costo prohibitivo.

Ese estudio reciente que usted citó, probablemente el de Harvard Business Review, publicado en marzo de este año, analizó casos de uso de ChatGPT. Su análisis mostró que, de cada diez casos de uso de modelos fundacionales, uno, cuatro y siete están relacionados con la terapia o la salud mental. Es decir, estamos hablando de algo que afecta a la mitad del planeta. Si consideramos la inversión desde una perspectiva ética, no hay mayor mercado objetivo total (MAT) que las personas con algún tipo de trastorno de salud mental.

Conocemos al equipo de Slingshot AI, el mayor modelo fundacional de psicología, desde hace más de una década. Hemos seguido sus trayectorias. Tenemos una opinión excepcional del consejo asesor y del panel que formaron. Pero creo que lo que realmente nos llevó a interesarnos lo suficiente por la salud mental y la IA como para fundar un fondo dedicado a ella, y lo hicimos en diciembre del año pasado, fue volver al hecho de que la terapia con IA está muy estigmatizada y la gente, al enterarse, saca conclusiones erróneas de inmediato.

Se apresuran a recurrir a ejemplos exagerados de suicidio. Y sí, es terrible. Se han dado casos de profunda codependencia con ChatGPT o similares, donde los jóvenes, en particular, son susceptibles a situaciones muy aterradoras, y sin embargo, esos titulares escandalosos no representan a la gran cantidad de personas que creemos que se beneficiarán de estas tecnologías.

Dijiste esta frase y nos topamos con [estos] usos de ChatGPT. No es para lo que fue creado, pero a la gente le encanta por eso.

Darabi: Me recuerda a hace 20 años, cuando todo el mundo se preocupaba por que los niños se pasaban el día jugando videojuegos, y ahora, gracias a eso, tenemos Khan Academy y Duolingo. De hecho, infundir miedo es bueno porque sienta un precedente para las medidas de seguridad que, en mi opinión, son absolutamente necesarias para proteger a nuestros hijos de cualquier desastre.

Pero al mismo tiempo, si nos dejamos llevar por el miedo, solo repetimos la historia y probablemente sea hora de aceptar la bola de nieve, que se convertirá en una avalancha en cuestión de segundos. La IA será omnipresente. Todo lo que vemos y tocamos estará, de alguna manera, potenciado por ella. Así que, si no la comprendemos plenamente, nos estamos perjudicando enormemente.

Pavlick: Hasta ahora, sí, la gente se siente atraída por la IA para este caso de uso específico. En nuestro equipo de ARIA, contamos con muchos informáticos que desarrollan sistemas de IA, pero en realidad muchos de nuestros equipos se dedican a la psicología del desarrollo, la ciencia cognitiva básica y la neurociencia. Hay preguntas que plantearse: ¿por qué? ¿Por qué y cómo? ¿Qué beneficios aporta esto a la gente? ¿Qué necesidad satisface? Creo que esta es una pregunta muy importante que debemos plantearnos pronto.

Creo que tienes toda la razón. Infundir miedo tiene un papel positivo. No conviene obsesionarse demasiado con eso y se pueden citar ejemplos históricos de personas que se asustaron y todo salió bien. También hay casos como el de las redes sociales: quizá la gente no se alarmó lo suficiente y yo no diría que todo salió bien. La gente puede estar de acuerdo en discrepar, y hay pros y contras, pero la cuestión es que no estamos en condiciones de plantearnos estas preguntas.

No se pueden hacer las cosas a la perfección, pero sí se pueden realizar estudios. Se puede preguntar: “¿Cuál es el proceso? ¿Cómo es cuando alguien habla con un chatbot? ¿Es similar a hablar con un humano? ¿Qué falta? ¿Funcionará esto a largo plazo? ¿Qué pasa con los jóvenes que están en etapas clave de desarrollo? ¿Con alguien que se encuentra en un estado de angustia psicológica aguda, en lugar de una necesidad de mantenimiento general? ¿Qué pasa con alguien que lucha contra el abuso de sustancias?”. Todas estas son preguntas diferentes y tendrán respuestas diferentes. De nuevo, creo firmemente que el único LLM que sea una interfaz para todo es, creo que hay mucho que desconocemos, pero apuesto a que no será lo último que querremos.

Esta es una transcripción abreviada de una entrevista de Rapid Response, presentada por Bob Safian, exeditor jefe de Fast Company.