La escritura con IA es el caso de uso más sombrío de esta tecnología

¿Permitirá la inteligencia artificial un nivel aún mayor de creatividad, o nos convertirá en Sims cognitivamente limitados que escupen respuestas de chatbot?

Esta pregunta ha polarizado gran parte de internet. Por un lado, están los fervientes defensores que creen que la escritura con IA acelera su proceso, permitiéndoles transformar rápidamente fragmentos de información en textos elegantes y sin errores tipográficos. Por otro lado, están los críticos que sostienen que la escritura con IA parece violar algo sagrado, y que al usar un modelo de lenguaje grande (LLM) para escribir, no solo se degrada el oficio, sino también a uno mismo.

La IA, en su forma ideal, es una tecnología que nos permite delegar o completar diversas tareas de una manera más inteligente y rápida. En el último mes, he utilizado la IA de diversas maneras extremadamente útiles, como traducir páginas de un índice del ruso al inglés para poder encontrar mejor las secciones que se cruzan en un libro; crear y modificar un gráfico que me habría llevado mucho más tiempo crear yo misma; y generando código que, a su vez, pudiera procesar gran cantidad de datos en un marco de datos fácil de leer. Incluso al usarse como motor de búsqueda, Claude y ChatGPT producen resultados mucho más amplios y útiles —especialmente para temas específicos— que las plataformas que solía usar. (¡Lo siento, Google!).

Pero escribir, en su forma ideal, es una organización finalizada y estructurada de tus pensamientos, el penúltimo paso del proceso creativo antes de enviar algo para que otros lo lean y lo comprendan. Escribir no es solo pensar; es el pensamiento al que te comprometes cuando finalmente estás listo para hablar con autoridad.

La IA tiene muchísimos casos de uso reales y poderosos, incluso en el proceso de investigación. Pero delegar la escritura a la IA implica perder la parte del proceso que requiere que demuestres tu dominio del material, incluyendo tu comprensión de cómo podrías haber usado la IA para llegar a tus conclusiones. Confiar en la escritura por IA implica trabajar bajo un modelo en lugar de sobre él, y recurrir a una tecnología innovadora y poderosa para quizás su aplicación menos sorprendente.

Los problemas y preocupaciones de la guerra de la escritura por IA

Algunos de los argumentos en contra de la escritura por IA son muy prácticos. El primero, y más importante, es que la IA alucina y hace afirmaciones, incluso con seguridad, que son completamente erróneas. Es cierto que los modelos están mejorando, pero también es cierto que pueden introducir errores en sus respuestas. En pruebas recientes, Google anunció que Gemini —el mismo modelo de IA que determina los resultados resumidos de Google— se equivoca aproximadamente 10% de las veces. Detecto con frecuencia errores de hecho en la IA, especialmente en ámbitos menos tratados en internet y probablemente menos representados en el material de formación.

Otra preocupación es que la escritura por IA —y la lectura de textos escritos por IA— causen efectos sociológicos y psicológicos perjudiciales. Por ejemplo, algunas investigaciones sugieren que la escritura generada por IA está homogeneizando nuestro lenguaje y empujando hacia una especie de denominador común digital que nos despoja de nuestro contexto cultural, individual e incluso gramatical. Como señaló Megan O’Rourke en un artículo de opinión del New York Times el año pasado: Leer textos generados por IA a veces se siente como comer comida procesada. Son buenos, pero hay algo, inquietantemente, que no cuadra.

También existe la aún más alarmante preocupación de que la IA nos esté volviendo mucho más tontos. Algunas investigaciones sugieren que esto podría estar ocurriendo. Un grupo de investigadores del MIT y universidades cercanas sugiere que depender de los sistemas de aprendizaje automático podría reducir nuestra actividad neuronal. (Aunque la investigación sobre este tema aún está en curso).

Y hay otro problema: muchos argumentan que la escritura generada por IA es mala porque carece de la inventiva de la escritura humana. Antes, algunos afirmaban que la escritura generada por IA podía identificarse por ciertas características gramaticales. (¿Recuerdan el apocalipsis de la IA con el guion largo?)

Sin embargo, a medida que la IA ha evolucionado, las críticas a la prosa generada por IA también han evolucionado, volviéndose incluso más complejas. Los defensores de la IA tienen un sinfín de respuestas a estos argumentos y a los cambios constantes de objetivos. Estos son debates permanentes que nos obligan a reflexionar sobre qué es la escritura generada por IA y qué es el pensamiento humano, además de otras cuestiones realmente importantes.

La IA comete errores, pero los humanos también. La escritura generada por IA puede parecer mala ahora mismo, pero la IA está mejorando cada vez más, y en términos de calidad, cada vez es más difícil distinguir la diferencia. Además, la industria tecnológica suele sugerir que podemos eliminar los defectos de sus productos mediante ingeniería inversa. Y tal vez sea cierto que la IA nos está volviendo menos inteligentes, pero también tenemos un incentivo natural para buscar la eficiencia y usar herramientas que nos ayuden. En muchos sentidos, usarla da la sensación de ser muy inteligente.

Para utilizar las herramientas de IA en la investigación, es fundamental comprender los procesos deterministas y estocásticos, los falsos positivos y los falsos negativos, así como las limitaciones de los motores de búsqueda y los datos. Es necesario conocer los tipos de errores que puede cometer la IA, del mismo modo que es necesario saber que un becario puede inventarse cosas y equivocarse. Si no es así, no deberías utilizar la IA para nada serio.

Existen grandes aplicaciones de la inteligencia artificial más allá del modelo. En otras palabras, tú debes tener el control. Quizás no domines los pesos y sesgos que hacen funcionar un LLM, ni las capas internas de una red neuronal. Pero necesitas comprender el funcionamiento interno de una IA. Necesitas saber qué está haciendo para poder guiarla y mejorarla, ya sea detectando sus errores o impulsándola hacia resultados más productivos. La IA es su sabueso, no un centinela.

Hace unos años, Ted Chiang argumentó en The New Yorker que “si una IA genera una historia de 10,000 palabras a partir de una consigna, tiene que suplir todas las decisiones que no tomas”. Esto tiene una consecuencia lógica. El proceso de escribir es desordenado, frustrante y a menudo quijotesco, pero al final, necesitas alcanzar una especie de paz final entre los pensamientos que rondan por tu cabeza y las palabras en la página. Esta es una de las partes más satisfactorias —e importantes— del proceso.

Si no estás procesando tus pensamientos y plasmándolos por escrito, no alcanzarás esta paz, y no habrás participado en los pasos cruciales para decidir que algo es verdad, incluso si es verdad para ti. En la escritura, hay un viejo dicho: escribe sobre lo que conoces. Esto, por supuesto, requiere conocer algo de verdad.