Lo que la hiperproducción de basura de IA está haciendo a la ciencia

En los últimos tres años, la inteligencia artificial (IA) generativa ha tenido un profundo impacto en la sociedad. Su importancia en la escritura humana, en particular, ha sido enorme.

Los grandes modelos de lenguaje que impulsan herramientas de IA como ChatGPT se entrenan con una amplia variedad de datos textuales y ahora pueden producir sus propios textos complejos y de alta calidad.

Lo más importante es que el uso generalizado de estas herramientas ha dado lugar a una hiperproducción de la llamada “basura de IA”: resultados de baja calidad y producidos con un esfuerzo humano mínimo o incluso nulo.

Se ha hablado mucho sobre el impacto de la escritura con IA en la educación, el trabajo y la cultura. Pero ¿qué ocurre con la ciencia? ¿Mejora la IA la escritura académica o simplemente produce “basura científica”?

Según un nuevo estudio realizado por investigadores de la Universidad de California en Berkeley y la Universidad de Cornell, publicado en Science, la basura está ganando.

La IA generativa impulsa la productividad académica

Los investigadores analizaron resúmenes de más de un millón de artículos preimpresos —artículos disponibles públicamente que aún no han sido revisados ​​por pares— publicados entre 2018 y 2024.

Examinaron si el uso de IA está relacionado con una mayor productividad académica, la calidad de los manuscritos y el uso de literatura más diversa.

La cantidad de preimpresiones que producía un autor era una medida de su productividad, mientras que la publicación final en una revista era una medida de la calidad de un artículo.

El estudio reveló que, cuando un autor comenzó a usar IA, el número de preprints que produjo aumentó drásticamente. Dependiendo de la plataforma de preprints, el número total de artículos que un autor publicó al mes tras adoptar la IA aumentó entre un 36.2% y un 59.8%.

El aumento fue mayor entre los hablantes no nativos de inglés, y especialmente entre los autores asiáticos, donde osciló entre el 43% y el 89.3%. En el caso de los autores de instituciones angloparlantes y con nombres “caucásicos”, el aumento fue más moderado, entre el 23.7% y el 46.2%.

Estos resultados sugieren que los hablantes no nativos solían utilizar IA para mejorar su inglés escrito.

¿Qué pasa con la calidad del artículo?

El estudio descubrió que los artículos escritos con IA utilizaban en promedio un lenguaje más complejo que aquellos escritos sin IA.

Sin embargo, entre los artículos escritos sin IA, aquellos que utilizaban un lenguaje más complejo tenían más probabilidades de publicarse.

Esto sugiere que se considera que los escritos más complejos y de mayor calidad tienen mayor mérito científico.

Sin embargo, en el caso de los artículos escritos con apoyo de IA, esta relación se invirtió: cuanto más complejo era el lenguaje, menor era la probabilidad de publicación. Esto sugiere que el lenguaje complejo generado por IA se utilizó para ocultar la baja calidad del trabajo académico.

La IA aumentó la variedad de fuentes académicas

El estudio también analizó las diferencias en las descargas de artículos originados en las plataformas de búsqueda Google y Microsoft.

El motor de búsqueda Bing de Microsoft introdujo una función Bing Chat impulsada por IA en febrero de 2023. Esto permitió a los investigadores comparar qué tipo de artículos recomendaba la búsqueda mejorada con IA frente a los del motor de búsqueda normal.

Curiosamente, los usuarios de Bing estuvieron expuestos a una mayor variedad de fuentes que los de Google, y también a publicaciones más recientes. Esto probablemente se deba a una técnica de Bing Chat llamada generación aumentada por recuperación, que combina los resultados de búsqueda con sugerencias de IA.

En cualquier caso, los temores de que la búsqueda de IA se quedase “atascada” y recomendase fuentes antiguas y ampliamente utilizadas no estaban justificados.

Avanzando

La IA ha tenido un impacto significativo en la escritura científica y la publicación académica. Se ha convertido en una parte integral de la escritura académica para muchos científicos, especialmente para hablantes no nativos, y ha llegado para quedarse.

A medida que se va integrando en muchas aplicaciones, como procesadores de texto, aplicaciones de correo electrónico y hojas de cálculo, pronto será imposible no usarla, nos guste o no.

Lo más importante para la ciencia es que la IA está desafiando el uso de un lenguaje complejo y de alta calidad como indicador de mérito académico. La selección y evaluación rápidas de artículos basadas en la calidad del lenguaje son cada vez menos fiables, por lo que se necesitan urgentemente mejores métodos.

Como cada vez se utiliza más un lenguaje complejo para encubrir contribuciones académicas débiles, es esencial realizar evaluaciones críticas y en profundidad de las metodologías de estudio y las contribuciones durante la revisión por pares.

Un enfoque consiste en combatir el fuego con fuego y utilizar herramientas de revisión de IA, como la publicada recientemente por Andrew Ng en Stanford. Dado el creciente número de manuscritos enviados y la ya elevada carga de trabajo de los editores de revistas académicas, estos enfoques podrían ser la única opción viable.

Vitomir Kovanović es profesor asociado y director asociado del Centro para el Cambio y la Complejidad en el Aprendizaje (C3L), Futuros Educativos, en la Universidad del Sur de Australia.

Este artículo fue publicado originalmente en The Conversation.