Lo sentimos, pero la IA no es “solo una herramienta”: es una amenaza

En los pocos años transcurridos desde que la Inteligencia Artificial (IA) generativa se convirtió en una tecnología de moda y en un tema de conversación habitual en las mesas, las personas de todas las industrias del diseño –desde diseñadores gráficos independientes hasta ejecutivos de tecnología– han llegado a un curioso mantra para justificar su uso: “Es solo una herramienta”. 

En esta misma publicación, en 2023, los diseñadores Caspar Lam y Yujune Park escribieron que “si consideramos el rol del diseñador como la comunicación y la conexión de ideas con los humanos de forma significativa, la generación de imágenes mediante IA se convierte en una herramienta más y una vía para la expresión creativa”. Esta perspectiva no es exclusiva de ellos. Josh Campo, director ejecutivo de Razorfish, al elogiar las virtudes de la IA para los creativos en Forbes, escribió que “más allá de mejorar la eficiencia, la IA está abriendo puertas a posibilidades que los equipos creativos no tenían antes”, pero advierte a los lectores que recuerden que “la IA es solo una herramienta”. 

La IA enmascara una política de clase

Como parte de un artículo de CNBC sobre diseño gráfico e IA, Nicola Hamilton, presidenta de la Asociación de Diseñadores Gráficos Registrados (Canadá), afirma que una de las afirmaciones más repetidas sobre la IA por parte de los diseñadores es, de hecho, que es “solo una herramienta”. Precede a esta observación señalando que “lidiar con nuevas tecnologías no es nada nuevo” para los diseñadores. Algunos incluso han llegado a sugerir que la IA es como un lápiz. En una publicación de LinkedIn, Peter Skillman, director global de diseño de Philips, nos dice que “la IA es solo una herramienta” y luego nos invita a interactuar con su publicación preguntando: “¿Cuál es su opinión sobre la IA en el contexto del diseño centrado en la humanidad?” 

Mi opinión, si no vas a leer el resto de este artículo, es que la IA es muy mala para el mundo, Peter. Muy, muy mala. 

Creo que es importante señalar que no todos los que se entusiasman con la IA –ni quienes se preocupan por ella– siguen la lógica de “solo una herramienta”. También existe la tendencia de “¡No es solo una herramienta! ¡Es aún mejor!”. Evitaré participar en este tipo de propaganda de la IA porque creo que la lógica de “solo una herramienta” es más difícil de descartar.

Quienes defienden la IA también incluyen a quienes difunden otros discursos promocionales como: “La IA no es solo una herramienta, es un socio ‘creativo‘” y “No es una herramienta, es un cambio de paradigma“. Sin embargo, estos y otros superlativos, como la lógica de “solo una herramienta”, enmascaran las realidades materiales e ideológicas de la IA, así como su política de clase: la forma en que su uso fomenta la explotación de la clase trabajadora por parte de la clase capitalista. 

El gran ‘pánico’ de la IA

Uno de los pilares de la lógica de “solo una herramienta” es sugerir que quienes se muestran escépticos o preocupados por cualquier nueva tecnología son simplemente tecnófobos “en pánico” o simplemente no la entienden. Utilizar este enfoque para acusar a los miembros más reflexivos y perspicaces de la sociedad de oponerse al progreso es mucho más efectivo que el enfoque de “cambio de paradigma” o “es más que una herramienta” para hablar de IA.

Podría parecer razonable sentir aprensión ante un “cambio de paradigma”, pero parece mucho menos razonable tener reservas sobre algo que es “solo una herramienta”. De hecho, si, como dijo Hamilton, los diseñadores han estado lidiando con nuevas tecnologías desde que existe el campo mismo, entonces cualquier pánico aparente de un diseñador ante la IA debe ser una reacción exagerada.

La nueva tecnología, dice Hamilton, es una “evolución” y, según esta lógica, resistirse a una evolución que es en sí misma simplemente una herramienta debe interpretarse como una oposición al progreso sin razón. E incluso si uno está entrando en pánico, los partidarios de la lógica de “solo una herramienta” podrían recordarnos que “el pánico tecnológico no es nuevo“. Interpretar la resistencia a las nuevas tecnologías, independientemente de sus impactos reales, como “pánico” está diseñado para enmarcar cualquier tipo de escepticismo como irrazonable. 

La IA está favoreciendo la precariedad laboral

Pero el pánico es precisamente lo que deberíamos estar sintiendo. Deberíamos entrar en pánico ante la IA generativa, en parte porque sus perjuicios superan con creces cualquier beneficio para cualquier diseñador o miembro de la clase trabajadora. Al observar el panorama de los usos reales de la IA –desde las campañas de desinformación política hasta el abuso sexual infantil por IA, el material sexualmente explícito no consentido y la clonación de voz utilizada para estafar a personas y robarles sus ahorros–, el pánico parece bastante razonable. 

Aunque algunas personas comprometidas con el mantenimiento del statu quo han intentado fundamentar esta afirmación, hay tres cuestiones que, en mi opinión, la complican. En primer lugar, parte de la pérdida de empleos atribuida a la automatización, como demuestra con tanta elegancia Aaron Benanav, es resultado de la desindustrialización y la transición a un sector servicios con una estabilidad laboral mucho menor, donde el subempleo y el desempleo no declarado se vuelven significativamente más comunes.

Aunque el pánico mencionado parezca razonable, supuestamente no tenemos nada de qué preocuparnos en cuanto a la pérdida de empleos. Hamilton nos dice que: “La IA probablemente dejará a algunos diseñadores sin trabajo… De la misma manera que Canva dejó a algunos diseñadores sin trabajo, o la introducción de las computadoras expulsó a algunos de la industria. Es una razón más para buscar maneras de que funcione para nosotros”. Muchos en la clase capitalista, como el Foro Económico Mundial y Price Waterhouse Cooper, han llegado a decirnos que la IA creará más empleos de los que eliminará. 

¿Quién se beneficia realmente de la IA?

La realidad es que cualquier mejora en la eficiencia derivada del uso de la IA no beneficia a quienes no ostentan poder y privilegios en la sociedad. Para la clase trabajadora, da igual si se crean más empleos o si somos más productivos, ya que la mayoría de los beneficios irán a parar a un número cada vez menor de oligarcas capitalistas. Mientras tanto, el resto sigue sufriendo la caída de los salarios reales y el aumento de la precariedad. La política de clase en esta situación es crucial para evaluar con claridad los avances en IA. 

En segundo lugar, la innovación en el capitalismo se caracteriza por una “carrera hacia el abismo” o intentos de recortar costos a cada paso. Hoy en día, tecnologías como genAI suelen servir para reducir los costos operativos con el fin de aumentar las ganancias trimestrales y garantizar que las recompras de acciones ofrecidas a los accionistas sean lo más lucrativas posible. Y, por último, la tecnología no opera en el vacío. No opera según una línea predeterminada de “desarrollo”, y no aparece simplemente sin que la gente determine sus criterios de diseño, es decir, cómo funciona y quién se beneficia de esas funciones. 

El mito de la centralidad humana

La lógica de “solo una herramienta” resuena con la idea de que los diseñadores pueden liberarse para preocuparse por la coreografía de los sistemas y no por los píxeles. En su Informe sobre el futuro de los empleos de 2025, el Foro Económico Mundial clasificó el diseño gráfico como el undécimo “trabajo en declive” más rápido según las predicciones de los empleadores. Los trabajos de UX, junto con el diseño de servicios, la experiencia del cliente y otros roles más orientados a los sistemas, seguirán creciendo.

Entonces, si bien la naturaleza de los trabajos de diseño podría cambiar gracias a la IA, tal vez la cantidad de trabajos no cambie realmente. Y tal vez haya un equilibrio mutuamente beneficioso, en el que las personas que de otro modo no podrían permitirse un trabajo de diseño a medida de alta calidad puedan usar la IA generativa, lo que permitirá a los diseñadores profesionales enfocar su creatividad en “problemas perversos”. 

Sin embargo, esta perspectiva es privilegiada y no considera la clase social, el capital ni el bienestar del planeta. Un enfoque de diseño a nivel de sistemas –que analiza las experiencias de los usuarios a través de los ecosistemas de productos y servicios– debería tener en cuenta los efectos nocivos de la IA en las personas, las sociedades y el medio ambiente, en lugar de aceptar los supuestos fines benéficos para los que se nos dice que está destinada. 

Algunos ejemplos de lo que hablamos

Analicemos el anuncio de Adobe Express sobre el fundador de Yendy, una marca de cuidado de la piel que busca desafiar la explotación de las cadenas de suministro y apoyar a los pequeños agricultores del norte de Ghana. Parece una empresa muy atractiva, según la información de su sitio web y redes sociales. Sin embargo, el anuncio de Adobe está instrumentalizando a personas del continente africano para promover una “herramienta” tecnológica que es, en sí misma, intrísecamente racista y colonialista.

Los diseñadores que ven genAI como “solo una herramienta” podrían no sentirse demasiado afectados por genAI de Adobe y podrían considerar este anuncio como benigno, si no reconfortante. Pero si estos diseñadores están realmente “centrados en el ser humano” –o “centrados en la humanidad”–, como afirman, ¿cómo podrían ver ese anuncio y no pensar en la gente del Sur Global que está siendo explotada por los mismos desarrollos tecnológicos que permitieron al fundador de Yendy usar Adobe Express en primer lugar? ¿Qué hay de la historia colonialista de la propia IA y el neocolonialismo continuo de las corporaciones tecnológicas? ¿Qué hay de los flujos globales de riqueza hacia las empresas del Norte Global desde el Sur Global? ¿O de las implicaciones ambientales? 

Además, sugerir que la IA es una herramienta que permite a los no diseñadores convertir sus ideas en realidad y a los diseñadores pensar a un nivel superior, contribuye a ofuscar el verdadero problema de la IA y del diseño: la innovación tecnológica bajo el capitalismo está en desacuerdo con una forma de vida justa y sostenible para todos. 

Por qué una herramienta no es “solo una herramienta”

Lo último que quiero decir sobre la lógica de “solo una herramienta” es que la palabra “herramienta” en sí misma no es intrínsecamente mala. Pero sugerir que algo es “solo” una herramienta es, sin duda, muy problemático. En 1973, Ivan Illich propuso lo que, para mí, es el enfoque más convincente para pensar en las herramientas, que entiende en un sentido amplio y abarcador, abarcando desde martillos hasta infraestructuras viales. Las herramientas nos permiten hacer cosas, pero también limitan nuestras actividades. Determinan lo que es posible y los efectos que podemos tener en el mundo que nos rodea. Por esta razón, las herramientas se entienden con un matiz que la propia lógica de “solo una herramienta” niega. 

Las herramientas, argumenta Illich, deben contextualizarse, comprenderse a través de su relación con las personas que las usan y quienes se ven afectadas por dicho uso. Y lo más importante, escribe Illich, es que los criterios de diseño de todas las herramientas deben determinarse democráticamente. Esto es lo opuesto a la situación actual. En nuestro mundo moderno, las “herramientas” de IA nos han sido impuestas por oligarcas tecnológicos empeñados en exprimir hasta el último céntimo de plusvalía de la clase trabajadora, y dado que nuestra comprensión de la naturaleza de las herramientas está tan empobrecida, sentimos que debemos aceptarlas en sus propios términos. 

¿Qué nos dice la historia de las “herramientas”?

Pero la historia demuestra que esto tampoco tiene por qué ser así. Cualquier desarrollo posterior en IA debe enfrentarse a una resistencia como la de los luditas, quienes buscaban destruir tecnologías que socavaban su oficio, explotaban y ponían en peligro a sus camaradas, y aumentaban la plusvalía de la clase capitalista sin permitir que quienes perdieron sus empleos compartieran la supuesta creación de riqueza. Y la clase trabajadora debe exigir que los criterios de diseño de cualquier innovación tecnológica se determinen democráticamente. 

Los avances en informática podrían beneficiar genuinamente a la clase trabajadora internacional si esas mismas personas pudieran determinar los criterios de diseño de esas innovaciones, teniendo en cuenta las interrelaciones sistémicas del trabajo y el medio ambiente. Cómo podrían ser esas tecnologías, esas herramientas –incluidas las que utilizan los diseñadores– es casi imposible de imaginar hoy en día. Pero si, como escribió el padre John Culkin en 1967, “damos forma a nuestras herramientas, y a partir de ahí, nuestras herramientas nos dan forma a nosotros”, mejor empecemos a remodelar nuestras herramientas, y debemos hacerlo por cualquier medio necesario.