La IA está aprendiendo a tener buen gusto, pero necesita humanos

La inteligencia artificial ya puede crear imágenes, textos y diseños técnicamente correctos. El siguiente reto es mucho más difícil: enseñarle buen gusto. Durante años, el desarrollo de la IA se concentró en evitar errores evidentes. Que una mano generada tuviera cinco dedos. Que un texto no mezclara metáforas sin sentido. Que una imagen pareciera suficientemente real. Ahora eso empieza a ser apenas el punto de partida.

Ben Blumenrose, gerente de la firma de capital de riesgo Designer Fund y diseñador con dos décadas de experiencia, ha seguido de cerca la mejora de los elementos visuales generados por IA. Todavía puede distinguir entre un sitio diseñado por un profesional y uno creado por un modelo. Entre las pistas están la proliferación de elementos superpuestos, paneles flotantes y degradados. Sin embargo, asegura que los resultados actuales son cinco veces mejores que los que ofrecían las mismas herramientas hace apenas un año.

Aún puede distinguir entre un sitio diseñado por un profesional y uno creado por un modelo (algunas señales: la proliferación de elementos superpuestos, paneles flotantes y degradados), pero los resultados de la IA son “cinco veces mejores que los que ofrecían las mismas herramientas hace un año”. Anticipa que la tendencia continuará. “Probablemente dentro de seis meses o un año será muy difícil incluso para mí distinguirlos”, afirma Blumenrose.

La industria de la IA se ha esforzado por mejorar la creatividad de los modelos mediante métricas de evaluación precisas, rúbricas, pruebas automatizadas y herramientas. Hace unos años, el reto consistía en reducir la cantidad de contenido de baja calidad, asegurándose de que las manos humanas generadas por IA tuvieran el número correcto de dedos o que los ensayos generados por IA no mezclaran metáforas. Pero ahora que la corrección se ha convertido prácticamente en un requisito básico, el camino hacia un trabajo creativo que convenza, o incluso impresione, a un experto como Blumenrose es menos claro. 

El gusto, o al menos una aproximación al mismo, se ha convertido en una de las próximas fronteras en el desarrollo de modelos. Numerosas startups prometen poder incorporar el gusto a la IA. Mientras tanto, los principales laboratorios de vanguardia exploran cómo integrar sus modelos en ámbitos subjetivos como la escritura y el diseño. Claude Design , de Anthropic, lanzado en abril, ya ha incorporado una estética particular que se está replicando en internet.

Pero, como bien sabe cualquier persona, incluso dentro de una profesión específica, las opiniones sobre lo que se considera “bueno” pueden variar según la compleja combinación de experiencias sociales, culturales y laborales de cada individuo. Desarrollar el buen gusto en cualquier campo creativo es tanto un reto técnico como un proyecto personal: es necesario aprender lo suficiente sobre lo que funciona, tanto de expertos como de la historia, pero también es fundamental comprender qué nos gusta y por qué. Lo mismo ocurre al enseñar a un modelo a tener buen gusto.

El primer paso de este proceso, la recopilación y evaluación de información, es similar a cómo las empresas tecnológicas han operado durante décadas y cómo los laboratorios de vanguardia han desarrollado inteligencia artificial en los últimos años. El siguiente paso crucial, decidir qué resulta adecuado y único, y luego tomar una decisión basada en el discernimiento, es más ajeno a los procesos y sistemas de desarrollo tecnológico. 

Aun así, los tecnólogos de toda la industria intentan abordar este dilema cualitativo. A gran y pequeña escala, están enseñando a los modelos qué significa “bueno” para campos creativos específicos, con el objetivo de perfeccionar el criterio de la IA hasta un nivel suficientemente preciso. Pero, al final, resulta que estos métodos dependen del criterio de muchos profesionales humanos.

Entrada de datos de expertos, salida de datos de expertos

El primer obstáculo para desarrollar el gusto por la IA es obtener los conjuntos de datos adecuados. La mayoría de los proveedores de modelos de propósito general, como OpenAI y Anthropic, han construido sus bases de conocimiento de modelos rastreando Internet y recopilando información disponible públicamente (o información propietaria, por la cual algunas empresas de IA han sido demandadas y, en algunos casos, responsabilizadas ).

Durante mucho tiempo, los grandes laboratorios han trabajado con el “postentrenamiento”, es decir, el proceso de refinar un modelo existente para que funcione bien en ciertas tareas. Con el objetivo de desarrollar una inteligencia artificial generalizada, este entrenamiento se ha orientado hacia un promedio óptimo. En el ámbito visual, esto ha dado como resultado resultados fiables, aunque no especialmente creativos. Sin embargo, el gusto experto en un dominio específico requiere datos expertos en ese dominio. Y ahora, varias empresas consolidadas y nuevas startups buscan ir más allá de una base de conocimientos generalista para resolver este problema en el ámbito creativo.

Figma utiliza modelos base desarrollados internamente para herramientas de productividad y producción, pero señala que a menudo presentan deficiencias. «Los modelos prefabricados suelen carecer de la capacidad de evaluar la calidad del diseño de forma fiable, y la cantidad de razonamiento y la latencia resultante no siempre se correlacionan con la complejidad de la tarea», afirma Sumithra Bhakthavatsalam, responsable de investigación en IA de Figma.

En otras palabras, los modelos de vanguardia pueden trabajar demasiado y durante demasiado tiempo, lo que produce resultados poco satisfactorios. Por eso, la empresa realiza un entrenamiento posterior para obtener resultados más rápidos y reducir la sobrecarga de análisis durante el trabajo de diseño iterativo. También ajusta el modelo para lograr una calidad general, variedad y una comprensión más profunda de Figma y los sistemas de diseño de sus clientes. Para potenciar este entrenamiento posterior, el equipo de Bhakthavatsalam recopila ejemplos selectos de “excelente” y “bueno” de los diseñadores de Figma.

En Krea , el cofundador Diego Rodríguez sabe que los datos genéricos no producen resultados útiles para sus clientes, diseñadores, cineastas y arquitectos. Krea ofrece un conjunto de herramientas para profesionales creativos, incluyendo generadores de imágenes y vídeo, y un modelo que los usuarios de Krea pueden entrenar, lo que garantiza una alta calidad de salida. Para los generadores visuales de Krea, el equipo de Rodríguez ha recopilado millones de referencias de ángulos y estilos cinematográficos, técnicas y materiales de impresión, y elementos arquitectónicos para su posterior entrenamiento, asegurando así que los modelos creados cuenten con el vocabulario visual necesario para el trabajo creativo profesional. 

Una reciente colaboración con el estudio de arquitectura Henning Larsen ha ayudado a Krea a mejorar sus datos relacionados con la arquitectura y, como resultado, ha perfeccionado su oferta para el sector. Se trata de un acuerdo mutuamente beneficioso: Henning Larsen proporciona a Krea comentarios de expertos sobre aspectos como la calidad y la precisión de las visualizaciones generadas, la utilidad de la estructura de la plataforma y la oferta de Krea para arquitectos profesionales; y Krea proporciona al estudio herramientas específicas del sector, como una interfaz adaptada a su flujo de trabajo y un generador de imágenes entrenado para su campo.

Rodríguez afirma que ahora Henning Larsen puede elaborar propuestas para clientes mucho más precisas y expresivas en menos tiempo. Esta es la primera colaboración de Krea con una empresa específica, pero Rodríguez planea más. «Quiero colaborar con los mejores de las industrias creativas: los mejores del cine, los mejores de la arquitectura», dice Rodríguez. «Pueden aportarme ideas que ni siquiera se me habían ocurrido».  

El gusto de la IA se compone de decisiones humanas.

Tras enseñar a los modelos de IA cómo es la información específica de un dominio, el reto consiste en guiarlos hacia el discernimiento. Edwin Chen, fundador y director ejecutivo de Surge , empresa que apoya a laboratorios de IA de vanguardia con el post-entrenamiento, opina que muchos en el sector se equivocan al creer que si logran que un modelo sea lo suficientemente inteligente mediante rúbricas y puntos de referencia populares, ese modelo podrá razonar y llegar a resultados satisfactorios. 

“Creo que la gente subestima que esto no es un problema puramente técnico”, dice Chen. «En realidad, también es un problema humanístico y basado en valores. No solo les estás enseñando (a los modelos) muchos más datos, sino también lo que les importa». 

Según Nick Heiner, jefe de entornos de aprendizaje por refuerzo de Surge, el método clave posterior al entrenamiento para el gusto es el aprendizaje por refuerzo con retroalimentación humana (RLHF), un proceso en el que un panel de humanos experimentados proporciona retroalimentación sobre los resultados de la IA, que luego se utilizan para impulsar el modelo en una dirección mejor (o más agradable al paladar).

Para entender cómo funciona, imagina a 10 poetas leyendo dos ejemplos de poesía generada por IA en una pantalla, uno al lado del otro. Califican y comentan cada uno según su opinión profesional, envían sus respuestas y pasan al siguiente conjunto de ejemplos. (De hecho, Surge trabaja con poetas y otros escritores publicados ). Ahora imagina a cientos de poetas mirando cientos de poemas. Ahora, miles, o incluso cientos de miles. Ahora imagina que también hay un grupo de diseñadores mirando diseños comparados para una página de inicio. Y arquitectos haciendo clic en el material que mejor se adaptaría a una pared exterior orientada al este. Y cineastas seleccionando el objetivo adecuado para una escena clave. Todas esas personas están reforzando lo que se considera “bueno” para que el modelo pueda perfeccionar su resultado. El truco para replicar el gusto humano es lograr que muchas personas le digan a las computadoras qué les gusta y por qué. 

Pero incluso dentro de ese proceso, hay muchas decisiones que Surge y otras empresas que realizan capacitación posterior pueden tomar para moldear aún más la definición, o definiciones, de gusto que se sintetiza en un modelo. “Algunas de ellas tienen que ver con cómo se organizan las personas”, dice Heiner. “Tal vez tengas un grupo de expertos que realice el trabajo original y otro grupo que lo revise… Tal vez tengas algún otro mecanismo para evaluar a los revisores, y si alguien no hace buenas revisiones, se le degrada”. 

Puedes ajustar la forma en que redactas las instrucciones para los humanos, cómo estableces las prioridades para sus comentarios, cómo diriges la atención de los expertos y qué decisiones tienen mayor o menor peso en los resultados. Puedes cambiar los criterios de selección de los expertos. Puedes cambiar la cantidad de tareas que se incluyen en un conjunto de datos, o su tipo; por ejemplo, puedes mostrarlas en un carrusel en lugar de una al lado de la otra en una pantalla. Todas estas decisiones afectan el resultado del entrenamiento. Todas estas decisiones son subjetivas. 

“En definitiva”, dice Heiner, “lo que importa es el criterio humano, no solo el de los expertos, sino también el del responsable de la producción de datos y el de las personas que dirigen a los expertos que reciben formación posterior”.

Una vez que Surge ha finalizado su trabajo, un nuevo equipo de personas del lado del cliente toma decisiones sobre qué significa “bueno”. El proceso transforma muchas elecciones estéticas individuales de personas en conjuntos de datos que entrenan a los modelos individuales para tomar decisiones “buenas” o, quizás con mayor precisión, decisiones humanas.

Surge no es la única empresa que colabora directamente con laboratorios de IA de vanguardia y otros desarrolladores de modelos para abordar este problema. Taste Labs recientemente salió del modo sigiloso con una financiación de 18,5 millones de dólares para entrenar modelos de gusto, creando infraestructura y herramientas para recopilar anotaciones y evaluaciones de expertos, comenzando por el campo del diseño (la empresa no respondió a la solicitud de entrevista).

Este año, la plataforma de contratación creativa Contra lanzó Contra Labs , un laboratorio independiente de datos humanos y evaluación creativa que conecta a su red de más de 1,7 millones de profesionales creativos con laboratorios y desarrolladores que buscan retroalimentación experta sobre los resultados de los modelos. Ben Huffman, cofundador y director ejecutivo de Contra, afirma que diseñadores, escritores, editores de video y otros creativos de alto nivel pueden ganar entre 50 y 250 dólares por hora trabajando en RLHF y otros tipos de post-capacitación. Huffman cree que este tipo de trabajo de evaluación creativa de nivel experto se convertirá en una categoría laboral muy importante.

El entrenamiento posterior para el desarrollo del gusto también se está llevando a cabo a menor escala. Pickford es una startup que crea películas que responden en tiempo real a la opinión del público mediante IA. Bernie Su, guionista y director ganador del premio Emmy, escribe los guiones originales y los perfiles de los personajes; la IA redirige la historia en función de la respuesta del público dentro de los límites establecidos. Para garantizar que la IA tenga el nivel de criterio adecuado para satisfacer las expectativas del público, Pickford realiza un extenso entrenamiento posterior en una matriz de modelos base y cuenta con un equipo que revisa el vídeo de cada proyección para proporcionar retroalimentación al modelo. (Su película Whispers ha sido seleccionada como finalista del premio Emmy a la Innovación Sobresaliente en Medios Emergentes). En esta etapa de la industria, los humanos guían el criterio de la IA de principio a fin.

El trabajo de un ser humano nunca termina.

Hoy en día, se necesita mucha gente para construir un sistema automatizado, y muchos expertos creen que seguirá siendo así durante un tiempo, si no para siempre. De hecho, Huffman, de Contra, afirma que no cree que sea posible dar una idea del resultado final. Lo que ofrece Contra Labs es la retroalimentación de creativos en activo sobre qué resultado consideran mejor, basándose en su experiencia profesional y sus preferencias personales. 

«Los estudios de gestión de proyectos pueden mejorar sus resultados basándose en esos datos de preferencias», afirma Huffman, «pero nunca podrán crear algo verdaderamente elegante y competitivo que sea totalmente novedoso y relevante, porque simplemente no tienen pulso». Según Huffman, para cualquier trabajo creativo con múltiples definiciones de calidad, es necesario que los humanos sigan participando activamente.

Rodríguez, de Krea, compara las soluciones de su empresa con la espada, no con el samurái. Su objetivo es crear herramientas, imágenes y plataformas con la fidelidad suficiente para que los creativos mejoren su trabajo, sin imponer una definición cerrada de gusto. Krea incluso ha desarrollado su propio modelo base y recientemente lo ha puesto a disposición como recursos abiertos , o de uso gratuito con una licencia personalizada, para que los creativos lo adapten a sus gustos personales y profesionales. 

Y Bhakthavatsalam, de Figma, afirma que la empresa no considera la IA como un sustituto del buen gusto: “Los diseñadores pueden usar la IA para ampliar las posibilidades creativas, pero el discernimiento y la empatía que hay detrás de cada sugerencia y acción siguen siendo exclusivamente humanos”. 

Por otro lado, Chen, de Surge, se muestra optimista sobre la capacidad de la industria para incorporar el gusto a la IA. «Es inevitable que pronto tengamos modelos con capacidad de percibir el gusto», afirma Chen. «Enseñamos a los modelos todos estos aspectos del gusto, todas estas cosas que creíamos intrínsecamente humanas, como la creatividad y la serendipia. Luego, cada pocos meses, vemos cómo los modelos mejoran en todos ellos. Poco a poco, aquello que estábamos seguros de que era exclusivamente humano resulta ser simplemente patrones que los modelos pueden aprender». 

Aunque no se confirme en todos los casos, es cierto que los modelos están mejorando en tareas complejas, o al menos eso creen los humanos. Se dice que la aclamada novela superventas Daggermouth fue escrita con inteligencia artificial; casi uno de cada cinco jóvenes estadounidenses utiliza chatbots para obtener consejos sobre salud mental, frente a uno de cada ocho a finales del año pasado.

Pero incluso si la predicción de Chen es correcta, Heiner afirma que Surge planea mantener a los expertos involucrados en el proceso. “Creo que seguiremos necesitando humanos para definir el concepto de [gusto], porque si pensamos que la IA está diseñada para servir a los humanos, debemos expresar nuestra opinión y decir qué es lo que buscamos”, afirma.

Es posible que los modelos puedan aprender y reproducir patrones existentes con la suficiente precisión para la mayoría de los fines profesionales, pero el gusto no es estático, y es probable que quienes marcan las tendencias sigan yendo más allá de cualquier definición preestablecida. 

Blumenrose predice que empezaremos a ver sitios web más elaborados y obsesivos, que serán expresiones personales de artesanía y creatividad. En Designer Fund, suelen usar la frase “La IA jamás haría eso” para describir el tipo de decisiones que solo un diseñador humano podría tomar: extravagantes, contraintuitivas o incluso “erróneas”.

“Como somos humanos, creo que empezaremos a hacer cosas que las computadoras no pueden o no quieren hacer”, afirma. Y quizás entonces alguien, o miles de personas, le enseñe eso también a una IA.