Dentro de las decisiones de diseño más importantes de Anthropic

El chatbot Claude de Anthropic tiene sus propias opiniones y no tiene miedo de compartirlas.

“Debería ser un compañero de debate”, dice Joel Lewenstein, jefe de diseño de Anthropic. “No debería reproducir tus ideas al pie de la letra. Debería cuestionarlas”.

Quizás esto sea predecible tratándose de un producto cuyo eslogan es “sigue pensando“. Pero la peculiar (y, a veces, pasivo-agresiva) personalidad de Claude lo distingue de la competencia. 

Eso es intencional, explica Lewenstein. “Me parece una experiencia realmente asombrosa, donde pienso: ‘Oh, no eres una especie de ejecutor servil de mi visión. Estamos coproduciendo este resultado juntos’. Creo que eso es realmente poderoso”.

En el último episodio de By Design, Lewenstein, uno de los líderes más influyentes en el diseño de inteligencia artificial (IA), ofrece una entrevista exclusiva y extensa sobre todo lo relacionado con Claude, Anthropic y el papel de los diseñadores en la IA. 

A continuación, encontrarás algunos fragmentos del podcast, editados para mayor brevedad y claridad. Escucha el episodio completo en Apple Podcasts, Spotify o YouTube. 

¿Por qué tengo que pedirle a Claude que revise su trabajo? ¿Por qué no viene esa función integrada?

No tengo una respuesta definitiva. Creo que probablemente se deba a una combinación de costo, capacidad y tiempo de respuesta. En un mundo ideal, nunca les daríamos información errónea. Claude debería tener razón y saber cuándo es correcto o incorrecto. Hay razones prácticas por las que es difícil garantizarlo, y garantizarlo implica otros costos que no queremos asumir.

Sobre las peculiaridades lingüísticas y de personalidad de Claude

“Son una parte fundamental del trabajo que realizamos con el personaje de Claude, tanto nosotros como nuestro equipo de investigación, con el objetivo de crear una entidad que se resista, que desafíe un poco, que no sea aduladora, sino algo realmente interesante. Debería ser un interlocutor con el que puedas debatir. No debería copiar tus ideas al pie de la letra. Debería generar controversia.”

¿Cuándo aceptaste que las herramientas de IA podrían tener mejores ideas que tú?

“Esto empezó a ocurrir a mediados del año pasado. Mi proceso creativo consiste en enamorarme de mis propias ideas, compartirlas con un compañero de trabajo, que me señale el defecto obvio, la especie de agujero vergonzoso en mi lógica o lo que sea, y volver tímidamente a una versión 2.”

“Ahora conozco bien ese proceso. Comparto mis primeros borradores con mucha frecuencia porque sé que necesito una primera opinión. Empecé a hacerlo con Claude, y él siempre encontraba fallos lógicos en mis documentos, propuestas y maquetas. El primer paso no fue tener mejores ideas que yo, aunque a veces he empezado a notarlo. Ahora se trata de encontrar los fallos en mis propias ideas. Y como me evitó pasar vergüenza delante de mis compañeros, me alegró mucho.”

¿Qué lugar ocupa el diseño en la estructura organizativa de Anthropic?

“Los prototipos funcionales (software realmente utilizable) son simplemente la lengua franca de Anthropic. Quien sea capaz de crearlos es quien dirige la toma de decisiones, la generación de ideas y la elaboración de planes estratégicos. Durante mucho tiempo, obviamente, fueron la ingeniería y la investigación.”

“La mayoría de las ideas más innovadoras que hemos tenido fueron impulsadas por la ingeniería, porque fueron ellos quienes pudieron convertir conceptos incipientes en algo realmente funcional. Algunos de los diseñadores que eran expertos en programación… también pudieron hacerlo hace uno o dos años.”

“Antes, otros se dedicaban a la ingeniería desde una perspectiva más amplia. Eso está cambiando radicalmente, y esta democratización de la capacidad de crear cosas funcionales se nota. Creo que tanto ingenieros como diseñadores se enfrentan al mismo problema y siguen prácticamente el mismo proceso: ‘Voy a construir algo’”.

Sobre la homogeneización de los puestos de diseño

“Anthropic se encuentra entre las tres principales organizaciones a nivel mundial en cuanto a trabajo nativo con IA y métodos de trabajo de vanguardia. Vivimos en el futuro y estoy duplicando el equipo de diseño de producto. Todos los equipos en los que tengo diseñadores tienen falta de personal, me piden más diseñadores y dicen: ‘Estos productos aún no son buenos hasta que pueda conseguir que un diseñador humano venga a trabajar conmigo durante días y semanas para mejorarlos’”.