El CEO de Anthropic escribe una visión prudente sobre nuestro futuro con inteligencia artificial

En el debate sobre la inteligencia artificial general, a menudo son los “pesimistas” (Eliezer Yudkowsky) o los “hombres de espectáculo” (Sam Altman, CEO de OpenAI; Elon Musk, CEO de X) quienes tienen el foco de atención. Sin embargo, muchos de estos puntos de vista, ya sean optimistas o pesimistas, son en última instancia vagos y abstractos. Por eso vale la pena escuchar a gente como Dario Amodei, CEO de Anthropic.

Amodei y su empresa han gastado mucho tiempo y dinero en construir salvaguardas contra los daños potenciales de la inteligencia artificial. En su nuevo ensayo, Machines of Loving Grace, Amodei explora las formas más probables en que la superinteligencia (es decir, una IA que supera la inteligencia humana) podría generar un cambio positivo mensurable.

La llegada de una inteligencia artificial “fuerte”

En el ensayo describe cómo será la superinteligencia —o “IA fuerte”, como él la llama— y ​​cómo podría comenzar a permitir el progreso en campos como la biología y la neurociencia que “mejorarán directamente la calidad de vida humana”.

Amodei cree que la inteligencia artificial fuerte podría aparecer ya en 2026. Este modelo podría parecerse a los grandes modelos lingüísticos actuales, plantea, o podría consistir en un sistema de modelos interactivos que se entrenan de forma diferente a los LLM que conocemos hoy. El sistema será más inteligente que los ganadores del Premio Nobel en varios campos, dice, y accederá a todas las “interfaces” disponibles para un humano que trabaja en un dominio digital (texto, audio, video, Internet, etc.).

La inteligencia artificial fuerte podrá controlar robots y otros equipos, dice, y resolver problemas grandes y complejos de forma autónoma. El modelo también podrá compartir sus datos de entrenamiento con otros modelos, creando potencialmente miles de IA superinteligentes dentro de un centro de datos.

La inteligencia artificial podría fungir como un investigador esencial para el progreso humano

El ensayo se vuelve aún más interesante cuando el enfoque de Amodei deja el centro de datos.

Amodei señala que, en biología, los avances que salvan vidas se ven obstaculizados por la falta de datos confiables sobre sistemas complejos. Él considera, como ejemplo, la enorme complejidad del metabolismo humano. “Es muy difícil aislar el efecto de cualquier parte de este sistema complejo, y aún más difícil intervenir en el sistema de una manera precisa o predecible”, escribe.

Modelar estos sistemas biológicos implica mucho trabajo de “laboratorio húmedo” por parte de los humanos, y es un proceso lento. La inteligencia artificial puede hacer mucho más que simplemente analizar o buscar patrones en los datos existentes, sino que puede actuar como un “investigador principal” que planifica, dirige y gestiona nuevos proyectos de investigación (quizás realizados por robots).

“Estoy hablando de usar la IA para realizar, dirigir y mejorar casi todo lo que hacen los biólogos”, escribe. Esto podría aumentar drásticamente el ritmo de la investigación, lo que podría significar que los grandes avances como CRISPR o las vacunas de ARNm podrían llegar cada 10 años en lugar de cada 100. Amodei cree que esta aceleración de la investigación podría conducir a la prevención y el tratamiento confiables de casi todas las enfermedades infecciosas, tratamientos efectivos de la mayoría de los cánceres y la eliminación de enfermedades genéticas como el Alzheimer.

Una aceleración en el progreso de la investigación tendrá efectos pronunciados en las economías de los países en desarrollo y desarrollados. Amodei afirma que la investigación asistida por inteligencia artificial mejorará las tecnologías que frenan o previenen el cambio climático y acelerará el proceso de desarrollo de alternativas alimentarias como la carne cultivada en laboratorio, que “reduce la dependencia de la ganadería industrial con alto contenido de carbono”.

Aún estamos lejos de una IA todopoderosa

Amodei deja claro que todos estos cambios positivos no aparecerán mágicamente una vez que la IA haya alcanzado la superinteligencia.

La velocidad de la aplicación está limitada por una variedad de factores, como la escasez de datos o de potencia informática, las leyes naturales (la velocidad de desarrollo de una célula, la cantidad máxima de transistores que puede albergar un chip), los temores humanos fuera de lugar (tal vez expresados ​​en la legislación) o incluso la desinformación que conduce a una reacción ludita ante la propia IA.

Aun así, es difícil leer la meditación de Amodei y no salir sintiéndose emocionado, aunque un poco nervioso, por nuestro futuro con inteligencia artificial.