Esta es la principal falla arquitectónica de la inteligencia artificial

Los modelos de lenguaje grande se sienten inteligentes porque hablan con fluidez, confianza y a gran escala. Pero la fluidez no es comprensión, y la confianza no es percepción. Para comprender la verdadera limitación de los sistemas de inteligencia artificial actuales, conviene repasar una idea con más de 2,000 años de antigüedad.

En La República, Platón describe la alegoría de la caverna: prisioneros encadenados en una cueva solo pueden ver sombras proyectadas en una pared. Al no haber visto nunca los objetos reales que proyectan esas sombras, confunden las apariencias con la realidad y se ven privados de experimentar el mundo real.

Los modelos de lenguaje grande (LLM, por sus siglas en inglés) viven en una cueva muy similar.

Los modelos de lenguaje grande no perciben el mundo: leen sobre él

Los modelos de lenguaje grande no ven, oyen, tocan ni interactúan con la realidad. Se entrenan casi exclusivamente con texto: libros, artículos, publicaciones, comentarios, transcripciones y fragmentos de expresión humana recopilados a lo largo de la historia e internet. Ese texto es su única entrada; su única “experiencia”.

Los modelos de lenguaje grande solo “ven” sombras: textos producidos por humanos que describen el mundo. Esos textos constituyen su universo entero. Todo lo que un LLM sabe sobre la realidad viene filtrado a través del lenguaje, escrito por personas con distintos grados de inteligencia, honestidad, sesgo, conocimiento e intención.

El texto no es la realidad: es una representación humana de la realidad. Es mediado, incompleto, sesgado y tremendamente heterogéneo, a menudo distorsionado. El lenguaje humano refleja opiniones, malentendidos, puntos ciegos culturales y falsedades descaradas. Los libros e internet contienen perspectivas extraordinarias, pero también teorías conspirativas, propaganda, pornografía, abusos y disparates. Cuando capacitamos a los LLM con “todo el texto”, no les damos acceso al mundo, les damos acceso a las sombras de la humanidad en la pared.

Esta no es una limitación menor. Es el fallo arquitectónico fundamental de la inteligencia artificial actual.

Por qué la escala no resuelve el problema

La suposición predominante en la estrategia de inteligencia artificial ha sido que la escala lo soluciona todo: más datos, modelos más grandes, más parámetros, más computación. Pero más sombras en la pared no equivalen a la realidad.

Dado que los LLM están entrenados para predecir la siguiente palabra estadísticamente más probable, destacan en la producción de lenguaje plausible, pero no en la comprensión de la causalidad, las limitaciones físicas ni las consecuencias en el mundo real. Por eso, las alucinaciones no son un problema que se pueda corregir, sino una limitación estructural.

Como Yann LeCun ha argumentado repetidamente, el lenguaje por sí solo no es una base suficiente para la inteligencia.

La transición hacia los modelos del mundo

Por eso, la atención se centra cada vez más en los modelos del mundo: sistemas que construyen representaciones internas de cómo funcionan los entornos, aprenden de la interacción y simulan resultados antes de actuar.

A diferencia de los LLM, los modelos del mundo no se limitan al texto. Pueden incorporar datos de series temporales, entradas de sensores, bucles de retroalimentación, datos de ERP, hojas de cálculo, simulaciones y las consecuencias de las acciones. En lugar de preguntar “¿Cuál es la siguiente palabra más probable?”, plantean una pregunta mucho más contundente:

“¿Qué pasará si hacemos esto?”

Cómo se ve esto en la práctica

Para los ejecutivos, esto no es un debate de investigación abstracto. Los modelos globales ya están surgiendo (a menudo sin ser etiquetados como tales) en ámbitos donde el lenguaje por sí solo es insuficiente.

• Cadenas de suministro y logística: Un modelo global puede resumir interrupciones o generar informes. Puede simular cómo se propaga a través de una red el cierre de un puerto, el aumento del precio del combustible o el fallo de un proveedor, y probar respuestas alternativas antes de comprometer capital.
• Seguros y gestión de riesgos: Los modelos globales pueden explicar políticas o responder a las preguntas de los clientes. También pueden aprender cómo evoluciona el riesgo con el tiempo, simular eventos extremos y estimar pérdidas en cascada en diferentes escenarios, algo que ningún sistema basado únicamente en texto puede hacer de forma fiable.
• Fabricación y operaciones: Los gemelos digitales de fábricas son modelos globales iniciales. No se limitan a describir procesos; simulan cómo interactúan las máquinas, los materiales y la sincronización, lo que permite a las empresas predecir fallos, optimizar el rendimiento y probar cambios virtualmente antes de tocar el sistema real.

En todos estos casos, el lenguaje es útil, pero insuficiente. La comprensión requiere un modelo de cómo se comporta el mundo, no solo de cómo la gente habla de él.

La arquitectura post-LLM

Esto no significa abandonar los modelos de lenguaje. Significa ponerlos en su lugar.

En la siguiente fase de la inteligencia artificial:

• Los LLM se convierten en interfaces, copilotos y traductores.
• Los modelos globales proporcionan fundamento, predicción y planificación.
• El lenguaje se asienta sobre sistemas que aprenden de la propia realidad.

En la alegoría de Platón, los prisioneros no se liberan estudiando las sombras con más atención: se liberan al darse la vuelta y confrontar la fuente de esas sombras y, finalmente, el mundo exterior.

La inteligencia artificial se acerca a un momento similar.

Las organizaciones que reconozcan esto pronto dejarán de confundir la fluidez del lenguaje con la comprensión y empezarán a invertir en arquitecturas que modelen su propia realidad. Estas empresas no solo desarrollarán una IA que hable del mundo de forma convincente, sino que también desarrollarán una IA que realmente comprenda cómo funciona.

¿Entenderá esto tu empresa? ¿Será capaz de construir su modelo global?