Zuckerberg quiere que confíes en la IA personal de Meta. Suerte con eso

La IA personal de Meta ya tiene manifiesto. El CEO de la compañía, Mark Zuckerberg, publicó el lunes un ensayo de 6,500 palabras en el que sostiene que la inteligencia artificial es más segura y más benéfica cuando se distribuye ampliamente y no queda en manos de unos cuantos laboratorios líderes. Fue más que un ensayo: fue una proclama sobre cómo debería desarrollarse esta era tecnológica.

También fue un ejercicio de reposicionamiento. Meta quiere presentarse como la fuerza responsable y democratizadora de la IA, y a Zuckerberg como un pensador serio sobre las consecuencias sociales de la tecnología: un terreno que suele asociarse más con figuras como Dario Amodei, CEO de Anthropic.

El problema es que su visión exige que los usuarios confíen en Meta. Y a menos que la gente tenga muy mala memoria, ese será un argumento difícil de vender.

La IA personal de Meta y un problema de confianza sin resolver

Zuckerberg y su compañía ya quemaron buena parte de la confianza del público. Durante la obsesión anterior de Meta, el metaverso, argumenté que la empresa nunca dominaría el espacio de la realidad aumentada y virtual por la enorme cantidad de datos personales que se pediría entregar a los usuarios (y a las personas con las que interactúan). Esa preocupación no ha desaparecido: los lentes inteligentes de Meta enfrentan hoy una reacción negativa en materia de privacidad tan fuerte que algunos ya los llaman “lentes de pervertido”.

Esa desconfianza va mucho más allá de Meta. Los estadounidenses han expresado de manera consistente un profundo escepticismo sobre cómo manejan las redes sociales su información personal. En una encuesta de Pew, apenas 23% de los usuarios de redes sociales dijo confiar en que las plataformas que usan protegerían su información frente a hackers o usuarios no autorizados. Además, 77% de los estadounidenses afirmó tener poca o nula confianza en que los directivos de las redes sociales reconozcan sus errores y asuman la responsabilidad cuando los datos de los usuarios se usan indebidamente.

Con los agentes personales ocurre exactamente lo mismo. La promesa de la IA personal de Meta es darle a cada usuario un agente superinteligente que lo sepa todo sobre él. En palabras de Zuckerberg: “Tu agente trabajará 24/7 en tu nombre para mejorar tus relaciones, tu salud, tu carrera, tus finanzas, la administración de tu hogar, tus pasatiempos y más”.

Dado el historial de Facebook en materia de privacidad de datos, eso debería poner los pelos de punta. El negocio de la empresa siempre ha consistido en operar una red publicitaria donde los anuncios se segmentan a partir de miles de pequeñas migajas de información que recoge sobre los usuarios y sus intereses. Por ello, quien converse a sus anchas con la IA personal de Meta podría terminar cediendo mucha más información de la que imagina; de hecho, ya hay motivos para preguntarse quién puede acceder al historial de chats con un asistente de IA.

Meta está muy consciente de su problema de confianza. En tres pasajes distintos de su ensayo, Zuckerberg promete que la IA personal de Meta ofrecerá opciones robustas de privacidad y seguridad para que los usuarios puedan confiarle todo su contenido, y que nadie más podrá acceder a esa información. Su protección, dice, será “similar a como funciona el cifrado en WhatsApp”.

Sin embargo, la compañía tiene un historial de hacer promesas ambiciosas sobre cifrado y luego batallar para cumplirlas. Se comprometió en 2019 a “girar” Messenger, Instagram y WhatsApp hacia el cifrado de extremo a extremo; después dio largas durante casi cuatro años, hasta que finalmente lo activó por defecto en Messenger a fines de diciembre de 2023. Tampoco ha sido tímida al entrenar sus modelos con contenido de sus propios usuarios.

Las tres ideas del manifiesto detrás de la IA personal de Meta

El ensayo de Zuck gira en torno a tres ideas centrales: el empoderamiento individual es la fuente de la prosperidad, la invención es el propósito de la superinteligencia y el equilibrio de poder es el fundamento de la seguridad. Cuando la IA está controlada por unas cuantas instituciones , dice Zuckerberg, es probable que se use para sustituir trabajadores. En cambio, cuando se distribuye entre todos mediante modelos abiertos, es más probable que empodere a los individuos para inventar productos nuevos que se conviertan en empresas nuevas que tendrán que contratar empleados.

Además, Meta tiene quizá el mejor modelo de negocio de la industria para llevar la IA personal de Meta a cientos de millones de personas. Gracias a su lucrativo negocio publicitario, no depende de suscripciones ni de tarifas de API para generar ingresos, a diferencia de OpenAI y Anthropic. Puede darse el lujo de ofrecer acceso gratuito a sus modelos de frontera, algo que a otros laboratorios de IA les costaría mucho más trabajo hacer a una escala comparable.

Pero aun así, muchos usuarios evitarán la IA personal de Meta como su herramienta cotidiana. Conforme la usen más y más, se darán cuenta de cuánto aprende sobre ellos, sus relaciones, su salud, su carrera, sus finanzas, la administración de su hogar y sus pasatiempos, y empezarán a preguntarse si toda esa información realmente se mantendrá segura. Los usuarios de Facebook alguna vez creyeron que la red social jamás vendería ni prestaría su información. Después llegó Cambridge Analytica.

¿Es segura la IA personal de Meta?

Meta afirma que sus agentes tendrán cifrado y controles de privacidad comparables a los de WhatsApp, e introdujo un modo incógnito para los chats con Meta AI. Sin embargo, no existe todavía una auditoría independiente que lo verifique y el modelo de negocio de la compañía sigue basado en publicidad segmentada con datos de usuarios. La respuesta corta: hoy es una promesa, no una garantía.