TESCREAL, las filosofías detrás del nuevo orden económico mundial y el tecnofeudalismo

Este es un nuevo orden fuera de todos los convencionalismos tradicionales, es un cambio híper-disruptivo que acentúa viejos conceptos que ya habíamos superado, pero que están de vuelta disfrazados de “progreso”. Sin duda nos encontramos en un punto de inflexión en la historia económica, social, política, cultural y tecnológica de la humanidad. Bienvenidos al “Tecnofeudalismo”.

En el libro Tecnofeudalismo: El sigiloso sucesor del capitalismo, el autor y economista griego Yanis Varoufakis piensa que el capitalismo ha muerto y el sistema que lo reemplazará no es mejor. El analista afirma que las dinámicas tradicionales del sistema actual ya no gobiernan la nueva dinámica económica.

Además, cree que los cambios y las disrupciones tecnológicas son el artefacto que ha matado a dicho sistema, ya que derrumbó los dos pilares en los que se asentaba: los mercados, sustituidos por plataformas digitales que son auténticos feudos de las Big Tech; y el beneficio (profit), reemplazado por la pura extracción de rentas.

El feudo de la nube

Yanis asegura que tenemos nuevos señores feudales que son los propietarios de lo que llama “capital de la nube” y los demás, nos hemos vuelto en siervos, como en el medievo. Asegura que es este nuevo sistema de explotación que está provocando el aumento de la desigualdad global.

En un artículo que publicó en El País, Yanis profundiza en su concepto de “capital en la nube” y lo expone como un nuevo estado en donde no se fabrican cosas materiales, sino que se basa en software diseñado para modificar nuestro comportamiento. Quizá la frase mas fuerte del artículo es: “El capitalismo ha muerto y fue asesinado por su propia mano: el capital”.

A nivel personal, a lo largo de las últimas tres décadas, he analizado profundamente el crecimiento y desarrollo de las compañías tecnológicas. Basta con mirar dos reportes para entender la realidad global: el Kantar Brandz y el Interbrand; en ellos podremos ver con claridad cómo las compañías tecnológicas representan una nueva era de poder corporativo, un nuevo orden, un nuevo valor de marca, una nueva fuerza económica y sí, coincido con Yanis, semejante al sistema feudal de la Edad Media.

Un feudalismo para la nueva era

En el feudalismo tradicional, la estructura social estaba claramente jerarquizada, con señores feudales que poseían la tierra y los siervos o campesinos que trabajaban en ella, a cambio de protección y una parte de la producción. Este sistema creaba una dependencia directa de los siervos hacia los señores, quienes ejercían un control significativo sobre la vida económica, política y social de la época.

En la actualidad esos señores feudales tecnológicos poseen la tierra, traducida en plataformas, dispositivos y tecnología, es decir son dueños de los medios de producción. Y los siervos y campesinos somos todos quienes las habitamos y pagamos por usar (nos llaman usuarios).

Nosotros, los usuarios, hemos construido estructuras de comercio en esas plataformas, hemos basado nuestra productividad y logística sobre ellas, hemos diseñado un estilo de vida habitándolas, somos los creadores y los consumidores de los contenidos, nos hicieron adictos al placer inmediato que nos dan sus herramientas y algoritmos digitales.

Herramientas rentadas

Pero ninguna de esas cosas es de nuestra propiedad. Nos convencieron de pagar una renta mensual para poder usarlas, o pagar con la pérdida de nuestra privacidad, creando la misma dependencia directa de los siervos hacia los señores feudales que conocíamos en el medievo.

Son estas grandes corporaciones tecnológicas –Google, Amazon, Meta, Apple, Microsoft, IBM, Netflix, etcétera–, las que controlan los territorios digitales esenciales, como los datos y las plataformas en línea, que son fundamentales para la economía y la sociedad actual. Y es que piénsalo un momento, todas nuestras actividades diarias, desde la comunicación, el consumo hasta el trabajo y el entretenimiento; corren en sus plataformas.

Esas plataformas no solo han acumulado capital, sino que tienen el control de la información, la conversación, el comportamiento, las ideas, los datos y los recursos digitales, lo que les permite influir en gran medida en la economía, en la política, en la imaginación, el comportamiento colectivo de la humanidad y lo más importante: los futuros. Sin que nadie les haga frente porque el resto, no conoce sobre estas plataformas y es analfabeta de este nuevo-viejo orden.

Una nueva definición de poder

Esta es la nueva definición de “poder”, el resto es solo una obra de teatro para mantener desviada la atención, mientras los señores feudales continúan su expansión agresiva creando nuevas herramientas, nuevas plataformas, nuevos artefactos, nuevos algoritmos, nueva Inteligencia Artificial, nuevos chips; que nos los venden como progreso o “posibilidades” aumentadas, pero en realidad son nuevos artefactos de esclavitud voluntaria, de captura de datos, de brújula de comportamientos algoritmidirigidos. Ellos no nos obligan. Nosotros las elegimos, las compramos, las deseamos, las usamos, las compartimos, nos infectamos.

Estas mismas ideas fueron enriquecidas por la profesora de Harvard Shoshana Zuboff en su libro The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power, en el que nos revela toda una arquitectura global de modificación de la conducta que amenaza con cambiar la naturaleza humana en este siglo, de la misma forma como el capitalismo industrial desfiguró el mundo natural en el siglo XX. Asegura que este avance del capitalismo de la vigilancia tiene su origen en Silicon Valley y se expande hacia todos los sectores de la economía.

Zuboff habla del nacimiento de los “mercados de futuros conductuales”, en los que se compran y venden escenarios / predicciones / anticipaciones / futuros, sobre nuestro comportamiento, que incluso influenciará a la producción de bienes y servicios basadas en un nuevo “medio de modificación de la conducta”.

Del Gran Hermano al Gran Otro

Leyendo a Zuboff podrás darte cuenta que hemos superado la visión de un Estado “Gran Hermano” totalitario, y tenemos algo peor, al que le hemos dado acceso completo de nuestras vidas a través de nuestros dispositivos tecnológicos, de la red por la que corren y las plataformas que brindan servicios.

Es una suerte de arquitectura digital omnipresente: un “Gran Otro” que opera en función de los intereses del capital de la vigilancia. Una sociedad diseñada en colmena, orientada para ser controlada, híper productivizada e interconectada, pero profundamente adicta del placer algorítmico inmediato que nos seduce con la promesa de “placer y entretenimiento” a cambio del máximo lucro posible de tus datos, ideas y comportamiento, puestos a favor del mejor patrocinador que los pague.

Pero Yani y Shosana, no son los únicos en hablar de esto. Cédric Durand, economista y profesor en la Universidad de París XIII, argumenta en su obra Techno-Feudalism que estamos presenciando una transición de un capitalismo neoliberal a una forma de feudalismo tecnológico, donde el poder económico se centraliza en unas pocas corporaciones tecnológicas.

Entidades influyentes

Durand sostiene que estas empresas han logrado una posición dominante no solo en términos económicos sino también en términos de control sobre la información y la tecnología, lo que les otorga una capacidad sin precedentes para influir en la sociedad.

Ambos apuntan a que este “nuevo orden”, en progreso, es una amenaza para la democracia, la libertad y la soberanía de los estados, ya que estos gigantes tecnológicos operan a menudo más allá del alcance de las regulaciones nacionales o en muchos casos, inexistentes por su innovación, velocidad y disrupción.

Quizá el chequeo de realidad más grande que he tenido de todo esto, es cuando en 2020 Apple superó los 2 billones de dólares en capitalización de mercado. Haciendo un comparativo directo con la economía total de mi país (México), puedo afirmar que esa sola compañía valía 2.2 veces más que México (el valor de la empresa supera el PIB total del país) al alcanzar los 3,035 billones de dólares. ¿Ven ustedes la influencia, el poder, la autonomía de estos nuevos tecno-feudos?

¿Cómo controlar a los nuevos tecno-feudos?

Muchos hablan que para poder controlarlos se requieren una distribución más equitativa de los beneficios que estas corporaciones obtienen, desarrollando un sistema tributario que también fomente una mayor equidad social. Honestamente la idea de introducir impuestos sobre los beneficios extraordinarios, específicamente diseñado para las corporaciones tecnológicas que superan ciertos umbrales de ingresos y rentabilidad, me parece una medida que no arreglará en nada el cambio que tenemos. Bastará con subir los precios de la renta para volver a recuperar el valor. Pero nuestros políticos no tienen la capacidad creativa, crítica e innovación para hacerle frente al mismo ritmo y calidad que evolucionan esas compañías.

Otra estrategia común es implementar una tasa impositiva global mínima para las corporaciones tecnológicas, evitando la carrera hacia el fondo de los paraísos fiscales. Pero esto requeriría una cooperación internacional estable (cosa que por ahora no existe), estableciendo un marco global para los impuestos corporativos y asegurando que las Big Tech contribuyan justamente a las sociedades de las que se benefician. Pero la pregunta más importante sigue siendo ¿cómo podemos asegurar que los avances tecnológicos de estas compañías tecno-feudalistas, beneficien a la sociedad y no solo sean un modelo de beneficio capital para la élite tecnocrática?

Es compleja la respuesta porque no se resuelve únicamente con impuestos. Se resuelve con un “nuevo sistema”. Aquí es donde toma fuerza la poderosa frase de Yanis “el capitalismo ha muerto asesinado por su propia mano: el capital”.

El nacimiento de un nuevo paquete ideológico: TESCREAL

Tomando como base este nuevo “orden”, podemos entender la constelación de ideologías interrelacionadas y superpuestas dentro del campo contemporáneo de la práctica tecnológica. Ideologías practicadas por estos señores feudales tecnológicos –Jeff Bezos, Mark Zuckerberg, Elon Musk, Tim Cook, Sundar Pichai, Evan Spiegel, Satya Nadella, Susan Wojcicki, Andrew Jassy, Vitalik Buterin, Sam Altman, Larry Page, etcétera–, los cuales dominan las plataformas de información, productividad, comercio, producción, logística, medicina, investigación científica, comportamiento social, entretenimiento, economía, política, cultura, artística, deportiva, etc. Es indudable señalar que sus herramientas están presentes en todas las categorías de actividad humana.

Pero nos les basta con dominar el mercado. Los señores feudales están transicionando a otro estado tecnológico: un estado de Inteligencia Artificial. Por eso el ascenso de empresas como OpenAI, financiada principalmente por Microsoft; y su competidor, Google DeepMind, que están tratando de crear una “inteligencia artificial general” (IAG) lo suficientemente sofisticada, eficiente y poderosa para potenciar el dominio en todas las capas de poder humano.

Es así que los tecnofeudalistas comparten una utopía tecnológica en común: creen que el estado de mayor eficiencia, escalabilidad, exponencialidad, productividad, adaptabilidad y riqueza, es posible gracias a implementación de tecnología avanzada, que nos permita a la humanidad lograr cosas como: producir abundancia radical, rediseñar la genética de la humanidad, volvernos inmortales, colonizar nuevos planetas y crear una civilización “poshumana” en expansión en el universo. Pero todo apunta que para lograr esa utopía, necesitamos la construcción de una IA superinteligente.

Una visión común

Cuando hablas con ellos y analizas su discurso, logras entender que hay una ideología en común que utilizan para justificar sus visiones. La he denominado “optimismo ingenuo”.

Usualmente escucharás que todas las herramientas tecnológicas o nuevas plataformas las crean basados en darle un beneficio a la humanidad. Hablan de que son optimistas de un mundo mejor después de que sus herramientas se instalen en la sociedad.

Sin embargo en la mayoría de los casos nunca es así. Pero ese contagioso “optimismo ingenuo” es usado para para cubrir el verdadero foco descarado, déspota y cínico; evitar cualquier pensamiento crítico que cuestione su visión suprema “profit-centrista”. Porque en el fondo ¿quién no quiere un mundo mejor?

Pero al analizarlo a profundidad, en 2018 la científica informática Dra. Timnit Gebru se unió a Google para trabajar en la ética de la inteligencia artificial, después de décadas de trabajo con Apple y Microsoft. En 2020 dejó Google o fue despedida, y se convirtió en una crítica destacada de la cultura y la política de Silicon Valley.

Las ideologias del TESCREAL

Timnit encontró que había ideologías claras y mezcladas como el transhumanismo, extropianismo, singularitarismo, cosmismo, racionalismo, altruismo efectivo y longtermismo. Fue así que nació el acrónimo “TESCREAL”, que combina la primera letra de esas ideologías aproximadamente en el mismo orden en que aparecieron durante las últimas tres décadas y media. En 2022 se alió con el escritor Émile P. Torres, autor de Human Extinction: A History of the Science and Ethics of Annihilation.

Juntos, Gebru y Torres comenzaron a promover la teoría de que las élites de Silicon Valley y una red global de instituciones corporativas, académicas y sin fines de lucro que están involucradas en un conjunto de ideologías que llamaron TESCREAL. Dichas ideologías son:

• T=Transhumanismo
• E=Extropianismo
• S=Singularitarismo
• C=Cosmismo
• R=Racionalismo
• EA=Altruismo Eficaz
• L=Longtermismo

Es todo un “paquete de ideologías” presente en la conquista tecnológica que estamos viviendo. Eso originó términos como “TESCREALismo” (una referencia al paquete en su conjunto) y “TESCREALista” (alguien que respalda, apoya, promueve y acciona la mayor parte o la totalidad de este paquete).

Miles de millones invertidos

Cuando lo entiendes de esta forma, logras observar por qué se están invirtiendo miles de millones de dólares en la creación de sistemas de IA cada vez más potentes, y por qué organizaciones como el Future of Life Institute están pidiendo desesperadamente en una carta abierta publicada que todos los laboratorios de IA detengan de inmediato durante al menos seis meses el entrenamiento de sistemas de IA más potentes que GPT-4.

A estas voces se ha sumado Eliezer Yudkowsky, un blogger estadounidense, TESCREAlista, escritor y defensor de la inteligencia artificial amigable, quien en un reciente artículo de opinión de la revista TIME respaldó el uso de ataques militares contra centros de datos para retrasar la creación de la IAG (Inteligencia Artificial General), incluso con el riesgo de desencadenar una guerra termonuclear total. Hay una TED talk en donde habla de esos riesgos:

Pensadores como el multimillonario capitalista de riesgo y TESCREALista, Marc Andreessen no están de acuerdo con los riesgos y sostiene que la probabilidad de catástrofe es muy baja. Apuesta a que la IA aumentará la productividad económica y nos dará “la oportunidad de aumentar profundamente la inteligencia humana y menciona en un artículo “que el desarrollo de la IA es una obligación moral que tenemos con nosotros mismos, con nuestros hijos y con nuestro futuro”, convirtiéndolo en todo un aceleracionista de la IA y como te dije anteriormente, un fiel ejemplo de optimista ingenuo.

Diferentes caminos para la IAG

Entender al TESCREAL es clave para comprender cómo se mezclan las diferentes escuelas de pensamiento y cuál es realmente el objetivo de la carrera hacia la IAG que las ha catapultado a la conciencia pública. Pero no se equivoquen, esto no obedece lógicas pro-humanas, pro-sociales, pro-ambientales; esto es 100% impulsado ​​con objetivos comerciales, de lucro, resultados económicos (profit), ya que quienes invierten solo buscan ganancias y valor para sus accionistas. Y nada más.

El propio OpenAI en su nacimiento en 2015, se conformó como una organización sin fines de lucro, con el único objetivo de potenciar y desarrollar la inteligencia artificial de una forma útil, segura y en beneficio de la humanidad (puedes leerlo en su blog corporativo). Pero en 2019 la organización dio un paso más y se convirtió en una empresa con fines de lucro limitados (conocido como capped-profit, en inglés). La intención de la compañía fue la de combinar ambos objetivos: seguir siendo una organización sin ánimo de lucro (OpenAI, Inc.), pero abriendo una nueva rama de ganancias limitadas (OpenAI, LLC).

Cambio de enfoque en OpenIA

Pero a finales de 2024, Sam Altman decidió cambiar desesperadamente su estructura corporativa en un intento por convertirse en una empresa con fines de lucro total, con el mero objetivo de ser más atractiva para los inversionistas, idea que no le gustó al ex cofundador de OpenAI, Elon Musk quien está pidiendo a un tribunal federal que bloquee la transición de OpenAI de una entidad sin fines de lucro a una entidad con fines de lucro y que le impida prohibir a sus inversionistas respaldar a rivales como la empresa de inteligencia artificial de Musk, xAI.

Musk argumenta que OpenAI y Microsoft han tratado de monopolizar la industria y que “no puede deambular por el mercado como un Frankenstein, cosido a partir de cualquier forma corporativa que sirva a los intereses pecuniarios de Microsoft”.

Mirada a los detalles

Pero para entender profundamente, defragmentemos cada elemento del TESCREALismo:

Transhumanismo: esta es la columna vertebral del TESCREAL, el transhumanismo permitirá una relación simbiótica entre el hombre y la máquina. Su visión centra es rediseñar tecnológicamente la especie humana para crear una nueva raza superior de “posthumanos”. Estos posthumanos serían “superiores” en virtud de poseer una o más habilidades sobrehumanas: inmortalidad, “coeficientes intelectuales” extremadamente altos, control total sobre sus emociones, “racionalidad” excepcional y tal vez nuevas modalidades sensoriales como la ecolocalización. Es por eso que se considera que la IAG desempeña un papel integral en la catálisis de este proceso. Compañías como Neuralink de Elon Musk tienen la misión de fusionar “tu cerebro con la IA” y, al hacerlo, “dar inicio a la siguiente etapa de la evolución humana”.

Esto es el transhumanismo. Sam Altman, además de inscribirse en Nectome, donó 180 millones de dólares a una start-up de “longevidad” llamada Retro Biosciences, que tiene como objetivo “prolongar la vida humana descubriendo cómo rejuvenecer nuestros cuerpos”. Esto también es transhumanismo. La idea central del transhumanismo es que las personas deberían poder usar la tecnología para vivir vidas más largas y saludables, y tener más control sobre sus cuerpos y cerebros.

Los transhumanistas se toman en serio la mejora cognitiva y genética, las interfaces cerebro-máquina y la carga de personalidades en computadoras, y que la adopción de estas tecnologías ampliará los límites de “lo humano”. En 2004, James Hughes escribió Citizen Cyborg, un argumento a favor de un “transhumanismo democrático” (social), mientras se desempeñaba como director de la Asociación Transhumanista Mundial, ahora Humanity+.

Extropianismo

Fue el nombre original del movimiento transhumanista organizado a finales de los años 1980 y principios de los 1990. Es una filosofía donde toda la humanidad podría vivir en armonía y hacer del mundo un lugar mejor permitiendo que todos los humanos cooperen.

Básicamente, hablan de que los humanos se conectan a través de la realidad virtual y se conectan con la comunidad. El “extropianismo”, ha transmitido su compromiso con valores como el “progreso perpetuo”, la “autotransformación”, el “pensamiento racional” y la “tecnología inteligente”.

Es la creencia de que los avances en la ciencia y la tecnología permitirán, algún día, que la gente viva indefinidamente. Los extropianos creen que esto conducirá a un mundo con mayor felicidad, prosperidad y libertad. La autora de ciencia ficción y fantasía Diane Duane utilizó por primera vez el término extropía en este sentido en 1983. Los defensores Tom Bell y Max More cofundaron el Extropy Institute en 1988. Lo cerraron en 2006, afirmando que su misión estaba “básicamente completada”.

Singularitarismo

La singularidad se utiliza para demostrar cuándo un sistema de IA generativa se vuelve consciente de sí mismo y puede funcionar de forma independiente sin intervención humana. Cuando la máquina se vuelve humana en todos los aspectos del pensamiento y la inteligencia, el singularitarismo es un mundo en el que la supercomputadora dirige la Tierra y los humanos quedan relegados a un segundo plano. Es la idea de que la “singularidad desempeñará un papel integral en la creación del futuro tecnoutópico además de un estado de abundancia radical post-escasez. La singularidad permite a nuestros descendientes digitales posthumanos colonizar y “despertar” el universo. “La materia y los mecanismos ‘tontos’ del universo se transformarán en formas exquisitamente sublimes de inteligencia”, escribe el TESCREALista Ray Kurzweil, un científico investigador de Google que fue contratado personalmente por Larry Page, cofundador de la empresa y partidario de una versión del TESCREALismo llamada “utopismo digital”.

Cosmismo

Es un estado filosófico del “ser” que combina el cosmos y humanidad. Significa que la humanidad conquistará el cosmos y se volverá uno con él. Si el transhumanismo es eugenesia con esteroides, el cosmismo es transhumanismo con esteroides.

En su “Manifiesto Cosmista”, el ex extropiano que bautizó el término ahora común “inteligencia artificial general”, Ben Goertzel, escribe que “los humanos se fusionarán con la tecnología, lo que dará lugar a una nueva fase de la evolución de nuestra especie”.

Esta visión apuesta que con el tiempo desarrollaremos una IA consciente y una tecnología de transferencia de información mental que permitirá una vida útil indefinida a quienes elijan dejar atrás la biología. Muchas de estas “mentes transferidas” elegirán vivir en mundos virtuales.

El objetivo final es desarrollar la ingeniería del espacio-tiempo y la ‘magia futura’ científica mucho más allá de nuestra comprensión e imaginación actuales, donde tales cosas permitirán lograr, por medios científicos, la mayoría de las promesas de las religiones, y muchas cosas asombrosas que ninguna religión humana jamás soñó.

Racionalismo

Creado por los transhumanistas, afirma que nos volveremos más racionales a medida que combinemos nuestra energía y nuestros pensamientos entre nosotros, en una uni-mente interconectada (por eso les fascina la idea de internet y la Inteligencia Artificial). Afirman que si nuestra percepción de la realidad abarca todos los puntos de vista posibles, entonces actuaremos de manera más racional en nuestra perspectiva mundial. Para hacerlo realidad, se necesitará que mucha gente realmente “inteligente” haga cosas realmente “inteligentes”, por lo tanto debemos optimizar nuestra “inteligencia” y encontrar formas de mejorar nuestra “racionalidad”.

Altruismo eficaz

Es un movimiento filosófico y social que aboga por “utilizar la evidencia y la razón” para descubrir cómo beneficiar a los demás tanto como sea posible y tomar medidas sobre esa base. Las personas que la persiguen se denominan “altruistas eficaces”, creen que los humanos pueden trabajar juntos para mejorar todas las vidas. Es lo que sucede cuando los miembros de la comunidad racionalista se centran en cuestiones de ética, optimiza nuestra moralidad utilizando las mismas herramientas y métodos como la “teoría del valor esperado”.

Los altruistas eficaces argumentan que se puede hacer más “bien” en general si se trabaja para una “organización malvada” y se donan los ingresos adicionales, como lo hizo Sam Bankman-Fried, un exempresario, inversor y estafador estadounidense convicto por 155 años de prisión al haber cometido fraude en la plataforma de intercambio de criptomonedas FTX, la cual fundó y es ex director ejecutivo. Los altruistas eficaces están obsesionados con la “inteligencia”, el “coeficiente intelectual” y una interpretación particular de la “racionalidad”.

Longtermismo

Significa que su punto de vista es más largo que su vida esperada. La humanidad ha desarrollado un sentido de ser, que hemos llamado “presentismo”, el cual los obliga a pensar en el aquí y ahora, en el presente.

El longtermismo piensa a largo plazo, surgió del movimiento de altruismo eficaz y es probablemente su contribución más significativa. Busca que la humanidad pueda existir teóricamente en la Tierra durante otros mil millones de años, y si nos expandimos al espacio, podríamos persistir durante al menos 10^40 años (eso es un 1 seguido de 40 ceros).

Los longterministas, fueron pioneros en el campo de la “seguridad de la IA”, que tiene como objetivo garantizar que cualquier IAG que construyamos termine siendo un “Dios” en lugar de un “demonio”. Elon Musk retuiteó un artículo de Bostrom, uno de los documentos fundadores del longtermismo, con la frase: “Probablemente el artículo más importante jamás escrito”.

La fundación de empresas como OpenAI y DeepMind fue en parte el resultado de los longtermistas. Una de las primeras inversiones en DeepMind, por ejemplo, la realizó Jaan Tallinn, un destacado TESCREALista que también cofundó el Centro para el Estudio del Riesgo Existencial en Cambridge y el Future of Life Institute, financiado en gran medida por el criptomillonario Vitalik Buterin, también TESCREALista.

Es el inicio de una transformación disruptiva en la sociedad

Una cosa sí es segura, el mundo cambiará fundamentalmente cuando se logre la singularidad y tengamos una supercomputadora de IA realmente consciente de sí misma (aunque el concepto “consciente” es totalmente debatible). La implicación es que los seres humanos ya no seremos la especie más inteligente en el planeta (si alguna vez la fuimos); nos volveremos obsoletos. ¿Podremos entender y manejar esa arrogancia biológica sustituida por una sintética y artificial creada por nosotros mismos? Esa es una crisis existencial que tendremos que superar.

Nuestro error como especie es que hasta hoy, los humanos hemos visto al mundo como una fábrica con recursos explotables en serie. Inclusive a nosotros mismos nos hemos tratado como parte de esos “recursos” (por eso la práctica de los Recursos Humanos, cuando hablamos de productividad laboral).

La IA y la práctica TESCREALista no podrán en riesgo a la humanidad, sino que provocarán una transformación radical de nuestro mundo. No seremos aniquilados, sino que estaremos conectados mentalmente y físicamente, con un sistema de IA. Una conciencia colectiva global, una uni-mente inteligente y sintética que pensará por nosotros, que tomará las decisiones, que administrará nuestra economía, pensamientos, gustos y tiempo.

Una dinámica que trae prisa

El problema es que el TESCREALismo tiene una dinámica “aceleracionista”, que empuja a que la humanidad se apresure a crear, consumir y adoptar tecnologías cada vez más poderosas con poca o ninguna regulación.

El académico de medios Ethan Zuckerman, director del Center for Civic Media del MIT, sostiene que al considerar solo los objetivos que son valiosos para el movimiento TESCREALista, se pueden justificar proyectos futuristas con inconvenientes más inmediatos, como la inequidad racial, el sesgo algorítmico y la degradación ambiental.

En The Washington Spectator, el periodista Dave Troy calificó al TESCREAL como un movimiento en el que “el fin justifica los medios” que es antitético a un “gobierno democrático, inclusivo, justo, paciente y equitativo”.

En un artículo de Asterisk, el autor de ciencia ficción Ozy Brennan defendió al TESCREALismo pero pone en la mesa preguntas mucho más importantes para él como: ¿qué probabilidad hay de que desarrollemos inteligencia artificial avanzada en el próximo siglo y qué riesgo plantea? ¿Qué tratados internacionales deberíamos hacer sobre tecnologías emergentes peligrosas? Para Ozy, los TESCREAListas han hecho avanzar significativamente a la sociedad.

También capitalista de riesgo Marc Andreessen se ha identificado a sí mismo como un TESCREAList. Publicó el “Manifiesto Tecno-Optimista” en octubre de 2023 en el que argumenta que una inteligencia artificial más avanzada podría salvar innumerables vidas futuras potenciales, y que aquellos que trabajan para frenar o prevenir su desarrollo deberían ser condenados como asesinos.

¿El TESCREALismo es una amenza?

Si bien estas son las ideologías base del TESCREALismo, también tiene vínculos directos con la “eugenesia”, una filosofía social que defiende la mejora de los rasgos hereditarios humanos a nivel social mediante diversas formas de intervención manipulada y métodos selectivos de los humanos. Dado que el transhumanismo es la columna vertebral del TESCREALismo, es en sí mismo una forma de eugenesia llamada “eugenesia liberal”.

Entre los primeros transhumanistas se encontraban algunos de los principales eugenistas del siglo XX, en particular Julian Huxley, un biólogo evolutivo, escritor, internacionalista británico, conocido por sus contribuciones a la popularización de la ciencia a través de libros y conferencias. Fue el primer director de la Unesco y presidente de la British Eugenics Society de 1959 a 1962.

Un asunto preocupante

Este tema realmente me preocupa. Ya que los TESCREAlistas están alarmados por la posibilidad de que las personas “menos inteligentes” superen en número a sus pares “más inteligentes”. Si las personas “no inteligentes” tienen demasiados hijos, entonces el nivel promedio de “inteligencia” de la humanidad disminuirá, poniendo así en peligro todo el proyecto TESCREAL.

El mismo Bostrom enumera esto como un tipo de “riesgo existencial”, que esencialmente denota cualquier evento que nos impida crear una utopía posthumana entre los cielos llenos de cantidades astronómicas de personas digitales “felices”. Y me preocupa porque (y esta es mi interpretación) a pesar de que tenemos advertencias claras en publicaciones como “Los límites del crecimiento” un informe encargado al MIT por el Club de Roma que fue publicado en 1972 bajo la dirección de Dennis Meadows, Donella Meadows y Jørgen Randers, que nos advertían de una caída masiva de la población humana por temas ambientales y de producción industrial masiva. El libro dice textual:

“Si la industrialización, la contaminación ambiental, la producción de alimentos y el agotamiento de los recursos mantienen las tendencias actuales de crecimiento de la población mundial, este planeta alcanzará los límites de su crecimiento en el curso de los próximos cien años. El resultado más probable sería un súbito e incontrolable descenso, tanto de la población como de la capacidad industrial“.

La permanencia de la élite

Pero a pesar de sus advertencias científicas, la humanidad ha decidido no hacer nada. También hace unas semanas, leía el libro Conspirators Hierachy: the story of committee of 300 que parece apuntar a ese escenario planeado en el que al menos 4,000 millones de humanos llamados también “comedores inútiles”, serán eliminados para el 2050 debido a guerras regionales, epidemias controladas de muerte inmediata y hambruna. Recursos como la energía, la comida, el agua deberán mantenerse únicamente a niveles de subsistencia para los que no formen parte de la élite.

Si unes las ideas de este par de libros (de docenas que existen), nos damos cuenta que para los TESCREAListas está bien morir masivamente, si no eres parte de esa “élite” de individuos intelectualmente talentosos. De hecho uno de los objetivos centrales de la comunidad TESCREALista es mitigar el “riesgo existencial” es decir, aumentar la probabilidad de que algún día exista en el futuro un mundo utópico de “valor” astronómico.

Adiós a las limitantes humanas

En el libro What We Owe the Future publicado en 2022 del filósofo y ético escocés William MacAskill, profesor asociado de Filosofía en la Universidad de Oxford, menciona que para mantener en marcha los motores del crecimiento económico, deberíamos considerar la posibilidad de sustituir a los trabajadores humanos por trabajadores digitales. Escribe que “podríamos desarrollar una inteligencia artificial general (IAG) que pudiera sustituir a los trabajadores humanos, incluidos los investigadores.

Al parecer, y esta es mi interpretación personal, dejar morir a miles de humanos es parte de la “mitigación de riesgos existenciales” en su intento por salvar al mundo futuro, el mundo por venir, la utopía. Si se mitiga el riesgo existencial se ha hecho el equivalente moral de salvar miles y miles de millones de vidas humanas existentes. Con estas ideas en mente se crearon organizaciones como el Future of Humanity Institute de Oxford, fundado por Bostrom en 2005, y el Future of Life Institute, que tiene como objetivo “ayudar a garantizar que el futuro de la vida exista y sea lo más maravilloso posible” y que originalmente incluyó a Bostrom en su Consejo Asesor Científico.

Sin duda TESCREAL plantea una amenaza grave para las personas en el presente, especialmente para los no privilegiados. Aun así, los TESCREAlistas –líderes blancos adinerados en universidades de élite y en Silicon Valley– quieren imponer esta visión al resto de la humanidad. La razón: sus líderes tienen demasiado poder e influencia. Son parte de los tecnofeudalistas utópicos en un nuevo orden económico, político, cultural y social. Lo que podríamos definir como una nueva “religión” para ateos.

Elon Musk en el poder de Estados Unidos

Quizá uno de los movimientos más evidentes del TESCREALismo en el poder es ver a Elon Musk, también llamado el “presidente en la sombra”, en la cima del gobierno estadounidense. El propietario de SpaceX y Tesla, cuyas compañías han crecido gracias a contratos y ayudas federales, y en colaboración con el republicano Vivek Ramaswamy, tiene un nuevo trabajo al frente del “Departamento de Eficiencia Gubernamental” que se encargará de aplicar reformas “drásticas” en el gasto público. Trump lo define como “el Proyecto Manhattan de nuestra época”, haciendo un paralelismo con el plan secreto del gobierno estadounidense para crear la bomba atómica. En palabras de Elon, esto no es una amenaza a la democracia, sino una amenaza a la burocracia.

Para Gary Marcus, investigador en Inteligencia Artificial, profesor de psicología y neurociencia en New York University, el futuro de la inteligencia artificial es más oscuro con Trump en la Casa Blanca. Y menciona que la IA generativa conlleva muchos riesgos, a corto y largo plazo, y cree que las perspectivas de una regulación significativa bajo la administración Trump son escasas. En comparación con la Unión Europea que tienen su ley de IA, Estados Unidos tiene muy poca regulación específica para proteger a sus ciudadanos, y no ve que eso vaya a cambiar en los próximos años.

Elon no está solo

Pero Elon no es el único ejemplo. El presidente electo Donald Trump se ha rodeado de un grupo de acaudalados de la tecnología cuyas ideas influirán en su segundo mandato en la Casa Blanca. Hay miembros de la llamada “PayPal Mafia”, también está David Sacks, un inversionista tecnológico y podcaster que tendrá el papel de “zar” tecnológico de Trump, asesorándolo sobre inteligencia artificial y criptomonedas. Y tenemos a Peter Thiel, un empresario, administrador de fondos de inversión libre y capitalista de riesgo. Este último, fundó PayPal, junto con Elon Musk.

Una antítesis: también podría ser el fin de las compañías de tecnología

En un artículo publicado en Wired, de Meredith Whittaker, la presidenta de la organización estadounidense sin fines de lucro Signal; plantea el principio del fin de las grandes tecnológicas y el nacimiento de la oportunidad de construir algo abierto y confiable.

Ella piensa que 2025 será el final de las grandes tecnológicas. Una razón es que las consecuencias colaterales del actual modelo de negocios de las grandes tecnológicas son demasiado obvias para ignorarlas: centralización, vigilancia, control de la información (todo lo que ya hemos analizado). La segunda razón es que concentrar un poder tan vasto en unas pocas manos no conduce a cosas buenas y por ejemplo la disrupción provocada por el servicio de CrowdStrike a mediados de 2024, cuando los recortes de gastos por parte de Microsoft provocaron que infraestructuras críticas (desde hospitales hasta bancos y sistemas de tráfico aéreo) fallaran a nivel mundial durante un período prolongado.

La tercera razón es que el efervescente mercado de la IA, en el que invirtieron fuerte, terminará reventando la burbuja de hype/especulación. Las presiones de empresas como Goldman Sachs y Sequoia Capital, sobre la desconexión entre los miles de millones necesarios para crear y utilizar la IA a gran escala, y el débil ajuste al mercado y los tibios rendimientos cuando la teoría se pone en práctica en el modelo de negocio de la IA, sin duda nos darán un “cheque de realidad” necesario.

La hora de reimaginar las posibilidades

Todas estas razones, desde el punto de vista de Meredith Whittaker, abren la posibilidad de reimaginar el paradigma actual de la tecnología monopólica y trabajar en el diseño de una tecnología realmente democrática, independiente, abierta y transparente.

Whittaker habla de una serie de inversores en tecnología están desarrollando modelos de financiamiento para la alineación de misiones, centrándose en la tecnología que rechaza la vigilancia, el control social y todas ese paradigma. Uno que combinaría los incentivos tradicionales de capital riesgo (financiar ese unicornio > escalar > adquirir > hacerse rico) con un compromiso de proporcionar recursos a la infraestructura crítica abierta y sin fines de lucro de la tecnología con un porcentaje de su fondo. No como inversión, sino como una contribución para mantener la base sobre la que puede existir un ecosistema tecnológico saludable (y tal vez conseguirles a ellos y a sus socios limitados una exención fiscal).

Whittaker cree firmemente que 2025 será el inicio del fin de las grandes compañías tecnológicas y marcará el comienzo de un ecosistema nuevo y vibrante. Las personas inteligentes, realmente geniales y genuinamente interesadas volverán a tener su momento, obteniendo los recursos y la autorización para diseñar y (re)construir un ecosistema tecnológico que sea realmente innovador y esté diseñado para el beneficio, no solo para el lucro y el control.

Honestamente esto me llena de esperanza. Pero ideas como estas ya las conocíamos cuando Internet llegó y a pesar de que existieron esas iniciativas, ninguna tuvo un éxito comercial lo suficientemente atractivo como para perdurar en el tiempo. Mientras existan compañías como Y Combinator y16z que crearon la obsesión unicornio y escala exponencial, nunca tendremos un nacimiento equilibrado en la industria tecnológica.

Ya entendí, pero… ¿qué puedo hacer?

Pareciera que solo nos basamos en el pesimismo. Pero tampoco quiero ser un optimista ingenuo, pero sí quiero ser “posibilista”. Los posibilistas analizamos el pasado, entendemos el presente pero vemos los “futuros” gracias a la prospectiva y el diseño para entender que tenemos agencia, tenemos un campo de acción, responsabilidad e injerencia para habitar los futuros que deseamos.

Es así que en lugar de verlo como problemas, los vemos como “posibilidades”. Y las posibilidades al saber todo esto, ahora te permiten, querido lector, tener una imagen del presente y del futuro. Y ahora la pregunta es ¿qué hacer ante este contexto? ¿Frenarlo, renunciar a él, aceptarlo?

Honestamente no podemos frenarlo, pero podemos “practicarlo” desde otro grado de conciencia. Tan solo voltea a ver tu estilo de vida actual, está rodeado de las prácticas TESCREAListas y cada vez estarás más metido en él. El secreto será cómo ganar “valor” como ser humano en un mundo que cambiará sus reglas de forma disruptiva.

El potencial humano

Carlos Ares, un economista del Ayuntamiento de Barcelona, escribió en su perfil de LinkedIn una frase de Allison Pugh, profesora de Sociología en la Universidad Johns Hopkins y vicepresidenta 2024-25 de la Asociación Sociológica Americana: “Los ricos podrán permitirse el cuidado personal. El resto tendrá que conformarse con la IA. Desde entrenadores personales hasta terapias presenciales, solo los ricos tendrán acceso a la conexión humana. ¿Cuáles son las opciones para los menos favorecidos?”.

Esa imagen que describe Pugh, describe un mundo de posibilidades. ¿Quiénes serán esos humanos valiosos que podrán transaccionar con los más ricos? ¿Cuál es el valor de un mundo en donde será rico en transacciones artificiales / sintéticas y escaso de interacciones humanas? Solo aquellos que logren utilizar en el perfecto equilibrio de técnica + creatividad humana podrán superar disrupción. Entender los efectos y virtudes del transhumanismo, el extropianismo, el singularitarismo, el cosmismo (moderno), el racionalismo, el altruismo eficaz y el longtermismo; nos permitirá contestar la pregunta ¿quién soy yo en el presente y en quién me tengo que transformar en la siguiente décadas?

Un generalismo profundo

La era de la especialización ha llegado a su fin. Y en su lugar ha llegado una era del generalismo profundo. Invertir en tu conocimiento diario, en tu capacidad creativa, en tu potencial de resolución de problemas, en tus habilidades tecnológicas, en tu capacidad de pensamiento crítico, en tu agilidad de innovar, en tu consciencia sobre tu experiencia de vida en síntesis en tu “inteligencia humana”; serán parte de esas inversiones que tendrás que hacer por ti mismo en un mundo TESCREALista.

Invertir en tu “Inteligencia Humana” (HI, human intelligence), será la moneda de cambio que te permita tener valor en ese mundo. La “inteligencia”, normalmente entendida como la propiedad que se mide mediante pruebas de coeficiente intelectual, serán rápidamente rebasadas por la IA. Pero la “inteligencia humana” nos llevará a nuevas conclusiones en una sociedad que enfrentará nuevos paradigmas debido al TESCREALismo. Sí, experimentaremos una poshumanidad extendida, aumentada y potenciada por la tecnología, así que utiliza de forma inteligente esos súper poderes y no los inviertas en entretenimiento y placer, inviértelos en conocimiento y sabiduría en la resolución de problemas valiosos para los TESCREAListas.

Dominio tech para impulsar tu creatividad humana

En el fondo, los TESCREAListas consideran que la mejora cognitiva es un objetivo intermedio importante y, en consecuencia, han escrito extensamente sobre la posibilidad de mejoras cognitivas como los nootrópicos (drogas inteligentes), las interfaces cerebro-computadora (BCIs) e incluso la carga mental (que podría hacer que la “mejora” de la mente sea mucho más fácil). No te invitando a que te conviertas en un cyborg del tipo Cyberpunk 2077, pero sí alguien que domine la tecnología para privilegiar su creatividad humana.

Sin duda, el veloz avance de la inteligencia artificial (IA) y el surgimiento de las ideologías transhumanistas y posthumanistas desafiarán todos los conceptos fundamentales de la filosofía y la economía clásica. Y sin duda, tu y yo, tendremos que explorar e invertir en las nuevas posibilidades cognitivas humanas. Más allá de las habilidades, es una nueva era en el campo de las “aumentaciones” creativas humanas. ¿Estás listo?