3 avances tecnológicos que nos ponen nerviosos

¡Qué época tan increíble de avances tecnológicos! Si consideramos el canon cinematográfico de ciencia ficción y los años en que transcurren estas películas, estamos a 10 años de Robocop (ambientada en 2015) y a 7 años de Demolition Man (ambientada en 2032).

Si bien la ciencia ficción sirve de inspiración para el mundo tecnológico, desde la novia IA de Her (2013) hasta un traje de batalla táctico inspirado en Iron Man, rara vez el mundo tecnológico tiene en cuenta las advertencias temáticas que sustentan sus representaciones favoritas del futuro.

Creo en el poder y la oportunidad de la tecnología y he dedicado mi carrera al desarrollo de aplicaciones con integridad. Muchos avances tecnológicos emergentes —como la detección del cáncer de mama asistida por IA— cambiarán nuestro mundo para mejor.

Pero algunas tecnologías nuevas me dan esa sensación de “Danger, Will Robinson!” . Aquí te dejo tres.

1. Robots de limpieza que son humanoides

Empresas como la noruega 1X, la estadounidense Figure y la canadiense Sanctuary AI crearon robots humanoides de limpieza, combinando hardware robótico con software basado en IA. Estos robots pueden recibir instrucciones vocales y traducirlas en acciones físicas. ¡Increíble!

Entiendo el uso de estos robots en almacenes y fábricas, diseñados para adaptarse a la forma humana. Los robots humanoides podrían encargarse de las tareas tediosas, sucias y peligrosas que son demasiado arriesgadas para los humanos.

En casa, la cosa cambia. Más allá de la sensación general de valle inquietante, no veo cómo estos robots podrían estar seguros. Los modelos de lenguaje grandes (LLM) actuales, utilizados por plataformas de IA como ChatGPT, no son demasiado difíciles de desbloquear (es decir, de eludir las barreras de seguridad integradas). Un LLM desbloqueado puede ser engañado para que revele credenciales y secretos confidenciales o dé instrucciones dañinas como, por ejemplo, cómo construir una bomba o imprimir un arma en 3D.

Ahora imagina un robot en tu casa. No, gracias.

2. Personas en redes sociales que en realidad no son personas… es IA

Hace unas semanas, mientras navegaba por Instagram, me animé a chatear con los nuevos personajes de IA. Meta los está implementando de forma intermitente desde el año pasado, y aunque fueron eliminados (por el momento) de Facebook, todavía hay algunos en Instagram con los que puedes chatear.

Casi siempre pienso en cómo el principio tecnológico de eliminar la fricción ya llegó demasiado lejos. La fricción y la incomodidad son necesarias en la experiencia humana. Ser una persona en comunidad implica ser vulnerable, arriesgarse a mostrarse ante los demás. Me preocupa que la tecnología nos haya adormecido tanto que los aspectos más normales y naturales de ser animales sociales se convirtieron en un peligro y no en una tarea.

No deberíamos confundir las interacciones simuladas con las interacciones humanas, especialmente con niños, incluso en los contextos más benignos. Los contextos menos benignos son aún más sombríos. Cualquiera puede crear un agente de IA y decir que deberías usarlo como tu terapeuta, tu novia o tu asesor financiero. Incluso con cuentas extravagantes, como un agente de chat de Bob Esponja, tú o tu hijo siguen hablando esencialmente con un desconocido.

Una fórmula inquietante: la humanidad del agente de IA lo hace sentir confiable, y su naturaleza de máquina lo hace sentir imparcial y sin intenciones ocultas. En general, me preocupa el potencial de estas cuentas para difundir desinformación, no vociferando desde las calles de X con un megáfono, sino susurrándonos directamente al oído.

3.  Chip Mejorana 1 de Microsoft

La computación cuántica, un tema que parecía sacado de la ciencia ficción, ahora se convierte en una realidad. La ciencia detrás de la mecánica cuántica es compleja, pero aquí te dejo una introducción.

En informática, un «bit» clásico es un 1 o un 0. Un bit cuántico (o cúbit) puede ser 0 y 1 al mismo tiempo. La capacidad de una computadora cuántica depende de cuántos cúbits tenga.

Las computadoras cuánticas pueden intentar resolver un problema de muchas maneras al mismo tiempo, mientras que las tradicionales hacen un solo intento a la vez, aunque rápidamente.

Para muchos, una computadora “relevante para la cuántica” se define por su capacidad de romper el cifrado RSA, una fórmula utilizada para cifrar datos de manera confiable y a gran escala.

Diversos países compiten por desarrollar capacidades cuánticas en diferentes sectores: China, Alemania, Canadá, Estados Unidos, India y Japón van a la vanguardia. Es difícil predecir cuándo la cuántica será viable a nivel comercial o personal.

El nuevo chip Majorana 1 de Microsoft da un paso importante hacia esa realidad. La arquitectura de este chip parece soportar un millón de cúbits. Para tener una referencia, cuando IBM lanzó su primer procesador cuántico en 2023, contaba con más de 1000 cúbits, lo cual ya fue un gran logro. En 2021, la Universidad de Ciencia y Tecnología de China presentó un procesador de 66 cúbits que resolvió un cálculo en 1,2 horas, un problema que una supercomputadora tradicional habría tardado 8 años en resolver.

Mi preocupación no es el chip en sí, que es fascinante. Mi preocupación es que el mundo no esté preparado para el cambio de paradigma cuántico que trae consigo. Entrar en el mundo cuántico exigirá que las organizaciones y los proveedores de infraestructura adopten algoritmos resistentes a la tecnología cuántica para proteger sus datos y protegerse de posibles disrupciones. Estos cambios criptográficos han sido complicados en el pasado, y muchos sectores todavía luchan por migrar a estándares que llevan décadas en uso, como AES o SHA-2.

Nuestra vida moderna depende enormemente del cifrado y es probable que los estados nacionales enemigos utilicen capacidades cuánticas contra nosotros si se adelantan en su desarrollo.

Ya veremos qué se queda

Es interesante recordar los inventos que fallaron a principios del siglo XX. Hoy en día, parecen tan extravagantes y complicados. Muchas ideas que en su momento parecieron revolucionarias fracasaron y cayeron en el olvido.

Siento lo mismo por nuestra era actual. La IA, la cuántica y otros avances están creando muchas nuevas posibilidades, especialmente cuando se combinan entre sí. El tecnólogo que llevo dentro se siente como un niño en una tienda de dulces. Solo espero que la tecnología que sobreviva sirva a nuestros intereses, tanto individuales o como especie.

Lindsey Witmer Collins es la fundadora de WLCM App Studio.