Cuando tu auto decide entregarte a las autoridades

Echemos un vistazo al futuro. “¿Por qué estoy sentado en el estacionamiento de una oficina gubernamental dentro de mi auto autónomo, mientras mi editora me envía mensajes sobre mi columna? ¡Es 2030, esto no debería estar pasando! No puedo abrir las puertas y solo dice ‘bloqueo administrativo’.”

Puede parecer una posibilidad muy lejana (y espero que así sea). Sin embargo, existe la probabilidad de que en un futuro no tan distante tengamos autos que nos digan algo como: “Confirmado, destino: oficinas de Fast Company México en Santa Fe.” Pero en el momento en que las puertas se cierran y el viaje comienza, el auto dice: “Has sido redirigido por orden estatal a la oficina de gobierno X.” Técnicamente, es totalmente posible y factible. Entonces, ¿qué impide que esto suceda?

Piénsalo, cuanto más poder y autonomía le damos a los sistemas de IA, más debemos estar seguros de nuestros derechos al comprarlos, licenciarlos o usarlos en nuestra vida privada o implementarlos en nombre de nuestras empresas. Especialmente cuando existe una posibilidad real de impacto en nuestras vidas, libertad de movimiento o incluso de detención. Recuerda: una vez que entres en un auto autónomo en el futuro, el auto y el sistema tendrán todo el poder. No tú. Déjame explicarte.

Cediendo nuestra autonomía a la IA

Siempre que buscamos implementar una tecnología poderosa, debemos considerar el lado positivo (que en la IA son innumerables), así como los posibles problemas que puedan surgir al buscar esos resultados positivos. Los autos, aviones, barcos y metros se han vuelto más seguros gracias a regulaciones cuidadosas. En algunas ocasiones, como sociedad, hemos tenido la capacidad de anticipar problemas desde el primer día, como instalar frenos. En otras, nos tomó más tiempo resolver las cosas, como fue el caso del uso obligatorio del cinturón de seguridad. No fue ley en Estados Unidos hasta 1968 y en México hasta 1985 a nivel nacional. Como referencia, los autos existen desde 1886. Solo digo, 99 años es apurarse un poco para los cinturones de seguridad.

Lo que hace que un auto autónomo impulsado por IA sea diferente de otras tecnologías es que cederemos una gran parte de nuestra autonomía una vez que le dejemos que se haga cargo de tareas clave que garantizan nuestra libertad, como conducirnos a nuestro destino deseado. En algunos casos, los autos aún tendrán volante, y espero que alguien pueda intervenir, pero en el caso del más reciente Tesla Taxi, no hay volantes ni controles similares. Así que sí, es algo en lo que pensar mientras consideramos las características que queremos (o no queremos) en nuestros autos.

Ahora, mi problema no es con los autos autónomos ni con ninguna empresa que los fabrique. Creo que son geniales y me facilitarían mucho trabajar entre reuniones si no tengo que conducir yo mismo. Parece que solo vivo en lugares con mucho tráfico. El problema es ¿qué derechos tenemos a nivel nacional, y qué puede o no puede hacer el auto mientras estamos dentro de él? Por ejemplo, si somos propietarios del auto, pero el auto está regulado por las autoridades nacionales y locales, y alguien en el gobierno quiere hablar con nosotros por cualquier motivo, ¿debería el auto tener legalmente la capacidad de mantener las puertas cerradas y llevarnos a ellos? Creo que no. Tal vez deberíamos llevar uno de esos martillos rompecristales en el bolsillo, por si acaso.

Los desafíos legales y nuestro futuro

¿O qué tal si tuviéramos una multa de estacionamiento sin pagar o nos faltara un pago de impuestos? ¿Debería el gobierno tener la capacidad de deshabilitar tu auto o llevarte a ellos para resolver el problema según su horario? Estos son temas que deberíamos considerar en un futuro no muy lejano, y todos tendremos que involucrarnos en el apoyo, la creación y la aplicación de leyes que protejan nuestros derechos frente a cualquier sistema de IA que tenga el poder de literalmente movernos de un lugar a otro.

Podrías pensar: “¡No soy un criminal, eso no me pasaría a mí!”. Ah, ahí es donde el asunto se pone un poco más interesante. Estás asumiendo que el sistema que te señaló no está impulsado por IA, y además estás asumiendo que el sistema es 100% preciso. Lamento decírtelo, pero ningún sistema es 100% preciso. Incluso si un sistema fuera 99.99% exacto, en un país como México con 132,529,000 habitantes, aproximadamente 13,252 personas serían señaladas, detenidas y tendrían una experiencia desagradable al ser llevadas a una oficina gubernamental cada año.

Por eso necesitamos pensar en los siguientes elementos esenciales para los autos autónomos:

• ¿Qué derechos existen en tu país para los propietarios y pasajeros de autos autónomos?
• ¿Podrías anular el control del auto con una frase especial o biometría para tomar el control del vehículo?
• Desde la configuración del fabricante, ¿quién tendría el control definitivo sobre el auto en todos los escenarios? ¿Tu control podría ser removido en alguna circunstancia?

Darle forma a tu futuro con un auto autónomo

Si no puedes encontrar respuestas a alguna de estas preguntas, envía un correo electrónico, haz una llamada o involúcrate. Porque puedes ayudar a dar forma al futuro.

Sería justo decir que tal vez este artículo sea un poco prematuro, ya que no hay autos autónomos circulando por México ni otras partes de América Latina en este momento. Sin embargo, yo diría que este artículo llega justo a tiempo, porque mucho de lo que se debe hacer para asegurar nuestros derechos tiene que lograrse país por país.

Colombia, Brasil, México, España y el resto del mundo necesitan crear sus propias leyes que protejan nuestros derechos en esta próxima era de autos autónomos impulsados por IA. Es un proceso que llevará años, y solo será una prioridad si lectores como tú lo ponen en la agenda de los funcionarios electos y reguladores, quienes ya tienen innumerables problemas por resolver.

A medida que avanzamos hacia un mundo cada vez más automatizado, tenemos que ser conscientes de lo que podría suceder en diferentes escenarios. Solo así podremos construir sistemas, regulaciones, comunidades y sociedades que nos representen y nos sirvan, y no al revés.