Amazon limita acceso a las reseñas de clientes a algunos usuarios porque cree que son IA

Mientras Amazon intenta mantener a los rastreadores de IA fuera de su sitio web, los clientes humanos se están convirtiendo en daños colaterales.

Desde finales del año pasado, algunos compradores de Amazon solo han podido leer una pequeña cantidad de reseñas de clientes por cada producto. Cuando esto sucede, el cliente debe presentar una apelación por correo electrónico a Amazon y esperar varios días hábiles para recibir una respuesta.

Un portavoz de Amazon confirmó que la compañía está tratando de restringir el scraping de datos no autorizado en su sitio, pero que también está marcando erróneamente a clientes legítimos como bots, con quejas que se acumulan en Reddit y en los foros de Amazon. He escuchado personalmente a un par de usuarios afectados, uno de los cuales ha sido suscriptor de Prime desde el inicio del programa.

Amazon se negó a responder preguntas sobre cuándo comenzó a restringir el acceso a las reseñas, cómo verifica las solicitudes de los usuarios para ver más reseñas, cuántos usuarios se han visto afectados y qué comportamientos podrían resultar en un falso positivo, si es que existe alguno.

“Entendemos que puede haber habido casos aislados en los que los clientes no pudieron acceder a las reseñas, y hemos trabajado para garantizar el acceso”, dijo un portavoz a Fast Company.

Aunque la mayoría de los usuarios nunca pierdan el acceso a las reseñas de Amazon, este tipo de problema podría volverse pronto ineludible. A medida que los rastreadores y agentes de IA se vuelven mejores para hacerse pasar por humanos, y las plataformas siguen intentando bloquearlos, demostrar que no eres un robot será cada vez más difícil.

Culpado por el servicio al cliente

Fred Hall es un suscriptor de Prime desde hace mucho tiempo que depende de las reseñas de clientes de Amazon para investigar productos. Busca en las reseñas detalles sobre características específicas, y revisa las reseñas con calificaciones bajas para identificar posibles problemas.

Pero cuando fue a comprar un deshumidificador en Amazon a mediados de julio, descubrió que Amazon solo le permitía ver ocho reseñas por producto. Un agente de chat del servicio al cliente de Amazon le informó que había “violado las Condiciones de Uso de Amazon respecto a la recopilación o extracción de datos de contenido generado por la comunidad, como las reseñas de clientes”.

Hall califica esta explicación de “ridícula”.

“Parece que el algoritmo de IA está demasiado ajustado. He sido miembro de Amazon Prime desde que Prime existe”, dice. “No soy ningún scraper de datos tratando de robar información de reseñas”.

Aunque Amazon aceptó la apelación de Hall unos días después, la compañía nunca explicó qué había fallado en primer lugar. Él afirma no usar ninguna herramienta de navegación o automatización con IA. Todo el episodio lo ha hecho replantearse su membresía Prime.

“Si no hubiera insistido en mi chat con el agente en vivo, no habría tenido idea de por qué me quitaron el acceso, y aun así la explicación fue bastante vaga”, dice Hall.

De manera similar, Sean Kaufman descubrió que solo podía acceder a ocho reseñas por producto, sin opciones de clasificación o filtrado. Contactado a través de Reddit después de que expusiera sus quejas en el sitio, Kaufman dice que no usa bloqueador de anuncios, VPN, ni ninguna herramienta de navegación con IA. No tiene idea de por qué Amazon marcó su cuenta, salvo que investiga a fondo las reseñas de productos de la competencia mientras decide qué comprar.

En el caso de Kaufman, un agente de chat de Amazon le ofreció un crédito promocional de 10 dólares “como muestra de disculpa” y prometió escalar el problema en un plazo de 24 horas. Pero eso nunca sucedió, y le tomó cinco días recuperar el acceso completo a las reseñas.

Kaufman dice que lo que más le molesta es la falta de transparencia de Amazon, ya que ahora se queda adivinando qué pasará si sus patrones de compra “no cumplen con las expectativas algorítmicas de normalidad”.

“Lo que más me irrita es que Amazon ni siquiera se molestó en decirme que mi cuenta había sido restringida”, continúa Kaufman. “Nunca se explicó nada (ni antes, ni durante, ni después) lo que ha generado una gran confusión sobre la naturaleza de este programa”.

Más bots de IA, más molestias para los humanos

A medida que los agentes y rastreadores de IA se vuelven mejores imitando el comportamiento humano, Amazon no es la única empresa que incomoda a los humanos mientras intenta distinguir quién es una persona real en línea.

En abril, Google comenzó a probar un nuevo sistema de reCAPTCHA para frenar la actividad de bots en los sitios web. En lugar de simplemente hacer que los usuarios resuelvan un puzzle visual, el nuevo sistema les pide escanear un código QR con sus teléfonos, mientras que otra versión nueva les pide realizar una serie de gestos con las manos. Google afirma que estas medidas son una respuesta específica a los agentes de IA que pueden navegar e interactuar de forma autónoma con la web, como los que la propia Google está creando.

Mientras tanto, Reddit ha bloqueado a casi todos los motores de búsqueda el acceso a su sitio en un intento de mantener alejados a los rastreadores de IA. La única excepción es Google, que paga por entrenar IA con los datos de Reddit. El Internet Archive, una fuente invaluable para consultar versiones antiguas de sitios web, tampoco ha podido archivar historias de varios medios de noticias que dicen ser cautelosos respecto a que la IA rastree el contenido de sus sitios.

En cuanto a Amazon, en noviembre demandó a la empresa de IA Perplexity por una función de compras “agéntica” que navega Amazon en nombre de los usuarios. Amazon acusó a Perplexity de intentar hacer que sus agentes de IA se pasen por humanos y de ignorar las solicitudes de Amazon para desactivar la función. Un portavoz de Amazon se negó a comentar si su conflicto con Perplexity tiene algo que ver con su ofensiva contra el acceso a las reseñas. La compañía todavía no ha publicado ninguna documentación para los usuarios a los que ha acusado de hacer scraping de reseñas.

Las empresas tecnológicas han prometido un futuro en el que visitar sitios web quedará obsoleto porque la IA lo hará por ti. Solo que ahora están tratando de bloquear a sus competidores para que no hagan exactamente eso, y en el proceso están estorbando a las personas que realmente quieren visitar sus sitios en primer lugar.

Para Kaufman, el panorama es bastante sombrío. “La toma de decisiones impulsada por IA es una perspectiva aterradora para la humanidad, si esto es un indicio de cómo va a resultar”, dice.