Há viés racista nas avaliações da Amazon nos EUA? Empresas dizem que sim

Ao fazer isso, a Amazon está confiando no cliente para fornecer uma avaliação honesta. Mas nem sempre é assim: e se a pessoa for tendenciosa?

• 'Fui despedido por um robô': Como a Amazon deixa máquinas decidirem o destino dos trabalhadores
• Por dentro da Amazon: O trabalho na gigante do e-commerce é um ambiente selvagem

Essa possibilidade é uma questão de preocupação crescente para os prestadores de serviços de entrega da Amazon que empregam motoristas negros, latinos e asiáticos. Repetidas vezes, dizem eles, seus funcionários negros recebem uma avaliação pior dos clientes do que seus colegas brancos. Como o fenômeno afeta alguns de seus funcionários mais produtivos, os proprietários da empresa de entrega suspeitam que o preconceito racial seja o culpado do feedback negativo.

Os prestadores de serviços de entrega dizem que levaram suas preocupações a vários gerentes da Amazon. O tópico também foi discutido no Ignite, um fórum on-line que a empresa criou para esses prestadores trocarem conselhos e discutirem desafios.

O pessoal da Amazon monitora o fórum e às vezes participa, mas nunca se envolveu nas conversas sobre possível preconceito racial, de acordo com os contratados. A empresa também não tomou medidas para resolver o problema, disseram.

Em entrevistas, oito atuais e ex-entregadores da Amazon que operam em Los Angeles, Seattle, Geórgia, norte da Califórnia e nordeste do país descreveram o mesmo padrão: avaliações mais baixas para motoristas de cor, especialmente em bairros onde sua raça ou etnia se destaca.

• Demissões: Amazon anuncia nova leva de demissões e vai cortar 9 mil vagas

As suspeitas desses prestadores de serviços se encaixam em décadas de pesquisas acadêmicas documentando como preconceitos raciais, de gênero e de idade influenciam as impressões dos clientes sobre os trabalhadores do setor de serviços, de garçons a motoristas de táxi.

As empresas têm sido acusadas há anos de fazer muito pouco para evitar que o viés racista afete as avaliações dos clientes, mas o tempo todo vêm colhendo mais esse tipo de dados.

- Ao dar a seu cliente tanto poder sobre o processo de entrega em si, você está assumindo que ele vem de uma posição de boa índole. Essa é a falha - disse um empresário que trabalha para a Amazon no norte da Califórnia,

A porta-voz da Amazon, Maria Boschetti, não negou que o viés racial esteja afetando as avaliações dos motoristas, mas disse que a empresa não ignora o problema.

“Levamos essas preocupações a sério e investigamos todas as reclamações dignas de confiança, revisando todas as informações disponíveis e, em seguida, tomando as medidas apropriadas com base nos fatos disponíveis para nós”, disse ela por e-mail.

• Big Techs: A conta chegou para as empresas de tecnologia, após anos de dinheiro fácil

Maria Boschetti acrescentou que a Amazon parou de entregar encomendas para clientes que abusam ou podem representar uma ameaça para os motoristas. Ela também informou que a empresa não coleta ou armazena dados demográficos sobre esses profissionais.

A Amazon não é a única empresa de tecnologia acusada de permitir que o viés racial afete suas operações. A Uber Technologies foi processada por supostamente demitir motoristas representantes de minorias com base em como eles foram avaliados pelos clientes. Em março passado, um juiz federal disse que os queixosos não conseguiram provar a discriminação, mas deu-lhes tempo para corrigir sua queixa.

Já o Airbnb luta há anos para impedir que os anfitriões discriminem os afro-americanos que procuram alugar propriedades de férias. Depois de ser processada por um homem negro alegando tal preconceito, a empresa implementou uma série de medidas, incluindo impedir que os anfitriões vissem uma foto de possíveis locatários até que eles aceitassem fechar negócio.

Os críticos, no entanto, dizem que a Amazon não fez o suficiente para erradicar pontos cegos nos dados que coleta. Comerciantes on-line reclamam há anos que comentários mal-intencionados ou maliciosos de clientes podem fazer com que sejam expulsos da loja virtual da empresa.

• No Brasil: Pequenas empresas usam 'marketplaces' de Amazon e Walmart para vender no exterior

Uma investigação da Bloomberg realizada em 2021 revelou que os algoritmos da Amazon estavam falhando em capturar as condições do mundo real - clima, estradas ruins, tráfego - e punindo os motoristas de entrega por atrasos sobre os quais eles tinham pouco ou nenhum controle.

O viés racial alegado pelos prestadores de serviços de entrega é sutil e difícil de detectar em qualquer resposta individual. Quando um cliente dá um polegar para baixo, uma lista de opções que podem ser verificadas aparece, incluindo opções vagas como “o motorista não seguiu minhas instruções de entrega” e “o motorista não foi profissional” que não exigem nenhuma comprovação. Mas quando a Amazon utiliza o feedback do cliente para calcular as pontuações, a divisão racial é inegável, dizem os empresários.

Esse tipo de feedback é propenso a “viés implícito” de clientes que podem ser mais tolerantes com pequenos erros de pessoas que se parecem com eles e julgam aqueles percebidos como estranhos de forma mais crítica, diz NiCole Buchanan, professor de psicologia da Michigan State University:

- Raramente é alguém abertamente racista tentando fazer mal. Tudo é feito de forma muito sutil.

• Entenda por quê: Julgamento da Suprema Corte dos EUA deve ditar rumos de big techs no Brasil e no mundo

Dallan Flake, professor de direito da Gonzaga University em Spokane, Washington, disse que também é difícil responsabilizar os empregadores porque você precisa provar que a avaliação está tendo um impacto desproporcional nos motoristas de cor. Além disso, disse ele, a lei não prevê punições.

- A Amazon não está imune a litígios, mas provavelmente não está preocupada em enfrentar uma grande ação coletiva - disse Flake, que estudou o viés racista no feedback do consumidor por anos. - Eles não têm motivação para fazer algo que, no final, pode acabar custando caro se as pontuações de feedback do motorista melhorarem.

A Amazon lançou seu programa de “parceiros de serviços de entrega” em 2018, convidando aspirantes a empreendedores a iniciar seus próprios negócios. Globalmente, o programa cresceu para mais de 3.000 contratados com cerca de 275 mil motoristas.

Tecnicamente, a Amazon não emprega os motoristas, mas os monitora com câmeras, sensores de veículos e aplicativos para smartphones. O sistema monitora quantas vezes o motorista freia ou acelera, se usa cinto de segurança e se desliga o motor a cada parada.