AOC vs. Amazon: Alexandria Ocasio-Cortez alerta sobre preconceito na tecnologia de detecção facial da gigante de tecnologia

Rep. A Alexandria Ocasio-Cortez usa a tecnologia apenas como um nativo digital.

A deputada de 29 anos conhece o poder de uma presença autêntica e pessoal na mídia social. Ela viu o impacto que um novo aplicativo pode ter em táticas antiquadas de campanha. Ela também sabe que a nova tecnologia pode ter um lado insidioso. No domingo, Ocasio-Cortez pediu salvaguardas contra preconceitos algorítmicos, um fenômeno bem documentado que pesquisadores e ativistas dos direitos civis vêm alertando há meses.

A congressista caloura twittou um novo estudo do MIT. e a Universidade de Toronto que descobriu que o software de análise facial da Amazon identifica incorretamente as mulheres como homens 19% do tempo. O software identificou mal as mulheres de pele mais escura como homens 31% do tempo.

O gerente geral de inteligência artificial da Amazon, Matt Wood, contestou as descobertas e observou que o estudo concentra-se na tecnologia de análise facial, que é diferente do reconhecimento facial. A análise facial é usada para pesquisar um banco de dados de fotos para atributos específicos. Digamos, por exemplo, que um designer de publicidade quisesse pesquisar um catálogo de fotos para uma mulher de óculos e sorrindo. É aí que entra a análise facial.

Os clientes da Amazon usam o reconhecimento facial para tentar identificar uma pessoa comparando seu rosto com um banco de dados de outras faces. Agências de aplicação da lei na Flórida e no Oregon atualmente usam o software da Amazon para essa finalidade, para a consternação da ACLU, bem como para muitos funcionários e acionistas da Amazon.

“Não é possível tirar uma conclusão sobre a precisão do tratamento facial. reconhecimento para qualquer caso de uso - incluindo a aplicação da lei - com base nos resultados obtidos usando análise facial ”, disse Wood em um comunicado. "Os resultados do artigo também não usam a versão mais recente do Rekognition e não representam como um cliente usaria o serviço hoje."

A Amazon disse que recriando o teste com seu software mais recente, havia Não há erros de identificação.

No entanto, especialistas, ativistas e a vizinha da Amazon, a Microsoft, pediram mais regulamentação e análise da tecnologia para evitar que ela amplifique os vieses humanos. " Algoritmos ainda são feitos por seres humanos ", disse Ocasio-Cortez em um evento do Dia de Martin Luther King no início deste mês. "E esses algoritmos ainda estão atrelados a pressupostos humanos básicos."

A Technology Review da MIT twittou uma resposta aos comentários de Ocasio-Cortez: "Ela não está errada."

Via: Geek Wire