Top investigadores de AI pedem que a Amazon pare de vender tecnologia de reconhecimento facial para a aplicação da lei

Um grupo de pesquisadores de inteligência artificial - incluindo o vencedor deste ano do Turing Award - divulgou uma declaração conjunta na quarta-feira pedindo à Amazon Web Services que pare todas as vendas de sua tecnologia Recokgnition de reconhecimento facial a lei. Em uma carta postada ao Medium, os pesquisadores detalharam as falhas nas respostas anteriores da AWS aos críticos que fizeram chamadas semelhantes depois que o Rekognition foi usado pelos departamentos de polícia em Orlando e no subúrbio de Portland para fins de aplicação da lei. Esses críticos “corretamente alertam sobre o uso de tecnologias imaturas em cenários de alto risco sem um debate público e legislação em vigor para garantir que os direitos civis não sejam violados”, segundo o post.

Cerca de 25 especialistas proeminentes em inteligência artificial emprestaram seus nomes ao pé da letra, incluindo o professor da Universidade de Montreal e o conselheiro da Microsoft Yoshua Bengio, vencedor do Prêmio Turing deste ano por conquistas tecnológicas. Hal Daumé III, da Microsoft Research, e Anima Anandkumar, da Caltech, ex-cientista chefe da AWS, se juntaram a representantes do Google, Facebook e várias universidades americanas convidando a AWS a retirar a Rekognition do mercado policial até que “legislação e salvaguardas” sejam implementadas. liberdades civis dos algoritmos frequentemente tendenciosos usados ​​em tais sistemas.

A AWS vem defendendo essa questão há quase um ano depois que a ACLU convocou a empresa a parar de vender Rekognition para as autoridades policiais em maio passado, mas a carta de quarta-feira foi motivada por um estudo revisado por pares, divulgado em janeiro, mostrando que o Rekognition era mais propenso a erros do que a tecnologia similar de reconhecimento facial da IBM e da Microsoft. estudo foi lançado, Matt Wood, gerente geral de aprendizagem profunda e AI para AWS, e vice-presidente de Políticas Públicas Michael Punke escreveu dois posts no blog defendendo a tecnologia da empresa e argumentando que há um Muitos benefícios da aplicação da lei de reconhecimento facial. Os pesquisadores por trás da carta de quarta-feira não compraram esses argumentos: “Cuidado, preocupação e avaliação rigorosa - sensíveis à interseção demográfica que afetam a visão computacional centrada no ser humano para imagens - são ainda mais prementes ao considerar produtos que são usados ​​em cenários severamente A Microsoft pediu a regulamentação federal da tecnologia de reconhecimento facial várias vezes no ano passado, e está apoiando uma lei em consideração no estado de Washington que exige que as empresas vendendo tecnologia de reconhecimento facial para abri-lo a terceiros para testes e avaliação de potenciais vieses. A Amazon também está trabalhando com reguladores estaduais em legislação potencial.

Via: Geek Wire