Estudo constata que sistemas de reconhecimento facial têm preconceitos raciais e de gênero

Você supõe que, como os computadores não sentem que, quando se trata de preconceitos, eles podem estar imunes a ele. No entanto, um computador é essencialmente uma ferramenta e faz o que as pessoas que o programa o mandam, e, como tal, às vezes talvez por acidente, os desenvolvedores podem criar um viés neles.

Publicidade

Em um estudo recente realizado pelo governo dos EUA, eles descobriram que, quando se trata de sistemas de reconhecimento facial, eles tendem a têm preconceitos contra pessoas de cor e gênero, onde identificam mais pessoas de cor do que outras pessoas caucasianas.

De acordo com o relatório, "Para uma comparação individual, a equipe viu taxas mais altas de falsos positivos para rostos asiáticos e afro-americanos em relação a imagens de caucasianos. Os diferenciais costumavam variar de um fator de 10 a 100 vezes, dependendo do algoritmo individual. ” Por exemplo, o estudo constatou que a tecnologia de reconhecimento facial da Microsoft tem quase 10 vezes mais falsos positivos para mulheres de cor do que homens de cor.

Desde então, a Microsoft disse que está revisando o relatório e espera ajustes para resolver isso. Esta não é a primeira vez que a tecnologia é acusada de ser tendenciosa. Por exemplo, não muito tempo atrás, descobriu-se que o algoritmo por trás do Apple Card oferecia aos homens um limite de crédito mais alto em comparação às mulheres.

Via: Ubergizmo