O MIT acha que encontrou uma maneira de detectar automaticamente a "face de viés"

Como a tecnologia e a IA aprendem é que os humanos ensinam o que está correto. É assim que funciona o software de reconhecimento facial, onde os humanos precisam ensiná-lo a reconhecer rostos e também ensiná-lo a não ser tendencioso. No entanto, isso pode ser lento, para não mencionar que os humanos cometem erros também, o que significa que algumas vezes certas coisas podem passar.

No entanto, o CSAIL do MIT acha que eles podem ter a resposta para automaticamente desviar a detecção de rosto AI. Eles criaram um algoritmo que pode escanear um conjunto de dados, entender quais são os preconceitos do conjunto e, então, reamostrar para garantir uma melhor representação, independentemente da cor da pele. Tal viés é dito ser um problema e houve até mesmo um relatório recente de como o reconhecimento de face da Amazon luta para identificar a pele mais escura.

Eles não estão sozinhos como há vários anos, houve alguns que acusaram Rosto ID da Apple por ser “ racista ” onde havia um exemplo de como o telefone de uma mulher chinesa foi desbloqueado por seu filho. É possível que seu filho se parecesse com ela, o que a Apple admite ser uma das instâncias com as quais o Face ID pode falhar, mas destaca como o sistema ainda está longe de ser perfeito.

Até agora, MITs sistema é dito ser capaz de reduzir o que eles estão chamando de "viés categórico" em 60% sem afetar a precisão. Isso significa que ainda há 40% em que "falhará", mas ainda é uma melhoria bastante significativa e deve ajudar a melhorar a velocidade na coleta de grandes quantidades de dados.

Via: Ubergizmo