Funcionários da Amazon supostamente assistem clipes do Cloud Cam para ajudar a treinar a IA

A Amazon foi a primeira a ouvir o discurso gravado pelo Alexa com o objetivo de auditá-los e melhorar a IA da empresa para o serviço. Acontece que não é apenas o áudio que a empresa está distribuindo aos funcionários com o mesmo objetivo. Parece que o jogo justo também é gravações em vídeo da Cloud Cam da empresa e, dada a natureza visual do conteúdo, é facilmente mais identificável e mais problemática, tanto quanto mantém as identidades dos proprietários em sigilo.

Lançada no final de 2017, a Cloud Cam foi a primeira incursão formal da Amazon no mundo da casa inteligentemáquinas fotográficas.A webcam de 1080p foi anunciada como um dispositivo de segurança, irônica diante dessas alegações, e anunciou o uso da IA ​​para diferenciar entre animais de estimação se movendo e assaltantes invadindo. E, como muitos já devem saber, a AI não é um molho mágico que começa completamente conhecedore perfeito.

Qualquer IA, especialmente as não triviais como essa, precisam ser treinadas e o aprendizado de máquina em si também não acontece por mágica. Ele precisa trabalhar em milhares, senão milhões, de dados e, em alguns casos, exigir a intervenção de humanos para verificar erros na avaliação da IA ​​de um determinado dado. Em casos específicos de hits, assim como nas gravações de áudio Alexa, os seres humanos auditam clipes de vídeo para corrigir a identificação de atores no Cloud Cam, sejam humanos, animais e outras ações.

Essa é a situação complicada em que os proprietários do Cloud Cam estão se metendo. Segundo o relatório da Bloomberg, a Amazon não informou aos proprietários que os clipes gravados pela câmera podem ser vistos por humanos. Eles apenas presumem que alguma IA analise o vídeo e possa identificar automaticamente pessoas e atividades dentro da visualização. Os usuários podem nem perceber que os humanos podem revisar clipes que eles enviam intencionalmente porque a IA do Cloud Cam o marcou incorretamente.

Ao contrário do áudio, o conteúdo de vídeo coletado pelo Cloud Cam é imediatamente mais revelador, principalmente quando ocorre alguma atividade comprometida ou muito pessoal.A Amazon tem políticas de descarte de dados em vigor, especialmente para materiais sensíveis, uma vez que algo é visto, nem sempre pode ser invisível. Especialmente por pessoas que podem ter outras intenções.

Via: Slash Gear