O aplicativo de troca de rosto ZAO deepfake levanta preocupações com a privacidade na China

A IA e o aprendizado de máquina penetraram em quase todas as partes da tecnologia e produtos modernos, mas uma de suas aplicações mais caprichosas é a troca de face. Apelidados de "deepfakes", esses programas podem quase convencer seu rosto no de alguém. Um desses aplicativos chamado ZAO se tornou uma sensação da noite para o dia na China por causa de quão impressionantemente convincentes foram seus resultados finais. Isso, no entanto, rapidamente deu lugar ao medo e à preocupação, uma vez que ficou evidente como a tecnologia poderia ser mal utilizada para atos criminosos.

A maioria dos deepfakes apenas “corta e cola” seu rosto em outro, mas o ZAO realmente se define facilmentealém dos resultados. Você tira apenas uma foto solitária do seu rosto, escolhe entre alguns videoclipes de filmes ou de atores e depois se vê magicamente como a estrela principal dos programas. Graças à AI, é claro.

Caso você não tenha ouvido, o #ZAO é um aplicativo chinês que explodiu completamente desde sexta-feira. Melhor aplicação de substituição facial AI do tipo 'Deepfake' que eu já vi. Aqui está um exemplo de mim como DiCaprio (gerado em menos de 8 segundos a partir dessa foto na miniatura) 🤯 pic. twitter. com/1RpnJJ3wgT— Allan Xia (@AllanXia) 1 de setembro de 2019

Depois da fúriano entanto, a opinião sobre o ZAO mudou rapidamente depois que foram levantadas questões sobre implicações de privacidade e segurança. Acontece que o ZAO tinha um contrato de usuário de 6.000 caracteres que dava aos desenvolvedores direitos sobre qualquer imagem criada no aplicativo gratuitamente e sem a necessidade de permissão ou mesmo conhecimento.O contrato do usuário já foi atualizado para resolver isso, mas isso só deu lugar a outro medo.

Desenvolvedores Momo agora basicamente possui um banco de dados de rostos de usuários, rostos que podem ser usados, com a mesma IA de deepfake, para criar conteúdo enganoso, se não ilegal. De fato, as pessoas precisam usar apenas a foto de outra pessoa para criar os vídeos, sem a necessidade de invadir o banco de dados do ZAO.E em um país como a China, onde o reconhecimento fac é um sistema de segurança popular para aplicativos e serviços, que se tornou uma importante fonte de medo.

A Apple ainda pode não ver os perigos do aplicativo, pois continua sendo o principal download do iOS na China, mas o próprio governo chinês poderia detê-lo se o considerasse controverso. Por outro lado, também poderia se beneficiar do banco de dados de rostos do ZAO de usuários felizes em carregá-los por alguns segundos de fama imaginada.

Via: Slash Gear