Facebook e Microsoft se unem a pesquisadores para criar concurso para detecção de vídeo deepfake

O Facebook diz que está trabalhando com a Microsoft, a Partnership for AI e uma equipe internacional de acadêmicos para criar o Deepfake Detection Challenge, uma competição para desenvolver melhores ferramentas para sinalizar vídeos falsos.

"Também estamos financiando colaborações e prêmios de pesquisa para o desafio de ajudar a incentivar mais participação", disse hoje o diretor de tecnologia do Facebook, Mike Schroepfer, em uma postagem no blog."No total, estamos dedicando mais de US $ 10 milhões para financiar esse esforço de toda a indústria."

O Deepfakes usa representação de voz e manipulação de vídeo para fazer parecer que notáveis ​​- especialmente políticos - estão dizendo o que quer que seja o manipuladorquer que eles digam. Por exemplo, pesquisadores da Universidade de Washington demonstraram recentemente uma técnica para colocar palavras na boca do presidente Barack Obama.

A manipulação de vídeo já provocou controvérsias políticas: um desses vídeos, amplamente distribuídovia Facebook e Twitter em maio, fez com que a presidente da Câmara, Nancy Pelosi, parecesse bêbada durante uma entrevista coletiva. Especialistas dizem que os deepfakes provavelmente desempenharão um papel nas campanhas de desinformação que antecederam as eleições presidenciais de 2020. Felizmente, os pesquisadores já estão trabalhando em ferramentas para detectar os deepfakes: em junho, cientistas da computação da Universidade deA Califórnia em Berkeley mostrou uma ferramenta de software que analisava expressões faciais características e movimentos da cabeça para distinguir vídeos reais de falsificações.

O desafio do Facebook é modelado nooutros concursos de inteligência artificial, sobre assuntos que vão desde o raciocínio de senso comum até terminar uma frase.O Facebook criará um conjunto de dados padrão, usando atores pagos que deram consentimento para que o vídeo seja usado no exercício. Nenhum dado de usuário do Facebook será usado. Os vídeos e os procedimentos para o desafio serão examinados no próximo mês durante uma sessão de trabalho na Conferência Internacional sobre Visão Computacional na Coréia do Sul e lançados em dezembro para as equipes trabalharem.

Haverá umatabela de classificação dos competidores, e a competição será supervisionada pelo Comitê Diretor da Parceria para IA em AI e integridade da mídia.O Facebook e a Microsoft estarão representados no comitê, juntamente com a WITNESS e outras organizações focadas na sociedade civil, tecnologia, mídia e pesquisa acadêmica.

Os parceiros acadêmicos incluem Berkeley, Cornell Tech,MIT, Universidade de Oxford, Universidade de Maryland em College Park e Universidade de Albany-SUNY.

Em um comunicado, o professor Philip HS Torr, de Oxford, disse que a ameaça dos deepfakes não se limita aos Estados Unidos. Estados.

“Mídia manipulada sendo lançada na internet, para criar teorias falsas de conspiração e manipular pessoas para obter ganhos políticos, está se tornando uma questão de importância global, pois é uma ameaça fundamental à democracia, edaí a liberdade ”, disse Torr.“Acredito que precisamos urgentemente de novas ferramentas para detectar e caracterizar essas informações erradas, por isso estou feliz por fazer parte de uma iniciativa que busca mobilizar a comunidade de pesquisa em torno desses objetivos - ambos para preservar a verdade e ao mesmo tempo ultrapassar as fronteiras da ciência.”

Via: Geek Wire