Por que devemos nos preocupar com o Deepfakes e o que está sendo feito para combatê-lo

O ano é 1969. O Presidente Richard Nixon leu um discurso sobre os astronautas da Apollo 11 presos na lua."Os homens que foram à lua explorar em paz permanecerão na lua e descansarão em paz", disse ele.O mundo viu como a tripulação da Apollo 11 pousou com sucesso e depois retornou à Terra. Mas um vídeo deepfake recentemente publicado do ex-presidente Nixon nesse cenário fictício parecia sugerir o contrário.O vídeo gerado por computador de Nixon foi criado pelo Instituto de Tecnologia de Massachusetts, Centro de Virtualidade Avançada.

A equipe do MIT queria mostrar como os deepfakes poderiam afetar nosso mundo. Confiar em indivíduos, jornalistas e líderes poderia transformar-se em dizer coisas que não disseram e fazer coisas que não fizeram. As consequências podem ser desastrosas. Agora, os legisladores lutam por melhores soluções.

De acordo com um estudo divulgado pelo AI Center da Samsung, os deepfakes não são difíceis de gerar. Ao contrário da crença popular, não é necessária uma biblioteca inteira de imagens para criar um modelo convincente de cabeça falante - um designer experiente pode fazê-lo com apenas um.

Imediatamente, existem preocupações reais sobre os deepfakes serem armados em vários cenários, como nas eleições de 2020.

O papel da grande tecnologia

Este ano, o Congresso solicitou ao Diretor de Inteligência Nacional um relatório formal sobre a tecnologia deepfake.O Comitê de Inteligência da Câmara dos Deputados também enviou uma carta ao Twitter, Facebook e Google perguntando como eles planejavam enfrentar os deepfakes nas eleições de 2020.

Se muitas das notícias de hoje forem divulgadas nas mídias sociais, essas empresas de tecnologia poderão ter um papel importante na forma como os deepfakes circulam. Mas aí está o debate em andamento sobre o que constitui uma notícia falsa;O Facebook tem hesitado em decidir a verdade factual, não atrapalhando a maioria dos conteúdos de usuários em seu site.

Mas nesta semana, o Facebook cedeu à controversa lei de notícias falsas de Cingapura, emitindo uma nota em um post considerado notícia falsa pelo governo de Cingapura.A nota dizia: "O Facebook é legalmente obrigado a dizer que o governo de Cingapura diz que este post tem informações falsas".

Essa mudança surpreendente na cooperação com as autoridades pode abrir um novo debate sobre sua posição sobre notícias falsas emoutras jurisdições.

E além das empresas, instituições governamentais como DARPA e faculdades como MIT, Stanford University e Instituto Max Planck de Informática também estão experimentando a tecnologia deepfake. Alguns desses projetos incluem algoritmos de engenharia reversa para detectar imagens de deepfake.

Combatendo deepfakes com a lei

Há também uma Lei de Responsabilidade pelo DEEPFAKES (que tal isso para um acrônimo), um projeto de lei proposto pela deputada Yvette Clarke(D-NY). Requer que qualquer pessoa que crie conteúdo deepfake coloque uma marca d'água irremovível e descrições textuais.Não fazer isso seria um crime.

A Lei de Responsabilidade seria um passo na direção certa, mas existem brechas. Os criadores do Deepfake que cumpririam essas regras provavelmente não são os criminosos que estamos tentando impedir por aqui. Marcas d'água também são simples de remover.A lei faz pouco para se opor a atores mal-intencionados e à necessidade de combater a potencial viralidade do conteúdo do deepfake. Mensagens falsas poderiam ter se espalhado como fogo antes que alguém percebesse que era falso.

Mas, pelo menos, haveria uma lei contra ela, definindo o crime. Isso poderia acelerar os procedimentos judiciais e iniciar a discussão legal sobre o combate a falhas profundas.

Por que não banir tudo isso junto?

A abordagem da China é simplesmente criminalizar os deepfakes publicados sem um aviso. Isso é semelhante ao projeto deepfake da Califórnia, que proíbe a circulação de imagens falsas de políticos dentro de 60 dias após a eleição.

Embora uma proibição possa deixar claro que os governos têm uma completa intolerância a vídeos falsificados, pode ser difícil de aplicar.Não impede a disseminação de mensagens falsas com imediatismo, que é o problema aqui.

Alguns se opuseram à idéia de uma proibição, afirmando que há benefícios reais para a tecnologia por trás dos deepfakes. Os algoritmos do Deepfake oferecem trazer a tecnologia de realidade virtual e o processamento de imagens a novos patamares, usando o aprendizado de máquina para aprimorar o realismo, que pode ser bem-vindo no entretenimento, educação e também na indústria médica.A P&D no campo da medicina vem experimentando a tecnologia deepfake para produzir imagens realistas de estimativas e previsões.

Mas esses avanços ameaçam perturbar a sociedade em outras áreas, da confiança na imprensa e na liderança. As autoridades precisam agir rapidamente e decidir qual é a sua prioridade.

O que podemos fazer agora

As notícias estão em um momento difícil hoje.E à medida que a tecnologia deepfake se torna mais difundida, a fé nas notícias pode se tornar ainda mais difícil de manter.

No entanto, ainda recebemos vastas informações em todos os lugares, on-line e off-line. Nossa melhor defesa é não receber as notícias que recebemos pelo valor de face. Pense em quem postou e na fonte do conteúdo. Também vale a pena procurar pelo menos duas fontes confiáveis, para garantir que uma história seja provavelmente precisa.E reserve um momento para considerá-las antes de compartilhar.

A responsabilidade individual parece ser a nossa melhor aposta, até que as empresas e o governo se concentrem na política de deepfake, que esperamos vir mais cedo ou mais tarde.

Via: Slash Gear