O que é um fungo profundo e devo estar preocupado?

Temos a tendência de confiar no conteúdo das gravações de vídeo e áudio. Mas, com a IA, o rosto ou a voz de qualquer pessoa pode ser recriado com precisão de pontos. O produto é uma falsificação profunda, uma imitação que pode ser usada para memes, desinformação ou pornografia.

Um olhar sobre os deepfakes de Nicholas Cage ou o profundo PSA de Jordan Peele faz claro que estamos lidando com novas tecnologias estranhas. Esses exemplos, embora relativamente inofensivos, levantam questões sobre o futuro. Podemos confiar em vídeo e áudio? Podemos responsabilizar as pessoas por suas ações na tela? Estamos prontos para deepfakes?

Deepfakes são novos, fáceis de criar e crescer rapidamente

A tecnologia Deepfake é apenas um alguns anos, mas já explodiu em algo que é ao mesmo tempo cativante e inquietante. O termo “deepfake”, que foi cunhado em um tópico do Reddit em 2017, é usado para descrever a recriação da aparência ou da voz de um humano através da inteligência artificial. Surpreendentemente, praticamente qualquer pessoa pode criar um deepfake com um PC de baixa qualidade, algum software e algumas horas de trabalho.

Como acontece com qualquer nova tecnologia, há alguma confusão em torno de deepfakes . O vídeo “bebido Pelosi” é um excelente exemplo dessa confusão. Deepfakes são construídos por AI, e eles são feitos para representar pessoas. O vídeo "dunk Pelosi", que foi referido como um deepfake, é na verdade apenas um vídeo de Nancy Pelosi que foi retardado e corrigido para adicionar um efeito de fala arrastada.

Isso também é o que torna a deepfakery diferente, digamos, da CGI Carrie Fisher em Star Wars: Rogue One. Enquanto a Disney gastou muito dinheiro estudando o rosto de Carrie Fisher e recriando-o à mão, um nerd com algum software profundo pode fazer o mesmo trabalho de graça em um único dia. A IA torna o trabalho incrivelmente simples, barato e convincente.

Como Fazer um Inferno

Como um aluno em sala de aula, a IA precisa "aprender" como executar a tarefa pretendida . Isso é feito por meio de um processo de tentativa e erro de força bruta, geralmente chamado de aprendizado de máquina ou aprendizado profundo. Uma IA projetada para completar o primeiro nível de Super Mario Bros, por exemplo, jogará várias vezes até descobrir a melhor maneira de vencer. A pessoa que projeta a IA precisa fornecer alguns dados para iniciar as coisas, junto com algumas “regras” quando as coisas dão errado ao longo do caminho. Além disso, a IA faz todo o trabalho.

O mesmo vale para a recreação facial profunda. Mas, claro, recriar rostos não é o mesmo que bater um videogame. Se fôssemos criar uma profunda farsa de Nicholas Cage hospedando o show da Wendy Williams, aqui está o que precisaríamos:

• Um vídeo de destino: A partir de agora, os deepfakes funcionam melhor com vídeos de destino claros e limpos . É por isso que algumas das profundezas mais convincentes são de políticos; eles tendem a ficar parados em um pódio sob iluminação constante. Então, precisamos apenas de um vídeo de Wendy sentada e falando.
• Dois conjuntos de dados: para que os movimentos boca e cabeça fiquem precisos, precisamos de um conjunto de dados do rosto de Wendy Williams e um conjunto de dados do rosto de Nicholas Cage. Se Wendy olha para a direita, precisamos de uma foto de Nicholas Cage olhando para a direita. Se Wendy abre a boca, precisamos de uma foto de Cage abrindo sua boca.

Depois disso, deixamos a IA fazer o seu trabalho. Ele tenta criar repetidas vezes o deepfake, aprendendo com seus erros ao longo do caminho. Simples, certo? Bem, um vídeo do rosto de Cage no corpo de Wendy William não vai enganar ninguém, então como podemos ir um pouco mais longe?

O mais convincente (e potencialmente prejudicial os deepfakes são personificações totais. O popular golpe de Obama de Jordan Peele é um bom exemplo. Então, vamos fazer uma dessas imitações. Vamos criar um profundo engano de Mark Zuckerberg, declarando seu ódio às formigas - isso parece convincente, certo? Aqui está o que precisamos:

• Um vídeo de destino: pode ser um vídeo do próprio Zuckerberg ou de um ator parecido com Zuckerberg. Se o nosso vídeo de destino for de um ator, simplesmente colaremos o rosto de Zuckerberg no ator.
• Foto: Precisamos de fotos de Zuckerberg falando, piscando e movendo a cabeça. Se estivermos superpondo o rosto dele em um ator, também precisaremos de um conjunto de dados dos movimentos faciais do ator.
• The Zuck’s Voice: Nossa falsa necessidade precisa soar como o Zuck. Podemos fazer isso gravando um imitador ou recriando a voz de Zuckerberg com AI. Para recriar sua voz, simplesmente executamos samples de áudio de Zuckerberg através de uma IA como Lyrebird, e depois digitamos o que queremos que ele diga.
• Uma IA Lip-Sync: Já que estamos adicionando a voz de Zuckerberg falso ao nosso vídeo, uma IA de sincronia labial precisa ter certeza de que os movimentos faciais profundos correspondem ao que está sendo dito.

Não estamos tentando minimizar o trabalho e a especialização que envolvem a deepfakery. Mas quando comparado ao trabalho de milhões de dólares que trouxe Audrey Hepburn de volta dos mortos, os deepfakes são um passeio no parque. E apesar de ainda não termos caído profundamente em política ou celebridade, até mesmo os mais profundos e óbvios efeitos profundos causaram danos reais.

RELACIONADOS: O problema com a IA: as máquinas estão aprendendo coisas, mas podem Entenda-os

Deepfakes Já Causaram Dano do Mundo Real

A partir de agora, a maioria dos deepfakes são apenas memes de Nicholas Cage, anúncios de serviço público e arrepiantes de pornografia de celebridades. Esses canais são relativamente inofensivos e fáceis de identificar, mas, em alguns casos, as profundezas são usadas com sucesso para espalhar desinformação e prejudicar a vida de outras pessoas. Na Índia, os profundos são empregados por nacionalistas hindus para desacreditar e incitar a violência. contra jornalistas do sexo feminino. Em 2018, uma jornalista chamada Rana Ayyub foi vítima de tal campanha de desinformação, que incluiu um vídeo profundo de seu rosto sobreposto a um vídeo pornográfico. Isso levou a outras formas de assédio on-line e à ameaça de violência física.

Nos Estados Unidos, a tecnologia deepfake é frequentemente usada para criar pornografia de vingança não consensual. Como relatado por Vice, muitos usuários do agora banido deepfakes do fórum Reddit perguntaram como criar deepfakes de ex-namoradas, paixões, amigos e colegas de classe (sim, pornografia infantil). O problema é tão grande que a Virgínia agora proscreve todas as formas de pornografia não consensual, incluindo profundos.

Como os deepfakes se tornam cada vez mais convincentes, a tecnologia será indubitavelmente usada para propósitos mais duvidosos. Mas há uma chance de estarmos exagerando, certo? Esse não é o passo mais natural depois do Photoshop?

Deepfakes são uma extensão natural das imagens médicas

Mesmo em seu nível mais básico, os deepfakes são inquietantes. Confiamos em gravações de vídeo e áudio para capturar as palavras e ações das pessoas sem qualquer preconceito ou desinformação. Mas de certa forma, a ameaça de deepfakes não é nada nova. Ela existe desde que começamos a usar a fotografia.

Veja, por exemplo, as poucas fotografias que existem de Abraham Lincoln. A maioria dessas fotografias (incluindo os retratos da moeda de um centavo e a nota de cinco dólares) foram manipuladas por um fotógrafo chamado Mathew Brady para melhorar a aparência esbelta de Lincoln (especificamente seu pescoço fino). Alguns desses retratos foram editados de uma forma que é uma reminiscência de profundos, com a cabeça de Lincoln sobreposta aos corpos de homens “fortes” como Calhoun (o exemplo abaixo é uma gravura, não uma fotografia).

Isso soa como um pouco de publicidade bizarra, mas durante a década de 1860, a fotografia carregava uma certa quantidade de “verdade” que agora reservamos para gravações de vídeo e áudio. Considerou-se o oposto polar da arte - uma ciência. Essas fotos foram manipuladas para desacreditar intencionalmente os jornais que criticavam Lincoln por seu corpo fraco. No final, funcionou. Os americanos ficaram impressionados com a figura de Lincoln, e o próprio Lincoln alegou que as fotos de Brady "me tornaram presidente". A conexão entre deepfakes e a edição de fotos do século 19 é estranhamente reconfortante. Ele nos oferece a narrativa de que, embora essa tecnologia tenha sérias consequências, não é algo totalmente fora de nosso controle. Mas, infelizmente, essa narrativa pode não durar por muito tempo.

Não conseguiremos identificar Deepfakes Forever

Estamos acostumados a ver imagens e vídeos falsos com nossos olhos . É fácil olhar para um retrato de família de Joseph Goebbels e dizer: "Há algo de estranho nesse cara nas costas". Uma olhada nas fotos de propaganda norte-coreanas torna evidente que, sem os tutoriais do YouTube, as pessoas são péssimas no Photoshop. E, por mais impressionantes que sejam os deepfakes, ainda é possível detectar uma profunda falha apenas com a visão.

Mas não poderemos detectar deepfakes por muito mais tempo. Todos os anos, os deepfakes se tornam mais convincentes e mais fáceis de criar. Você pode fazer um deepfake com uma única foto, e você pode usar AI como o Lyrebird para clonar vozes em menos de um minuto. Deepfakes de alta tecnologia que mesclam vídeo e áudio falsos são incrivelmente convincentes, mesmo quando são feitos para imitar figuras reconhecíveis como Mark Zuckerberg.

No futuro, podemos usar AI, algoritmos e tecnologia blockchain para lutar contra deepfakes. Teoricamente, o AI pode escanear vídeos para procurar por “impressões digitais” profundas e a tecnologia blockchain instalada em sistemas operacionais pode denunciar usuários ou arquivos que tenham tocado em software deepfake.

Se esses métodos anti-deepfake soarem idiotas para você, então junte-se ao clube. Até mesmo os pesquisadores de AI duvidam que exista uma verdadeira solução para deepfakes. À medida que o software de detecção melhora, o mesmo acontece com os deepfakes. Eventualmente, chegaremos a um ponto em que os deepfakes serão impossíveis de detectar, e teremos muito mais com o que se preocupar do que vídeos de celebridades falsas e vídeos de Nicolas Cage.

LEIA PRÓXIMO & rsaquo; Como funcionam os testes de velocidade da Internet? (e quão precisos são eles?) & rsaquo; Como Transmitir o UFC 239 Jon Jones vs Santos Online & rsaquo; Como verificar a força do seu sinal Wi-Fi & rsaquo; O que é "Upscaling" na TV e como funciona? & Rsaquo; Como ver os aplicativos usando sua rede no Windows 10

Via: How to Geek