'Terminator' está de volta!Especialistas em IA verificam a realidade do novo pesadelo de Hollywood

Ele prometeu que voltaria - e 35 anos depois que Arnold Schwarzenegger criou o que agora é um clichê para a inteligência artificial que deu errado no primeiro filme "Terminator", os pesadelos cinematográficos sobre viagens no temporobôs assassinos voltaram à tela grande.

"Terminator: Dark Fate" também marca o retorno do escritor / produtor James Cameron - que dirigiu os dois primeiros filmes ema franquia, mas não esteve envolvido nas três sequências que se seguiram. Cameron pula esses filmes e reinicia a saga com uma linha de tempo alternativa para o apocalipse robótico.

Embora máquinas monstruosas tenham figurado em tramas de filmes desde "Metropolis", de Fritz Lang, em 1927, a performance de Schwarzenegger em "The Terminator"prepara o cenário para preocupações com máquinas inteligentes fora de controle.

O bilionário técnico Elon Musk está entre os mais conhecidos caçadores de perdição."Continuo tocando a campainha de alarme, mas até as pessoas verem robôs descendo a rua matando pessoas, não sabem como reagir porque parece tão etéreo", disse Musk em 2017.

outro lado do debate, Oren Etzioni, CEO do Allen Institute for Artificial Intelligence, de Seattle, ou AI2, continua dizendo às pessoas para se acalmarem."Embora a IA esteja sendo cada vez mais usada, quero garantir às pessoas que a Skynet e o Terminator não estão ao virar da esquina por muitas e muitas razões", disse ele à GeekWire em 2016.

O novo "Terminator"”Atualiza a saga com todos os desenvolvimentos em IA, automação e robótica desde 1984?Como "Dark Fate" se compara às realidades de nossa era da IA?Para obter algumas perspectivas informadas, convidei duas pessoas que trabalham em campo para assistir ao filme comigo - e depois compartilham seus pensamentos.

Carissa Schoenick é gerente sênior de programas e diretora de comunicações da AI2 e trabalha comas equipes do Project Aristo e ReViz. Ryan Calo é professor de direito na Universidade de Washington e co-diretor do Laboratório de Políticas Tecnológicas da UW. Editei a transcrição do nosso bate-papo pós-filme por questões de clareza, clareza - e para reduzir spoilers -, mas se você não quiser ouvir nada sobre o enredo antes de assistir ao filme, pare aqui e volte. depois que você assistiu "Terminator: Dark Fate".

GeekWire: Os produtores e escritores e o resto da equipe por trás de "Terminator"Aprendeu alguma coisa desde os filmes anteriores?

Carissa Schoenick:" Sim ... Como já assumimos que essas IAs parecem ter motivações próprias, agora elas estão tentando representar uma IA que mostrao outro lado disso - que um Terminator poderia começar a entender as motivações humanas. Tipo, por que se preocupar em ter uma família?Ou por que se preocupar em cuidar de alguém?Foi revigorante vê-los tentando trabalhar em um ângulo de, já que estamos em um futuro em que robôs podem ser maus, por que não ter robôs que também podem aspirar a ser bons?Mas a ideia de ter robôs com motivação intrínseca é algo bastante tolo.A IA é uma ferramenta ou uma expressão dos humanos que a constroem. ”Ryan Calo:“ O que eu pensei que eles fizeram com esse aqui é que eles trouxeram várias tecnologias realmente confiáveis. Alguém volta do futuro com uma motivação terrível e essas capacidades horríveis, certo?Mas entra em um mundo cheio de câmeras e totalmente em rede, com ampla disponibilidade de armas.

“Como nos filmes anteriores, este parece estar comentando as capacidades tecnológicas atuais que temosconstruído que são perigosos, se você tivesse alguém com a motivação para aproveitá-los. Reconhecimento facial, drones, câmeras em todos os lugares, nossos telefones sendo dispositivos de rastreamento ... são questões contemporâneas interessantes.Não importa se é um robô do futuro ou um alienígena além das estrelas. Criamos um mundo em que algo que pode tirar proveito dessas possibilidades seria ainda mais perigoso e mortal. ”GeekWire: O filme aborda outros temas relacionados à IAe automação - por exemplo, robôs deslocando humanos no chão de fábrica e a ideia de humanos aumentados.É algo sobre o qual Elon Musk falou: se você não pode vencê-los, junte-se a eles. Se a IA vai assumir o controle, devemos aumentar primeiro a nós mesmos para que a AI seja integrada em nossos cérebros.

Schoenick: “Por que alguém iria querer fazer isso?Nem sequer entendemos como nosso próprio corpo funciona, na maior parte. Aumentar significativamente nossos corpos com a IA é bastante insano. Também me pergunto por dizer 'se você não pode vencê-los, junte-se a eles'. Quem são eles?Se colocarmos a IA em nossos corpos, eles não usariam a mesma integração mágica para invadir nossos corpos? ”GeekWire: Eu acho que você está dizendo que isso cria uma reviravolta interessante na trama, mas não muito mais do que isso.

Schoenick: "Sim".

Calo: "O que eu amo é que o Terminator é uma IA hiper-sofisticada que pode fazer tudo issoplanejando e perseguindo, mas então ele toma essas decisões realmente erráticas e terríveis. Como em todo veículo em que estou, vou arrancar o para-brisa e começar a disparar uma arma, e depois acabarei destruindo o que estou perseguindo e tomando decisões precipitadas e ridículas que não são bem treinadasuma rede neural faria. ”

Schoenick:“ Talvez seja uma boa ilustração de como quando a IA não está trabalhando com seres humanos, ela sai dos trilhos e é uma merda. Você sabe, como se realmente precisasse do elemento humano para manter a IA como uma ferramenta no caminho que precisa seguir. ”Calo:“ As estratégias do Terminator são relativamente simples: encontre e destrua. Mas se você pensa em robótica social e na capacidade dos robôs, especialmente quando eles são incorporados para aproveitar nossa tendência de antropomorfizar, há momentos em que o Terminator usa isso estrategicamente para obter o que deseja. ”

Schoenick: “Esse é um bom exemplo de representação de IA - como o programa Google Duplex, que pode marcar compromissos de corte de cabelo. Na AI2, dizemos: 'Ei, se houver um sistema de IA que personifique um humano ou que seja construído para personificá-lo, sentimos que ele deve se revelar àquele humano, porque você fará todos os tipos de suposições esinta uma certa maneira de interagir com uma criatura que você acha que é outro humano versus uma IA. 'Isso traz à consciência social que, se a IA começar a imitar os seres humanos, precisamos ser educados sobre isso.

“A capacidade dos humanos de pensar no futuro, planejar e ter esperança intrínseca é meio quetema deste filme. Continue planejando, continue fazendo alguma coisa, continue tentando sobreviver - enquanto a IA não tem essa força vital. Ele está disposto a se jogar fora ou explodir por sua missão. Agora, e no futuro próximo, a IA não é algo que 'encontramos'.Não é uma força maligna que surgiu do nada e está lutando contra nós.É uma ferramenta que estamos construindo e temos toda a agência lá. Portanto, tanto quanto podemos construir a IA para fins nefastos, podemos construí-la por razões positivas. ”Calo:“ Eu acho que uma IA verdadeiramente sofisticada enviada do futuro para matar alguém faria isso. de uma maneira muito mais eficiente e metódica, essa IA foi otimizada para um filme de James Cameron.É por isso que está rasgando as coisas.É por isso que está causando caos, uma e outra vez. ”Schoenick:“ Foi treinado em filmes de ação ”.

GeekWire: Você se preocupa com o fato de o filme reviver muitas coisas?equívocos sobre IA?Ou você sente que este é um momento de aprendizado?

Schoenick: “Há muita confusão acontecendo ao redor da IA. Eu acho que 'Terminator' é um clássico. Na verdade, apontamos isso como um exemplo canônico de medo da IA. Mas acho que filmes como esse - e a mídia também - podem levantar contrapontos, como 'Vamos pensar em como uma sociedade de vigilância pode realmente ser um problema ou como a automação pode afetar as pessoas comuns'.

"Apenas fazer as pessoas pensarem sobre isso e estarem cientes de todas as facetas da IA ​​em geral é uma maneira melhor de difundir essa coisa temível e desconhecida do oráculo que estamos desenvolvendo com a IA.'Terminator' não é um filme educacional, mas pelo menos eles estão tocando em algumas dessas idéias.E essas idéias são o que nós, como sociedade, teremos que pensar, para ter uma abordagem sensata para lidar com a IA no futuro. "

Calo:" Uma coisa que foi lamentável: a certa altura,eles falam sobre fritar a 'rede neural' do Terminator, mas não é uma rede neural. Uma rede neural é um modelo treinado.A idéia de que as redes neurais atuais vão evoluir para essa coisa ... ”

Schoenick: “Sim, 'a rede neural é ruim'.É uma palavra da moda, e quando as pessoas ouvem isso no filme, ficam tipo 'Ah, eu sei o que é isso'.É um desses truques. ”GeekWire: Então, quantas estrelas você daria 'Terminator: Dark Fate' como um filme de ação e um momento de aprendizado para a IA, com quatro estrelas no topo?/ p>

Schoenick: “Eu daria 3 estrelas como filme de ação, porque teve uma perseguição de avião, o que é bem legal. Eu nunca vi um avião militar gigante de verdade perseguir antes. Eles trabalharam em vários tipos de acidentes - helicópteros, uma represa. Você vai conseguir o que quer de um filme de ação e um pouco de nostalgia.

“Mas como um filme útil de IA, eu vou dar um 1. Isso realmente não inspiramuito na maneira de avançar a conversa sobre IA.

Calo: “Eu também daria 3 para um filme de ação. Eu daria um 2 para a tecnologia. Todo mundo sabe que viajar no tempo é uma fantasia, certo?O mesmo acontece com a nanotecnologia, para alcançar um estágio em que você pode simplesmente reconstituir algo arbitrariamente. Uma super inteligência espontaneamente maligna também é provavelmente uma fantasia, pelo menos durante a vida dos atores retratados.

“Eu gostei do fato de o filme estar chamando a atenção para os perigos do reconhecimento facial, vigilância por drones e interconectividade. Eu acho que está fazendo muito bem em termos de sinal de alarme. Mas acho que falhou, porque propositalmente tenta colocar a super-inteligência super-maligna na mesma categoria que o estado de vigilância, em vez de onde está a categoria apropriada, que está ao lado da viagem no tempo. Na verdade, estou mais confiante de que vamos viajar no tempo, pessoalmente. ”

Via: Geek Wire