Os chatbots desonestos da AI surgirão em 2019? Veja o que assistir e ouvir no ano novo

Infelizmente, esse novo nível de IA habilitada para voz poderia levar os chatbots desonestos ao próximo nível. Se você acha que está falando com um humano, tenderá a ser mais confiante do que com um programa de computador. Os chatbots falantes de linguagem natural podem ajudar a automatizar e dimensionar os scams cibernéticos em um grau muito maior.

Por exemplo, você pode ter ouvido falar, ou até mesmo recebido, de uma chamada de esquema de suporte da Microsoft. Algumas pessoas chamam você aleatoriamente, alegando ser representante de suporte da Microsoft, avisando que eles viram uma atividade incomum no seu computador. Eles tentam coagi-lo a criar um desktop remoto para que eles possam "consertar", quando, na verdade, eles estão invadindo seu computador. Se você receber uma ligação desse tipo, desligue.

Em qualquer caso, uma das poucas coisas que impedem que esse tipo de telefone afete os danos em larga escala é o fato de que um cibercriminoso humano precisa manualmente ligue e interaja com todas as vítimas. Imagine, em vez disso, um AI tipo Duplex programado para automatizar esse tipo de chamada. Agora, criminosos cibernéticos podem lançar milhares de tentativas de golpes de uma só vez. Fica pior ...

Recentemente, pesquisadores e empresas como a Lyrebird usaram aprendizado de máquina e inteligência artificial para replicar a imagem de voz ou vídeo das pessoas. Usando apenas 30 frases gravadas ou toneladas de vídeos disponíveis publicamente, pesquisadores e invasores podem fazer um computador soar como uma pessoa que você conhece e controlar exatamente o que o computador fala sobre o chatbot.

Isso pode permitir para lançar vítimas de phish em escala. Imagine chamadas de “seu chefe” pedindo para você fazer transferências eletrônicas e dar respostas dinâmicas e confiáveis ​​para todas as suas perguntas de acompanhamento. Embora você possa pensar duas vezes sobre essa transferência bancária de US $ 20.000 solicitada por e-mail, provavelmente reagiria de forma diferente se recebesse um pedido verbal convincente do seu chamado chefe.

Como se defender de uma IA desonesta chatbots

Agora que você imaginou nosso futuro “sombrio” cheio de chatbots desonestos e com inteligência artificial, você provavelmente está se perguntando como pode evitar ou derrubar “Skynet”. Veja alguns conselhos práticos que você pode use para se defender contra ataques de chatbot desonestos de curto e longo prazo.

No curto prazo, use produtos de segurança que filtrem o tráfego da Web em busca de atividades maliciosas. Seja um appliance de segurança de rede, um firewall de DNS ou um pacote de segurança baseado em host, há produtos que bloqueiam automaticamente todos os links da Web e endereços IP que você possa visitar. Esses produtos impedem que você visite sites maliciosos na Internet, mesmo que acidentalmente clique em um link enviado por um chatbot mal-intencionado.

Se você for um usuário experiente, também recomendaria extensões do navegador como NoScript ou ScriptSafe. Essas extensões impedirão que qualquer site da Web execute scripts até que você as permita. Embora eles demorem um pouco para treinar, eles oferecem uma maneira de impedir que sites legítimos executem scripts maliciosos injetados com links para domínios externos. Em outras palavras, eles poderiam impedir que um chatbot malicioso fosse injetado em um site legítimo.

Para o longo prazo, a vigilância e a regulamentação são as nossas melhores esperanças. À medida que os computadores se tornam melhores em fala natural, mesmo passando no teste de Turing, as campanhas automatizadas de ataque de engenharia social vão explodir. Isso significa que teremos que ficar mais alertas e céticos quando falarmos com novas "pessoas", caso contrário, talvez não percebamos que estamos nos apaixonando por uma fraude baseada em computador.

Além disso, os governos têm para promulgar novas leis que forçam “robôs” a se anunciarem antes de falar com humanos. Durante o primeiro teste Duplex do Google, a AI de voz não se identificou, e você poderia dizer ao destinatário humano que ele estava totalmente inconsciente de que estava falando com um computador. No entanto, durante uma segunda demonstração, o assistente da IA ​​se identificou, provavelmente em resposta ao medo da primeira demo e de novas leis como a da Califórnia, que exigem que os bots se identifiquem. O desenvolvimento da IA ​​e a linguagem natural as melhorias de fala nas quais essa previsão é baseada são inovadoras e empolgantes, e aguardo com expectativa a evolução contínua das máquinas com controle de voz e resposta. No entanto, como toda a tecnologia, os chatbots oferecem uma oportunidade igual para o bem e o mal. Você não deve temer chatbots alimentados por IA, mas você deve ficar de olho em ceticismo sobre eles, caso eles sejam desonestos no próximo ano.

Via: Geek Wire