Assistentes inteligentes podem ter nos deixado mais relaxados sobre privacidade

Provavelmente, não há muito debate sobre se os assistentes inteligentes com inteligência artificial se tornaram muito úteis. Eles começaram como uma boa diversão, mas sem muita utilidade e às vezes até se tornaram alvo de piadas graças aos comandos mal-intencionados. Hoje em dia, no entanto, Amazon Alexa, Google Assistant e Apple Siri se tornaram uma parte normal da vida moderna da tecnologia, com ou sem alto-falantes inteligentes envolvidos. Mas, apesar de toda a sua utilidade e ajuda, esses serviços podem ter deixado as pessoas menos vigilantes sobre o que dizem e fazem e, ao que parece, essas declarações secretas podem não ser tão secretas.

A verdade sobre os alto-falantes inteligentes

Eles podem parecer dispositivos mágicos que exprimem uma vibe de Star Trek, mas, no início, os alto-falantes inteligentes eram motivo de chacota do mundo da tecnologia. Poucos sabiam o que fazer do Amazon Echo e seu estranho corpo cilíndrico. Antes que soubéssemos, graças ao marketing agressivo das empresas, os gostos do Echo, do Google Home e do HomePod tornaram-se comuns entre os técnicos.

Mais e mais aparelhos e acessórios começaram a integrar esses assistentes inteligentes, a maioria deles oferecendo um mundo de conhecimento e controle com o apertar de um botão ou com a queda de uma frase-gatilho.

O último é a conveniência final, já que você só tem que dizer a palavra e, como um gênio, a resposta, se existir, é entregue aos seus ouvidos. Mas essa conveniência não acontece por mágica. Tecnicamente, isso exige que esses dispositivos, especialmente os alto-falantes inteligentes, estejam sempre ouvindo.

Os fabricantes de alto-falantes inteligentes, é claro, insistem e esclarecem que os palestrantes não estão gravando todos esses momentos e que só começa realmente a analisar ou a gravar a fala depois de ouvir a frase-gatilho. Infelizmente, é exatamente aí que o problema começa.

Diga isso de novo?

Apesar de décadas de reconhecimento de voz e fala, os assistentes inteligentes são quase infalíveis mesmo ao distinguir seus próprios nomes. Pode ser uma piada que os assistentes de IA possam interpretar erroneamente certas frases para seus gatilhos, mas isso tem sérias implicações.

Se um smart assistant só iniciar a gravação de clipes de áudio após o acionamento ter sido dito, isso significa que ele também registrará tudo o que foi dito após essas interrupções acidentais, independentemente de o usuário estar ciente disso ou não.

Isso, de fato, leva a pelo menos uma instância embaraçosa onde certas conversas foram gravadas e enviadas para algum contato aleatório. Tais gatilhos acidentais também são usados ​​para justificar a alimentação de assistentes de IA com dados, ou seja, a apresentação de gravações de amostra para empresas, a fim de melhorar seu atendimento. O que essas empresas realmente não dizem aos usuários é o que está envolvido nesse processo.

Aprendizagem de máquina assistida por humanos

Considerando como ela é retratada pela mídia, muitas pessoas veem AI e aprendizado de máquina como um molho mágico que faz com que cada pedaço de software inteligente. Alguns, pelo menos, estarão cientes das complexas e massivas quantidades de processamento de dados envolvidas para chegar àqueles feitos impressionantes de magia computacional. Por causa disso, poucos imaginam a quantidade de intervenção humana direta envolvida no treinamento desses assistentes de IA.

Ao contrário de outros aplicativos de aprendizado de máquina, os assistentes inteligentes não podem simplesmente trabalhar em conjuntos de dados completamente aleatórios. Para serem verdadeiramente úteis e relevantes, eles têm que trabalhar em palavras e frases faladas. Às vezes, eles podem errar, e é aí que entra o elemento humano.

Ao contrário de outros aplicativos de aprendizado de máquina, os assistentes baseados em AI precisam ser informados de que erraram, para que possam melhorar e ouvidos humanos para fazer isso. Infelizmente, esse é o segredo sujo que a indústria mantém até ser exposto recentemente.

As paredes têm ouvidos

Pode parecer um caso para boicotar imediatamente essas tecnologias, mas, vamos encarar, isso nunca vai acontecer. Não só eles já estão muito arraigados na vida moderna e na consciência, mas esses assistentes inteligentes e os dispositivos inteligentes que eles vêm também provaram ser verdadeiramente úteis.

Palestrantes inteligentes são apenas o foco mais recente de escrutínio. Os smartphones já vêm fazendo o mesmo há alguns anos. Muito em breve, qualquer coisa e tudo vai amarrar em assistentes inteligentes ou até mesmo tê-los embutidos. Logo tudo e qualquer coisa estarão conectados.

Em vez de abandonar todos os avanços modernos, os usuários, desenvolvedores e defensores da privacidade devem aproveitar a oportunidade para orientar o setor nascente enquanto ainda não é tarde demais. As empresas devem ser responsabilizadas e devem divulgar práticas que ponham em risco a privacidade dos usuários de qualquer forma.

Os usuários também devem estar cientes dos riscos que estarão assumindo para que possam tomar decisões fundamentadas sobre a aceitação ou não dessas conveniências. Como sempre, a vigilância é o preço que deve ser pago para proteger a liberdade e a privacidade. Infelizmente, embora as violações de privacidade e privacidade sejam sempre tópicos importantes, poucos levam isso a sério.

Via: Slash Gear