O Microsoft Project Artemis examinará os chats em busca de sinais de exploração infantil

Assim como a Internet capacita as pessoas, conectando-as ao conhecimento e entre si, infelizmente também capacita indivíduos menos conscientes a realizar atividades ilegais no anonimato. A exploração sexual, especialmente de menores, é um dos problemas de longa data para autoridades e empresas da Internet, e sua complexidade desafia as soluções convencionais. A Microsoft está enfrentando o desafio com uma nova ferramenta chamada Projeto Artemis, que tentará procurar sinais de limpeza on-line que possam levar à exploração infantil.

Você pode associar a palavra "limpeza" à atividade física de limpeza, mas a limpeza on-line é exatamente o oposto. Envolve técnicas enganosas ou indiretas para atrair as crianças para uma sensação de segurança, apenas para abusá-las mais tarde online.

Grande parte dessa preparação envolve conversar com a vítima, o que acaba sendo um tesouro para a Microsoft liberar seus conhecimentos sobre IA. Ele não aborda os detalhes técnicos da Artemis além de como é aplicado ao texto histórico do bate-papo, também conhecido como logs de bate-papo, e classifica cada um de acordo com a probabilidade de conter a aparência de crianças. As empresas de bate-papo que usam a tecnologia podem então analisar o bate-papo e determinar se ele deve ser enviado para revisão humana e, se necessário, alertar as autoridades.

A Microsoft diz que implementa a tecnologia no Xbox há anos e pode aplicá-la em breve ao Skype. Também está licenciando a tecnologia via Thorn, uma organização sem fins lucrativos que visa construir tecnologia para combater o abuso sexual de menores.

Pode haver algumas preocupações sobre como o Project Artemis pode ser usado para violar a privacidade do usuário, embora o tópico privacidade e atividade ilegal online sempre tenha sido um assunto espinhoso. Deveria, pelo menos, dar aos possíveis infratores uma pausa para reflexão, mas também não deve ser usado como uma cobertura para comprometer a integridade de pessoas inocentes. Como sempre, é necessário um equilíbrio cuidadoso ao colocar essas ferramentas nas mãos das empresas.

Via: Slash Gear