Microsoft lança ferramenta para escanear aplicativos de bate-papo em busca de predadores sexuais que procuram explorar crianças

A Microsoft usa a técnica de detecção de grooming com o codinome Project Artemis para monitorar os chats do Xbox há anos. (GeekWire Photo / Monica Nickelsburg)

A Microsoft lançou na quinta-feira uma nova ferramenta que analisa bate-papos on-line para pessoas que procuram explorar sexualmente crianças. Faz parte de um esforço mais amplo da indústria de tecnologia para reprimir os perigos que as crianças enfrentam on-line.

Com o codinome "Project Artemis", o serviço verifica conversas históricas para padrões que indicam que um predador está cuidando de crianças para abuso sexual.

O Project Artemis parte de uma patente da Microsoft e usa dados históricos de bate-papo para atribuir classificações de probabilidade às conversas. As empresas que usam a ferramenta podem usar a classificação para determinar se um moderador humano deve intervir para revisar uma conversa.

A Microsoft tem usado a técnica para monitorar bate-papos na plataforma Xbox para anos. A gigante tecnológica de Redmond, Washington, está considerando incorporar o Project Artemis em seus outros serviços de bate-papo, como o Skype.

"'Project Artemis' é um passo significativo, mas não é uma panacéia" disse a chefe de segurança digital da Microsoft, Courtney Gregoire, em um post no blog. “A exploração e abuso sexual infantil online e a detecção de cuidados infantis online são problemas pesados. Mas não estamos intimidados pela complexidade e complexidade de tais problemas. ”

A Microsoft desenvolveu a ferramenta em colaboração com o The Meet Group, Roblox, Kik e Thorn. A Microsoft está disponibilizando o Project Artemis para serviços on-line de terceiros que possuem funcionalidade de bate-papo e usam a Thorn, uma organização sem fins lucrativos que desenvolve tecnologia para proteger as crianças contra abuso sexual on-line. Thorn começará a licenciar a tecnologia para outros serviços esta semana.

Dr. Hany Farid, o acadêmico por trás da ferramenta PhotoDNA da Microsoft, liderou o desenvolvimento do Projeto Artemis. O PhotoDNA digitaliza as imagens em busca de evidências de exploração sexual infantil.

Via: Geek Wire