Perguntas e respostas: Presidente da Microsoft, Brad Smith, sobre parceria internacional "histórica" ​​para frear o extremismo online

Seis semanas atrás, o presidente da Microsoft, Brad Smith, conversou com a primeira-ministra da Nova Zelândia, Jacinda Ardern, para discutir como prevenir a disseminação online de um ataque violento, como o que acabara de acontecer em Christchurch. .

Esse foi o começo do que se tornaria uma parceria entre nações em todo o mundo e várias das empresas de tecnologia mais poderosas dos EUA.

Na quarta-feira, Microsoft, Amazon, Facebook, Google, e o Twitter uniu forças com os líderes da França, Nova Zelândia, Reino Unido e outros para formar a “chamada de ação de Christchurch”. Eles lançaram a nova coalizão em um evento em Paris. Envolve uma ampla gama de compromissos das empresas de tecnologia dos EUA para conter a disseminação de conteúdo extremista violento em suas plataformas.

O GeekWire conversou com Smith por telefone após o evento. Continue lendo para a nossa conversa editada sobre o chamado à ação de Christchurch.

GeekWire: Como foi essa manhã?

Brad Smith: Tudo correu bem. Na verdade, foi uma reunião de importância real e talvez histórica. Nós tivemos nove chefes de estado e os líderes de várias empresas de tecnologia se reúnem no Eliseu, que é basicamente a Casa Branca francesa. É onde o presidente Macron vive e trabalha. Foi tudo para assinar e adotar este apelo à ação de Christchurch para abordar os problemas de conteúdo violento extremista online, para tentar evitar o que o mundo testemunhou há dois meses em Christchurch, com a terrível tragédia e o ataque terrorista de então. h4] Aprofundar: Microsoft, Amazon, Facebook e outros gigantes da tecnologia se comprometem a reprimir o extremismo violento na 'chamada de ação de Christchurch'

Além disso, havia cinco empresas - Amazon, Facebook, Google, Microsoft e o Twitter - que anunciou que estávamos dando nove passos concretos para implementar os tipos de princípios e compromissos que estão no chamado de Christchurch.

Eu não acho que vimos esse tipo de ação coletiva com governos e empresas de tecnologia se unindo dessa maneira. Acho que foi um marco importante e é uma base para progressos adicionais que precisarão ser feitos nos próximos meses.

GeekWire: Alguns dos compromissos parecem coisas que a Microsoft e as outras empresas envolvidas já estão fazendo. fazendo. Você pode resumir brevemente o que há de novo aqui?

Smith: Claro, se você olhar para os nove compromissos, cada um deles se baseia no trabalho em curso, mas em cada caso leva mais longe. O primeiro diz que vamos rever e reforçar nossos termos de serviço para melhor proteger contra o uso de nossos serviços para esses tipos de terroristas ou atos violentos extremistas. Em segundo lugar, estamos apertando nossos controles humanos. Nós da Microsoft já tomamos medidas para fazer isso nos últimos dois meses e continuaremos com isso. Continuaremos a fortalecer nossos controles de tecnologia. Uma das lições de Christchurch é que, embora as empresas tenham controles de tecnologia em vigor, elas obviamente não foram suficientes em toda a indústria para interromper o upload desse vídeo. Quarto, você verá várias empresas tomando novas medidas para oferecer melhores garantias em relação ao uso de livestreaming. O Facebook anunciou novas salvaguardas na semana passada. Nós da Microsoft estamos nos concentrando nisso também.

E, finalmente, em uma área de ações individuais, começaremos a publicar relatórios de transparência. Não temos relatórios de transparência que abordem este tópico. Então, isso é novo também. Na área de ação coletiva, não temos um protocolo de crise em toda a indústria para esses tipos de atos terroristas ou atos violentos extremistas. Vamos desenvolver isso e colocá-lo no lugar.

Todos reconhecem que, em geral, precisaremos tornar a tecnologia mais poderosa, porque uma das coisas que a O incidente de Christchurch realmente mostrou que, neste caso, os indivíduos, infelizmente, estavam identificando maneiras de contornar os controles existentes. Nós vamos precisar de uma tecnologia melhor para proteger contra isso.

Nós realmente colocamos uma estaca no chão hoje e dissemos que, como indústria, não queremos fazer da proteção contra o terrorismo um ponto de competição mas sim um elemento de cooperação em toda a indústria. Estamos vendo coisas como conjuntos de dados abertos e desenvolvimento aberto e software de código aberto como avanços que podem ajudar as empresas grandes e pequenas a resolver esse problema. Então, nas áreas de educação e pesquisa mais ampla, obviamente temos problemas que a indústria ainda não resolveu de forma eficaz. Precisamos claramente de mais trabalho e essas etapas nos ajudarão a atender a essa necessidade.

GeekWire: O conteúdo terrorista é algo bem específico, mas o extremismo pode ser difícil de definir. Eu sei que empresas como o Twitter têm lutado com isso, por exemplo. Então, como essa coalizão de empresas definirá o extremismo entre as diferentes organizações e tomará medidas para pará-lo? Smith: Primeiro de tudo, acho que a pergunta que você faz é importante e há dois aspectos para a resposta . A primeira parte é que não é necessariamente um foco no extremismo em todas as formas, mas sim em conteúdo violento extremista ou conteúdo extremista violento, como é dito com mais frequência. O que realmente é é um foco em representações de violência que estão sendo perpetuadas para avançar em causas extremistas; pelo menos isso ajuda a diminuir um pouco. Isso não elimina a necessidade de focar na questão que acho que você está perguntando corretamente, mas foca a quantidade de conteúdo ou o tipo de conteúdo que é necessário abordar.

Em segundo lugar, acho que Sua pergunta realmente aponta é a importância fundamental de avançar este trabalho com uma parceria completa com a sociedade civil e os direitos humanos e grupos de liberdade de expressão. Temos que ter muito cuidado para não irmos longe demais em pisar na liberdade de expressão legítima e temos que tomar cuidado para não desencadear conseqüências não intencionais que poderiam ser usadas por governos autoritários para realmente tentar sufocar o discurso legítimo. Esse é um problema central que precisa ser tratado de maneira geral, mas é um problema que precisa ser abordado com um nível importante de cuidado.

GeekWire: Parece meio que um alvo em movimento. É possível ficar à frente deste problema? Smith: O mundo está se movendo. A maioria dos alvos no mundo está se movendo como resultado. Eu acho que é possível nos anteciparmos ao problema. Não acho que podemos progredir e depois presumir que, se parássemos de fazer algo mais, ficaríamos à frente. Infelizmente, a natureza dos desafios tecnológicos como esse é que o setor toma novas medidas ou os governos tomam novas medidas e, em seguida, terroristas, criminosos ou outros atores mal-intencionados tomam novas medidas em resposta.

O que isso realmente reflete é que a segurança tornou-se uma questão muito mais importante e abrangente para a indústria. Se você olhar nos últimos anos, falamos sobre privacidade e segurança como sendo dois problemas primordiais on-line. Acho que agora estamos entrando em uma fase em que sua privacidade, segurança e segurança precisam ser consideradas como três questões primordiais que precisaremos continuar investindo e abordando continuamente.

GeekWire: Quem iniciou essa parceria? Smith: A primeira coisa que eu diria é que foi realmente um esforço coletivo e colaborativo de várias empresas em todo o setor e de todos que vieram hoje, especialmente Cinco empresas que estão tomando essas medidas merecem muito crédito. Eu particularmente quero aplaudir uma empresa como a Amazon que poderia ter ficado em casa e disse: "Veja, nossos serviços não foram usados ​​em um grau significativo. Não precisamos fazer parte da solução para esse problema. ”O fato de a Amazon ter se adiantado é uma grande ajuda para o resto do setor e um verdadeiro crédito para a própria Amazon.

As conversas para montar o chamado de Christchurch começou quando eu estava em Wellington, na Nova Zelândia, há cerca de seis semanas e tive uma reunião com a primeira-ministra Jacinda Ardern. Ela estava interessada em explorar o que poderia ser feito para evitar que esse tipo de ataque fosse encenado na internet no futuro. Conversamos sobre o apelo de Paris para a confiança e a segurança no ciberespaço, lançado em Paris há seis meses. Isso é semelhante, pois é uma iniciativa com várias partes interessadas. Nós consideramos um modelo que poderíamos construir e realmente se tornou o modelo para o que então se tornou o chamado de Christchurch.

GeekWire: É interessante que a Amazon tenha intensificado porque o tópico que estamos falando é um pouco tangencial aos seus negócios. Estou curioso para saber por que a Apple não estava envolvida.

Smith: Você teria que perguntar isso à Apple. Não estou em condições de falar por eles ou aplaudi-los.

GeekWire: Como as empresas que participam da parceria se responsabilizam a essas metas?

Smith: Uma das coisas sobre as quais falamos hoje é o que fazemos em seguida, porque de muitas formas, este é o último dia dos dois primeiros meses desde o ataque de Christchurch. Esses ataques ocorreram há dois meses hoje. Mas também havia um foco hoje no que poderia ser realizado nos próximos quatro meses também. Vai haver uma reunião importante na Jordânia em junho. Haverá a reunião do G7 na França em agosto. Haverá na reunião da Assembléia Geral da ONU em Nova York em setembro.

Houve uma discussão nesta manhã em uma mesa redonda com as empresas que foi organizada pelo Primeiro Ministro da Nova Zelândia e o Rei da Jordânia para falar sobre o que pode vir a seguir. Conversamos sobre questões específicas e acho que todos reconhecemos que precisamos seguir em frente. Precisamos criar uma estrutura institucional para dar suporte a todas essas etapas. Precisamos trabalhar com as medidas concretas necessárias para ter um protocolo de crise que seja eficaz na prática. Precisamos trabalhar com os interesses do governo em como os algoritmos podem afetar a disseminação do extremismo ou do terrorismo on-line. Há um foco real aqui e um amplo reconhecimento de que mais reuniões serão necessárias. Usaremos essas reuniões para continuar a garantir que todos permaneçamos responsáveis ​​por acompanhar e fazer mais.

GeekWire: Há mais alguma coisa que você acha que devemos saber?

Smith: A outra coisa que eu diria é que eu acho que o chamado de Christchurch é importante e muito provavelmente histórico para a evolução da tecnologia. A necessidade disso é um reflexo da maneira infeliz como a internet, na verdade, foi armada pelo terrorista que desencadeou o massacre em Christchurch dois meses atrás. O que o chamado de Christchurch representa é um novo modelo para abordar esses tipos de problemas e desafios tecnológicos. É um modelo que desenvolvemos com o apelo de Paris quando concluímos que os problemas do século 21 realmente exigem que não apenas os governos trabalhem juntos, mas que os governos também trabalhem em conjunto com o setor de tecnologia e com grupos da sociedade civil. < Portanto, na verdade, a próxima era da diplomacia multilateral é realmente a diplomacia de múltiplas partes interessadas. Essa foi a receita para o telefonema de Paris. Essa foi a receita para a convocação de Christchurch e uma das coisas que estamos efetivamente construindo é uma nova capacidade que podemos usar colaborativamente em todo o mundo para tratar de novas preocupações à medida que elas surgem. É provável que seja algo que tenhamos que recorrer novamente apenas por causa do impacto onipresente da tecnologia e da maneira como ela está conectada com tantas questões ao redor do mundo, mas isso torna ainda mais importante desenvolver esses novos tipos de recursos. .

GeekWire: Há riscos para grandes empresas de tecnologia privadas se engajarem na diplomacia neste nível?

Smith: Em um certo nível, há riscos e desafios com tudo o que se faz na vida e especialmente sempre que alguém faz algo novo. Sempre que alguém tenta ajudar a resolver um problema, há sempre certos riscos de que você será responsabilizado se o problema não for completamente resolvido e esses são problemas que ninguém pode resolver completamente.

Precisamos entrar nesses desafios com os olhos bem abertos. Mas acho que o maior risco é não fazer nada. Se não fizermos nada para enfrentar esses desafios, eles vão piorar. O que temos que fazer é seguir em frente, mas acho que temos que ser atenciosos. Temos que desenvolver novas capacidades. Temos que ser inteligentes sobre o trabalho que estamos fazendo e, francamente, provavelmente precisaremos reconhecer que há muito poucas boas ações que ficam completamente impunes. Haverá dias em que até mesmo fazer parte da solução cria uma parcela de desafios em si, mas isso faz parte do território que temos de abordar, na minha opinião.

Via: Geek Wire