Presidente da Microsoft, Brad Smith: O setor de tecnologia precisa enfrentar a responsabilidade e adotar a regulamentação

O presidente da Microsoft, Brad Smith, tem um globo iluminado, uma miniatura azul-neon da Terra, girando em sua mesa dentro da sede da empresa em Redmond. Quando nos sentamos com ele esta semana, ele notou algo errado com isso.

“Isso sempre me deixa nervoso quando o globo está virando na direção errada. Como, 'tsumanis estão chegando!'- ele disse, estendendo a mão para girar a esfera azul para o outro lado."Aqui vamos nós.... Foi consertado. ”

Não será tão fácil fazer com que a indústria de tecnologia e o resto do mundo real girem na mesma direção. Isso está claro no novo livro de Smith. Mas ele diz que é imperativo colocar o processo em andamento agora.

"O setor de tecnologia precisa acelerar e fazer mais para enfrentar os desafios que a tecnologia está criando", diz ele.“Ao fazer isso, ele precisa reconhecer que, em parte, exige que as empresas trabalhem mais de perto com os governos. Isso exige, até certo ponto, o que eu chamaria de uma abordagem inteligente da regulamentação, para que a tecnologia seja, entre outras coisas, governada por lei. ”

Em" Tools &Weapons: The Promise and the Peril of the Digital Age ”, a executiva de longa data da Microsoft e sua co-autora Carol Ann Browne contam a história interna de alguns dos maiores desenvolvimentos da tecnologia e do mundo na última década - incluindo a reação da Microsoft aoRevelações de Snowden, sua batalha com hackers russos antes das eleições de 2016 e seu papel no debate em andamento sobre tecnologia de privacidade e reconhecimento facial.

O livro está nos bastidores das Casas Brancas de Obama e Trump, explora as implicações da onda iminente de inteligência artificial e apela aos gigantes e governos da tecnologia para que se preparem para os desafios éticos, legais e sociais de novas e poderosas formas de tecnologia ainda por vir.

Discutimos muitos desses tópicos nesta conversa com Smith sobre o novo livro deste episódio do Podcast GeekWire, e continuaremos a conversa com Smith na próxima GeekWire Summit.

Ouça acima, inscreva-seseu aplicativo de podcast favorito e continue lendo para obter uma transcrição editada.

Todd Bishop: Uma coisa que surpreenderá as pessoas é o poleiro a partir do qual você pode ver não apenas o setor de tecnologia,não apenas o mundo, mas realmente a humanidade, alguns dos maiores problemas que a humanidade enfrenta. Eu acho que as pessoas podem não esperar que o presidente da Microsoft tenha essa visão sobre esses assuntos que importam muito para tudo, além da tecnologia. Essa é uma das minhas principais conclusões do livro. Por que esse livro e por que agora? Brad Smith: Eu acho que, até certo ponto, Todd, você acertou parte do prego na cabeça. Toda a razão pela qual temos o poleiro que fazemos é que a tecnologia está varrendo o mundo, está mudando o mundo. Carol Ann Browne, minha co-autora, trabalha comigo em todas as minhas relações externas. Isso significa que viajamos pelo mundo. Assim como fazemos e nos reunimos com líderes de todo o mundo, o que realmente vemos é o incrível impacto que a tecnologia está tendo de muitas maneiras boas, mas também de maneiras desafiadoras.O que nos motivou a escrever o livro em parte foi um verdadeiro senso de urgência que tentamos fazer todos esses desenvolvimentos e essas questões - da privacidade e segurança ao impacto da IA ​​nos empregos - mais acessíveis às pessoas e tornar ocaso dos tipos de mudanças que achamos necessárias.

TB: Se você explicasse a tese central do livro, qual seria?

TB: Uma das coisas que é extremamente marcante no livro, evocê não declara necessariamente isso explicitamente, mas em muitos países o governo está indo em uma direção, na direção do nacionalismo.A indústria da tecnologia e a economia, em muitos casos, estão indo em uma direção completamente oposta, o globalismo. Onde isso vai acabar?Porque não parece que essas duas coisas são compatíveis.

Brad Smith: Bem, um dos pontos que de fato destacamos no livro é o que você acabou de mencionar. De muitas maneiras, parece que as democracias do mundo em particular são mais desafiadas do que em qualquer momento do que dizem os anos 1930. Os países estão puxando para dentro.Há um aumento no nacionalismo. Tudo isso ocorre em um momento macroeconômico em que o mundo está indo bem; portanto, todos devemos nos preocupar com o que acontecerá politicamente se houver recessões em todo o mundo. Parte do nosso argumento é que, quando você pensa sobre as questões sobre as quais todos passamos um tempo falando - seja comércio, imigração, desigualdade de renda ou globalização - até certo ponto, todos esses fenômenos estão acontecendo em parte por causa da tecnologia.É a tecnologia, como você diz, que está impulsionando a globalização e, em seguida, está desencadeando essas respostas quando as pessoas vêem as preocupações. Mas não necessariamente falamos o suficiente ou pensamos o suficiente sobre o papel que a tecnologia está desempenhando, daí nosso esforço para fazê-lo.

TB: O outro ponto que você destaca éque não apenas as empresas de tecnologia precisam fazer mais para trabalhar juntas para colaborar com o governo, mas o governo precisa pensar de maneira diferente. Uma das frases que ficou comigo no livro foi a regulamentação mínima viável. As pessoas no mundo da tecnologia estarão familiarizadas com MVPs, produtos mínimos viáveis, produtos mínimos viáveis. Como isso se traduz no mundo das leis e regulamentações governamentais? Bradp Smith: Será fascinante ver como as pessoas nos círculos governamentais reagem a esse conceito. Como você ressalta, como você sabe, muitas vezes no mundo do software, as pessoas se concentram não na criação do produto mais completo e complexo, mas com um produto mínimo viável primeiro. Eles recebem feedback e, em seguida, usam esse feedback para melhorar o produto. Na verdade, acreditamos que isso tem algo a oferecer ao mundo da regulamentação tecnológica.

Nós, por exemplo, no livro falamos sobre como ele pode ser usado para resolver o problema de preconceitos e discriminação quando se trata desoftware de reconhecimento facial. Hoje é realmente difícil dizer que qualquer um de nós sabe exatamente como será uma lei ampla de reconhecimento facial em cinco anos. Mas nosso argumento é que, mesmo que houvesse apenas uma lei direta que exigisse que as empresas que desejam oferecer um serviço de reconhecimento facial disponibilizassem seus serviços para testes, você criaria o equivalente ao Consumer Reports que avaliaria o viés em diferentes serviços. Você estimularia o mercado a agir de maneira bem informada para recompensar as empresas que se movem mais rapidamente para reduzir o viés. Esse é um ótimo exemplo em nossas mentes, pelo menos de onde o governo poderia avançar mais rapidamente de uma maneira mais focada e depois aprender. Então, como descobre, pode ser adicionado a uma regulamentação no futuro.

TB: Porque agora é o oposto do governo. Você é conhecido em parte por aparecer em uma audiência no congresso com o laptop IBM original que foi fabricado no mesmo ano em que foi feita a regulamentação sobre a qual você estava testemunhando. Existe, no entanto, um risco de que o governo possa agir rápido demais, porque parte do problema que as empresas de tecnologia enfrentaram é que estão se movendo rapidamente e quebrando as coisas, e não queremos que nosso governo faça isso.

reconhecimento facial

TB: A Microsoft apresentou essencialmente os princípios e os fundamentos fundamentais da legislação para reconhecimento facial. Você escreve no livro que o reconhecimento facial é uma das primeiras oportunidades para o setor de tecnologia e os governos abordarem as questões éticas da IA ​​de uma maneira focada e concreta agora. Mas onde está isso, porque você lutou para conseguir isso.

Brad Smith: Bem, é interessante.A primeira coisa que eu diria é que é muito cedo para a lei e regulamentação do reconhecimento facial.Nós, como empresa, realizamos a primeira chamada, por assim dizer, para mais trabalho nessa área, e isso foi apenas no ano passado. Foi em julho de 2018. Então, o que também é interessante é ver a rapidez com que o problema de reconhecimento facial tem sido rápido. Quando dissemos pela primeira vez que este era um problema que exigiria um esforço mais concentrado dos governos, muitas pessoas no setor de tecnologia nos disseram: “Por que você está falando sobre isso?Isso não é um problema. ”No entanto, agora vimos a cidade de São Francisco, literalmente ao lado do Vale do Silício, proibir o uso público do reconhecimento facial nos limites da cidade.

Claramente, há algo aqui que éincomodando as pessoas. Esperávamos que alguma legislação fosse aprovada no estado de Washington este ano de 2019. Fizemos no Senado, não em casa. Uma coisa que acho que podemos dizer com muita segurança é que esse problema não vai desaparecer.A ACLU está se esforçando bastante. Muitas organizações são. Debateremos as regras de reconhecimento facial, provavelmente pelo resto de nossas vidas e provavelmente de uma maneira muito robusta para a próxima década.

TB: Quando você pensa em IA amplamente, ou seja, dedica-sePenso que pelo menos três capítulos independentes da IA ​​e várias implicações disso. Pareceu-me que você é essencialmente cautelosamente otimista. Talvez isso esteja indo longe demais. Você realmente tenta encontrar um equilíbrio. Talvez isso chegue ao título fundamental do livro, Ferramentas e Armas.A IA é o melhor exemplo de ferramenta e arma. Quando você está conversando com alguém na rua e tentando explicar como você pensa sobre IA, o que você diz?

Brad Smith: Eu acho que você coloca isso muito bem. Esta é uma ferramenta incrivelmente poderosa, útil e importante. Acredito plenamente que a IA ajudará o mundo a curar o câncer. De fato, em um dos capítulos posteriores, contamos a história de como o Fred Hutch, o instituto de pesquisa do câncer de Seattle, está usando o aprendizado de máquina como o novo microscópio, se preferir, para obter padrões que podem ajudar a curar o câncer. Ao mesmo tempo, pode-se usar usos que incluem a criação de um estado de vigilância em massa do tipo imaginado por George Orwell em seu romance de 1984.

É por isso que no livro realmente tentamos entenderÉ o primeiro momento para ajudar as pessoas a aprender um pouco mais sobre por que a IA se desenvolveu e como desenvolveu a ampla gama de questões éticas que está criando, algumas das questões focadas, como reconhecimento facial, que são as primeiras controvérsias concretas. Depois, falamos de maneira mais ampla sobre o impacto da IA ​​na economia e colocamos isso no contexto histórico. Vemos uma transição tão grande quanto a transição do cavalo para o motor de combustão e o automóvel. Uma das muitas coisas que tentamos fazer neste livro é ajudar as pessoas a aprender com a história, para que possam aprender algumas dessas lições e usá-las, pois apenas pensam sobre onde tudo está indo.

TB: Eu acho que uma das outras coisas que surpreenderá as pessoas se elas acabarem de entrar neste livro sem realmente ver a evolução da Microsoft nos últimos 10, 15 ou talvez 20 anos é que você faz um apelo explícito a mais regulamentação doindústria de tecnologia, e você chama seus colegas da indústria de tecnologia para embarcar nessa idéia. Por que isso é importante?

Brad Smith: Bem, antes de tudo, apontamos que, de fato, quase nenhuma tecnologia na história da tecnologia passou tanto tempo com tantopouca regulamentação como tecnologia digital.Há muitas razões para olhar para isso e dizer: “E isso não foi ótimo?Veja toda a inovação. ”Nós apoiaríamos isso de todo o coração, mas há um grande mas. Essa tecnologia está impactando todas as partes de nossas vidas, nossas economias, nossas sociedades, nossa segurança. Penso que, como americanos, estamos todos acostumados com esse conceito de que ninguém está acima da lei. Nenhum governo está acima da lei. Nenhuma empresa está acima da lei. Eu diria que nenhuma tecnologia pode se manter sempre acima da lei.

Não vamos resolver as preocupações que as pessoas têm sobre empresas de tecnologia ou tecnologia.Não teremos sucesso em abordar a techlash se, francamente, todo o ônus for colocado apenas no setor de tecnologia. Precisamos que os governos façam mais, e isso significa criar regras, leis e regulamentos, se você desejar, de maneira inteligente, ponderada e equilibrada para lidar com os problemas reais que incomodam as pessoas, seja privacidade ou segurança, ouo impacto nos empregos, por exemplo.

TB: O que você diria para aqueles que diriam: “Bem, é fácil para a Microsoft dizer isso. Você não obtém a maior parte de sua receita com publicidade que se baseia em informações pessoais, inteligência artificial. Claro, faz parte do Azure, mas você não está contando com isso agora para toda a sua receita. Essa é uma posição conveniente para a Microsoft tomar. Claramente, é apenas uma barreira competitiva contra o Facebook, Google, et al. ”Brad Smith: Bem, a primeira coisa que eu diria é que, em todos os aspectos, também seremos afetados. Quero dizer, sim, você pode argumentar que apenas parte de nossos negócios é afetada por regras de publicidade e apenas parte de nossos negócios é afetada por regras de reconhecimento facial. Sim, mas quando você adicionar todas as partes de nossos negócios, praticamente todas elas serão afetadas de maneira importante.

A segunda coisa que apontamos no livro é que nós, comouma empresa passou por uma transição de uma falta de regulamentação para regras. Foi parte e resultado de nossos problemas antitruste a partir dos anos 90. Descobrimos que, se nos adaptássemos, poderíamos florescer.Não se trata de tentar impor regras que impedirão que outras pessoas tenham sucesso. Eu argumentaria o contrário. Se o setor de tecnologia quiser ter sucesso de maneira sustentada e sustentável, será melhor atendido se o público tiver a confiança e a confiança na tecnologia que advém, em parte, de regras. Brad Smith: Apenas pense no fato de todos irmos ao supermercado. Podemos olhar para um pacote e saber o que há nele, porque existem regras nutricionais que padronizam como todas as empresas precisam relatar o que há em seus produtos. Pense nas questões relacionadas a aeronaves comerciais. Pense nos problemas da Boeing hoje.O público voador precisa de regras que lhe dêem confiança na segurança dos aviões e, no final do dia, o mesmo acontece com as empresas que fabricam a aeronave.

TB: Você entende que as pessoas podem dizer: "Bem, a tecnologia é muito complicada para o Congresso ou os legisladores entenderem ”, mas com o exemplo do avião, ninguém jamais diria isso sobre as FAA, pelo menos ninguém que quisesse voar em segurança. Bradp:Exatamente. Eu acho que é uma comparação tão interessante.É por isso que falamos sobre isso. As pessoas o tempo todo no setor de tecnologia dizem: “Ah, você não pode ter regulamentação. Essa tecnologia é muito complicada. ”Apontamos:“ Bem, o que é um avião hoje em dia?É uma espécie de computador com asas. ”Há questões regulatórias reais, mas ninguém diz:“ Oh, é muito complicado. Vamos abolir a FAA e esperar que os fabricantes de aeronaves façam o melhor possível. ”Da mesma forma, pense em um automóvel. Apontamos no livro, contamos a história de como, até o ano de 2030, um automóvel consistirá totalmente da metade em termos de valor de computadores, dados e similares. Esse é um computador com rodas. Ninguém diz: "Ah, agora não vamos mais regular a segurança de automóveis porque há muitos computadores dentro". Eu diria que, se os governos puderem descobrir como regular um computador com rodas e endereçar um computador com asas, com certezatambém pode fazer um bom trabalho ao endereçar um computador parado e em um datacenter.

TB: Se você der duas ou três regras concretas, regulamentos que colocarão as pessoas no caminho certo,o que eles seriam?

Brad Smith: Bem, você vê isso nos tópicos que abordamos. Em parte, achamos que há essa necessidade urgente de avançar na área de segurança cibernética. Isso já levou a mais esforços de empresas e governos para trabalharem juntos, mas ainda temos muito a fazer para fortalecer a proteção da cibersegurança.O próximo é a privacidade. Somos defensores claros, inclusive no livro, de uma lei nacional de privacidade que forneça forte proteção à privacidade dos consumidores. Compartilhamos no livro as histórias de como a privacidade saltou pelo Atlântico nos últimos dois anos, mas como, de certa forma, isso é apenas o começo. Certamente o reconhecimento facial é uma terceira área.Nós somos muito explícitos. Contamos a história de como pensamos nisso, o que nos levou a desenvolver algumas dessas propostas na Microsoft. Falamos sobre as pessoas que encontramos em todo o mundo.

TB: Um dos princípios que você expõe é que, nos casos em que as pessoas estão sendo digitalizadas ou processadas através de sistemas de reconhecimento facial,eles precisam saber.

Brad Smith: Absolutamente. Reconhecemos no livro que ainda estamos nos estágios iniciais, como eu estava dizendo antes.O primeiro passo é informar às pessoas quando o reconhecimento facial está sendo usado em locais públicos. Também reconhecemos no capítulo sobre reconhecimento facial que precisaremos ter mais proteções além disso, especialmente proteções que só então compartilham os dados das pessoas com o consentimento de alguma maneira apropriada. Precisamos pensar muito, mas temos que começar de alguma forma, penso, informando as pessoas, porque depois que você as deixa saber, você começa a conversar em público. Até que as pessoas saibam, isso é invisível e invisível não é bom neste caso.

Microsoft vs. hackers russos

TB: Eu amei as histórias dos bastidores sobre as coisas em andamento,de notícias que estavam acontecendo nos últimos anos e ouvindo da sua perspectiva o que estava acontecendo nos bastidores, tudo, desde o WannaCry até as revelações de Snowden. Havia muitas idéias novas lá.O que realmente me impressionou foram os esforços da Microsoft para frustrar os hackers russos que procuravam influenciar as eleições nos EUA por meio de uma combinação de táticas técnicas e legais que você usou. Houve uma frase que apenas fez meu queixo cair. Você disse: "Logo ficou claro que os russos estavam inovando tão rapidamente quanto nós". Penso nisso e, concedido, hackers russos, obviamente eles são inovadores, mas você é a Microsoft.É impressionante, porque costumo pensar nos fatores de risco no Microsoft 10-K - Google, Apple, Amazon. Você não listaria a Rússia entre seus fatores de risco.O que isso diz sobre o estado do mundo em que a Rússia é efetivamente um concorrente em termos de inovação da Microsoft?

Brad Smith: Bem, em parte diz que há pessoas muito inteligentes trabalhando emlugares como São Petersburgo e Moscou.

TB: Em nome do governo russo. Eu acho que é essa a reviravolta.

Brad Smith: Isso é justo.É verdade.É o que dizemos, e é o que vemos. Essa é uma ameaça à nossa democracia, mais do que a qualquer empresa ou ao setor de tecnologia, e é por isso que temos alguns capítulos dedicados a esse conjunto de questões que surgiram em torno do cyber hacking. Compartilhamos a história do que vimos na mesma semana da Convenção Nacional Democrata em 2016 e como reagimos a isso. Colocamos em um contexto histórico ainda mais amplo que um dos atributos de uma democracia é que ela é potencialmente sujeita a interferências estrangeiras. Isso era verdade desde os primeiros anos, literalmente, da República Americana. Era algo com o qual George Washington teve que lidar como presidente dos Estados Unidos.

O argumento que também enfatizamos é que, nas últimas décadas, na maioria das vezes, as pessoas nas democracias tendiam a ver comunicaçõestecnologia como algo que estava do lado da democracia. Os Estados Unidos, outros países o usaram de algumas maneiras de uma maneira que alguns considerariam censurável, mas usaram muito para transmitir informações para a Europa Oriental, por exemplo, e educar as pessoas. Agora o sapato está no outro pé.A tecnologia está sendo usada para atrapalhar a democracia, armar o e-mail de candidatos políticos para divulgar essas informações e literalmente incentivar os vizinhos a protestar contra seus vizinhos, como vimos em 2016, incentivados por pessoas em São Petersburgo. Isso é extraordinário. Temos que começar apenas entendendo o que está acontecendo, acho que colocá-lo nesse contexto histórico. Em seguida, compartilhamos a jornada, a luta de algumas maneiras que nós e todos no setor de tecnologia temos começado a descobrir como responder, e também a luta de tentar conseguir o governo a bordo, porque muitas vezes as pessoas estão apenas discutindouns com os outros, em vez de realmente trabalhar de maneira unida para defender o país.

TB: Quero deixar claro, não estou questionando as habilidades técnicas das pessoas da Rússia.É só a Microsoft contra o governo russo que me impressionou, para ficar claro. Brad Smith: É um ponto justo, Todd. As empresas não estão acostumadas a criticar governos. Estamos acostumados a nos defender das críticas dos governos, talvez mais do que o contrário. No entanto, quando você tem vários governos em todo o mundo atacando seus clientes, a vida muda. Parte do que descrevemos é o que significava ter que aceitar essa mudança e o que significava dentro de uma empresa como a Microsoft.

TB: Existem alguns momentos no livro em que você conta a história interna das reuniões da equipe de liderança sênior com Satya Nadella, CEO da Microsoft, e Satya para e toma uma decisão ou observaçãoisso muda o curso da discussão sobre a política da empresa e, às vezes, até questões políticas em geral.O que você aprendeu com Satya nos últimos cinco anos de seu cargo de CEO? Bradp Smith: Um dos aspectos realmente interessantes de Satya sobre os quais falamos no livro é o fato de ele não ser apenas umengenheiro que as pessoas veem o tempo todo. Ele cresceu como filho de um oficial do governo muito importante e altamente respeitado na Índia, na primeira geração depois que a Índia se tornou uma nação livre e não mais uma colônia. Como dizemos, acho que isso dá a Satya uma sensação quase intuitiva de como os governos tendem a funcionar. Agora, parte do que isso fez com que ele trouxesse para o nosso trabalho aqui na Microsoft, o que eu acho que foi tremendamente benéfico, é o compromisso de seguir princípios. Ele costuma dizer: “Olha, vamos criar um conjunto de princípios. Vamos acertar os princípios. Sejamos transparentes publicamente com o que são e, em seguida, mudaremos a empresa para que tomemos decisões com base nesses princípios. ”

Eu acho que, de muitas maneiras, tornou possívelna Microsoft, para sermos mais decisivos, para nos apoiarmos nessas questões. Isso nos dá a capacidade de ser consistente ao longo do tempo.A consistência, por sua vez, é fundamental para conquistar a confiança das pessoas e mantê-las, porque nos tornamos previsíveis.

Via: Geek Wire