Os legisladores de Portland aprovam a resolução de privacidade para orientar as políticas de reconhecimento facial, outros dados usados

PORTLAND, ORE. - Os legisladores em Portland aprovaram por unanimidade uma resolução de privacidade na quarta-feira que eles esperam levar a uma coleta e uso de dados mais éticos e equitativos.

Portland, como muitas cidades ao redor do mundo EUA e mundo estão lutando para criar políticas que governam tecnologias como reconhecimento facial e vigilância por vídeo com inteligência artificial. A resolução do conselho vem na esteira da histórica proibição de reconhecimento facial de San Francisco no mês passado. Enquanto isso, Portland está planejando um novo sistema de gerenciamento de dados, recentemente implementou sensores de sinal de tráfego de coleta de dados em cruzamentos perigosos e fez parceria com a controversa empresa de tecnologia urbana Sidewalk Labs, que fornece dados mostrando como as pessoas se movimentam pela cidade. Os novos princípios de privacidade e proteção da informação, destinados a orientar as decisões de tecnologia e dados de Portland, estão entre as poucas políticas municipais dos EUA que incorporam temas de equidade, transparência, responsabilidade e não-discriminação. .

Em particular, a resolução pede que Portland elabore abordagens para avaliar os impactos de sistemas de decisão automatizados que empregam inteligência artificial ou modelos algorítmicos. O uso dessas ferramentas, que podem decidir a que escolas públicas os estudantes são designados, onde os presos estão alojados, ou quais locais de trabalho são visitados por inspetores de segurança, tornou-se um tópico quente nos círculos municipais e de ética tecnológica.

Mas há poucas formas de IA usadas pelos governos que provocaram tanta contenção quanto o reconhecimento facial. Essas tecnologias de identificação biométrica baseadas em IA são usadas por algumas cidades para a aplicação da lei e vigilância, e em escolas públicas para fins de segurança. “O uso das tecnologias de reconhecimento facial na cidade provavelmente será uma conversa política antecipada. atenção da mídia recente, preocupações da comunidade e políticas relacionadas avançando em outras cidades ”, disse Hector Dominguez, coordenador de dados abertos do grupo SmartCityPDX da cidade de Portland, em GeekWire.

A cidade ampliará o escopo da discussão sobre políticas para incluir outras tecnologias que permitam a análise em tempo real de vídeos, como imagens de câmeras de vigilância que poderiam hipoteticamente ser empregadas para construir um dossiê de vídeo com cidadãos. Embora nenhum uso da tecnologia tenha sido tornado público, não está claro se o reconhecimento facial é usado atualmente por qualquer agência da cidade em Portland.

Tecnologia de reconhecimento facial desenvolvida por empresas como Amazon, Microsoft, IBM e outros O s é altamente investigado em parte porque alguns sistemas mostraram-se defeituosos, particularmente quando se trata de detectar rostos de pele escura com precisão. Os defensores das liberdades civis também temem que o uso disseminado da tecnologia por agências governamentais ou em ambientes comerciais possa transformar cidades em estados invasivos de vigilância com pouca ou nenhuma proteção à privacidade, como tem acontecido na China.

Estação de TV de Portland KGW Relatou no início deste mês que a Jackson's, uma loja de conveniência no sudeste de Portland, usa tecnologia de reconhecimento facial. Perto do condado de Washington, o departamento do xerife usa o software Rekognition da Amazon para identificar suspeitos de crimes.

Preocupações com a privacidade, Kris Henning, professor de criminologia e justiça criminal da Portland State University, sugeriu que as tecnologias de reconhecimento facial usadas pela aplicação da lei teriam efeito limitado na redução do crime. "O reconhecimento facial é o objeto brilhante que muita gente está empolgada com a aplicação da lei", disse ele. “As pessoas podem argumentar de esquerda e direita sobre os méritos disso, quando, na verdade, isso não influenciará a prevenção ao crime.”

Um foco no uso equitativo de dados

Outra indicação de que a cidade A empresa está seguindo uma tendência entre algumas das municipalidades mais avançadas do mundo, os princípios de Portland exigem equidade de dados e uso não discriminatório de dados. A resolução exige que Portland garanta proteções de dados não discriminatórias e faça a devida diligência para entender os impactos das conseqüências não intencionais do uso de dados. Também exige que a cidade “priorize as necessidades das comunidades marginalizadas em relação ao gerenciamento de dados e informações, que deve ser considerado ao projetar ou implementar programas, serviços e políticas”, de acordo com a resolução.

“Portland está entre as primeiras cidades dos EUA a aprovar tais princípios, e seu foco nos direitos humanos e no uso ético dos dados é especialmente progressivo”, disse Kelsey Finch, consultora sênior de privacidade no Fórum Future of Privacy. , que enviou uma carta de apoio para a resolução de Portland. “Ao formalizar seu compromisso de projetar sistemas de decisão automatizados equitativos e inclusivos, a cidade de Portland está dando um exemplo importante para outras cidades e comunidades.” Alguns dizem que o objetivo de informar a tomada de decisão com dados pode ser visto através de uma missão mais ampla de equidade para comunidades que historicamente foram tratadas injustamente como resultado de racismo institucionalizado, redefinição, excesso de policiamento e negligência de vizinhança. >

“Esta resolução de privacidade de Portland está dizendo que não se trata apenas de proteger e proteger dados. É esse reconhecimento de que, na gestão de dados, eles estão tomando essa lente justa através do uso dos dados ”, disse Natalie Evans Harris, chefe de iniciativas estratégicas da Brighthive, uma empresa de gerenciamento de dados que ajuda clientes como a Goodwill a desenvolver abordagens equitativas para uso de dados e governança. “É também garantir que os dados estejam disponíveis para as pessoas que precisam quando precisam para tomar decisões.” Por exemplo, ela explicou que as cidades podem incorporar metas de eqüidade na política de gerenciamento de dados, incluindo dados sobre como a falta de moradia afeta populações indígenas, rurais ou afro-americanas, em vez de simplesmente observar seus efeitos na população em geral.

Em última análise, garantir que os sistemas de decisão automatizados sejam avaliados com eqüidade, justiça, transparência e prestação de contas. A idéia poderia ser um desafio difícil de recursos e perícia, disse Deirdre Mulligan, co-diretor do Centro de Direito e Tecnologia de Berkeley. “Eu acho que a questão mais importante que as cidades que querem fazer este trabalho é que a maioria deles não tem profissionais com experiência em privacidade, preconceito, etc. nesses sistemas algorítmicos”, disse ela.

A resolução de privacidade de Portland faz parte da estratégia geral de governança de dados da cidade e foi uma colaboração entre o gabinete do prefeito e várias agências da cidade. Um novo grupo de trabalho de implementação de privacidade liderado pelo Escritório de Planejamento e Sustentabilidade e Escritório de Equidade e Direitos Humanos foi formado para dar o pontapé inicial e colocar a resolução em prática. Esse grupo, marcado para realizar sua primeira reunião em 25 de junho, também inclui Smart City PDX, Gabinete da Procuradoria da Cidade, Escritório de Tecnologia Comunitária, Departamento de Transportes de Portland, Gabinete do Auditor da Cidade, Escritório de Administração e Finanças, Departamento de Polícia de Portland e Escritório de Comunidade e vida cívica.

Os princípios de Portland foram influenciados por esforços semelhantes em Seattle e Oakland, juntamente com o novo Regulamento Geral de Proteção de Dados da União Europeia, disse Dominguez. Aqueles que elaboraram a resolução de Portland apoiaram-se na orientação de especialistas em privacidade em Seattle e Oakland, bem como na contribuição da comunidade de Portland durante fóruns públicos.

Via: Geek Wire