Reconhecimento facial ameaça direitos básicos de privacidade

Tecnologia imprecisa

Embora o uso da tecnologia de vigilância e reconhecimento facial seja amplo e sempre cresça, esses sistemas ainda estão na infância e podem ser imprecisos. Michael Drury, sócio da BCL Solicitors , diz que o maior problema é que eles são “atingidos e errados” na melhor das hipóteses.

“A maioria das pessoas aplaudiria a tecnologia de reconhecimento facial se impedir a prática de atrocidades terroristas e outros crimes graves. Mas isso continua sendo um ‘se’ muito grande, e os benefícios em potencial precisam ser comparados com o custo para todos nós de termos nossos seres gravados e os detalhes mantidos pela polícia ”, disse ele à ComputerWeekly

“Sabemos que é melhor reconhecer homens do que mulheres e caucasianos do que outros grupos étnicos. O potencial para identificação incorreta de suspeitos e erros judiciais é um item que não deve ser subestimado.”

“A polícia e outras agências policiais devem ser cautelosas ao ver as novas tecnologias como uma panaceia e dignas de uso simplesmente porque a palavra ‘digital’ pode ser usada para descrevê-las.”

Miju Han, diretor de gerenciamento de produtos da HackerOne , ecoa preocupações semelhantes com relação à confiabilidade desses sistemas.

“A tecnologia de reconhecimento facial tem dois grandes problemas“, diz Han. “A primeira é que sua precisão não chega nem perto dos 100%, o que significa que o emprego da tecnologia resultará em muitos falsos positivos. Poucos algoritmos foram treinados em uma amostra verdadeiramente representativa; portanto, o reconhecimento facial afetará desproporcionalmente negativamente diferentes dados demográficos.”

“Mas, mesmo se tomarmos a maior precisão demográfica hoje – que é de cerca de 99% para homens brancos – e usarmos a tecnologia em uma área de alto tráfego para tentar identificar terroristas conhecidos, por exemplo, 1% de todos os transeuntes seria rastreados incorretamente, o que adicionaria rapidamente centenas ou milhares de erros por dia.”

“O segundo grande problema é que os usuários não consentiram em serem digitalizados. Sair em público não pode ser um consentimento para ser rastreado. É possível que uma entidade use o rastreamento facial para construir históricos e perfis completos de localização, embora com muitos erros. Seu rosto não é uma placa de carro.”

Prejudicando a privacidade

Quando se trata de criar uma justificativa para aplicativos de vigilância e reconhecimento facial, muitas vezes se argumenta que eles ajudam na segurança. Steven Furnell, membro sênior do IEEE e professor de segurança da informação na Universidade de Plymouth , acredita que isso pode ser problemático.

“Segurança e privacidade são frequentemente mencionadas no mesmo fôlego e até tratadas como de alguma forma sinônimas, mas este é um exemplo muito bom de como elas podem realmente funcionar em contradição”, diz ele.

“O uso do reconhecimento facial em um contexto de vigilância é apresentado como uma tentativa de melhorar a segurança – o que, é claro, ele pode fazer – mas está claramente ocorrendo a um custo potencial em termos de privacidade.”

“Foi alegado que a tecnologia de reconhecimento facial agora é socialmente aceitável porque as pessoas estão acostumadas a usá-la em seus smartphones. No entanto, a diferença significativa é que isso é por sua escolha e para proteger seus próprios ativos. Além disso, dependendo da implementação, nem o modelo biométrico nem as amostras faciais posteriores estão deixando seu dispositivo.”

Furnell argumenta que, nas implementações implantadas em espaços públicos, os sujeitos não concordam com a criação de modelos nem a captura de amostras.

“Os dados estão sendo usados ​​para identificação e não para  autenticação.  Como tal, a natureza do uso é significativamente diferente dos usos mais facilmente aceitos em um dispositivo pessoal ”, diz ele.

O advogado de privacidade da Comparitech, Paul Bischoff, diz que as pessoas precisam de uma maneira de optar por não participar e que, sem controles e regulamentações, o reconhecimento facial pode rapidamente sair do controle.

“A vigilância do reconhecimento facial provavelmente se tornará mais comum, especialmente em locais públicos, como centros de transporte e grandes eventos”, diz ele.

“Isso traz uma discussão interessante sobre o direito à privacidade e o consentimento: você tem algum direito à privacidade em um local público?  Até agora, a maioria das pessoas responderia que não.”

“Mas considere que, mesmo em locais públicos, você tem um certo grau de anonimato, pois a grande maioria das pessoas não sabe quem você é – assumindo que você não é uma figura pública. Você pode pegar o metrô sem que ninguém o reconheça. Porém, se uma câmera de segurança armada com reconhecimento de rosto o identificar, poderá vincular sua identidade física à sua identidade digital e fazê-lo sem obter seu consentimento primeiro.”

“As pessoas agem de maneira diferente quando sabem que estão sendo vigiadas e agem de maneira ainda mais diferente se a pessoa que as observa sabe quem são. Isso pode ter um efeito assustador na liberdade de expressão e expressão ”, diz Bischoff.

Apertar

Com essas ameaças em mente, alguns governos e organizações em todo o mundo começaram a implementar regras e regulamentos mais rígidos para garantir que essas tecnologias não sejam abusadas. Mais recentemente, as autoridades da cidade de São Francisco votaram, oito a um, para proibir a aplicação da lei de usar ferramentas de reconhecimento facial.

Joe Baguley, vice-presidente e diretor de tecnologia da Europa, Oriente Médio e África (EMEA) da VMware , acredita que a cidade de São Francisco tem razão em mostrar cautela neste caso.

Como Drury e Han apontaram anteriormente, Baguley diz que o problema é que o software de reconhecimento facial ainda não é sofisticado o suficiente para beneficiar positivamente a polícia e outros serviços públicos.

Antes que essas tecnologias possam efetivamente ajudar no policiamento e vigilância, Baguley diz que os algoritmos subjacentes de inteligência artificial (IA) precisam ser alterados para garantir que o software reconheça pessoas sem viés discriminatório.

“Finalmente, estamos em um estágio nascente da tecnologia. Esses problemas podem ser resolvidos enriquecendo-o com inteligência suficiente para torná-lo uma ferramenta suficientemente segura e poderosa para implantar no futuro, mas ainda não está pronta ”, acrescenta.

No entanto, não é apenas nos EUA que estão ocorrendo desafios legais e regulatórios em torno da tecnologia de reconhecimento facial.

Em março, o Comitê de Ciência e Tecnologia do Reino Unido alertou que a tecnologia de reconhecimento facial ao vivo não deve ser implantada pela polícia britânica até que as preocupações com sua eficácia sejam resolvidas.

Em junho, um tribunal de Cardiff concluiu que as regras que regem os sistemas de reconhecimento facial precisam ser mais rígidas depois que um comprador galês lançou uma contestação legal quando uma câmera da polícia de South Wales tirou uma foto dele.

Robert Brown, vice-presidente associado do Centro para o Futuro do Trabalho da Cognizant , diz que esses desafios anunciam uma mudança radical na quantidade de privacidade que estamos dispostos a renunciar em nome da segurança.

“Por um lado, é uma reação natural pensar: ‘Bom, o reconhecimento facial ajudou a pegar um bandido‘”, diz ele. “Mas então você se pergunta: ‘Com que frequência esse’ olho no céu ‘me vê – e posso confiar nisso?‘

“A saúde da nossa democracia – e o futuro do trabalho – exige confiança.  Mas o déficit de confiança tecnológica não está fechando. Com demasiada frequência, existem mea culpas retroativos que “não fizemos o suficiente para impedir que o X acontecesse”. Enquanto isso, há um acordo quase unânime de que as taxas de erro do software de reconhecimento facial – especialmente entre pessoas de cor – são inaceitavelmente altas. ”

Brown diz que, enquanto continuamos a ver a ascensão do reconhecimento facial como um meio de nos manter seguros, teremos que navegar por uma mistura espinhosa de padrões, leis, regulamentos e ética. “Isso significa que precisamos do consentimento dos cidadãos – e não dos senhores da política digital – para controlar quem assiste os observadores“, acrescenta.

Enquanto muitas organizações e especialistas se opõem à vigilância em massa, outras são mais positivas.

Matthew Aldridge, arquiteto de soluções sênior da empresa de segurança  Webroot , vê aplicativos legítimos da polícia e de outras agências similares, onde a tecnologia de reconhecimento de rosto pode reduzir bastante os custos de policiamento e aumentar as chances de processos bem-sucedidos em certos casos. Mas ele concorda que o uso desses sistemas deve ser limitado e regulamentado.

“Nessas situações, apenas os autores de crimes devem ter sua biometria armazenada dessa maneira. Existe uma tentação na vigilância em massa de criar um perfil em cada pessoa detectada, rastrear seus movimentos e categorizá-los em grupos de comportamento ”, diz Aldridge.

“Esse tipo de abordagem está sendo adotado na China, por exemplo, onde o estado é capaz não apenas de fazer isso, mas também de mapear os perfis para as identidades de cada cidadão em questão, levantando questões sobre como e por que esses dados estão sendo usados.”

“A tecnologia atual de reconhecimento facial pode funcionar bem, mas está longe de ser perfeita. Apesar de suas falhas, ele demonstra seu valor, reduzindo a carga de trabalho dos investigadores, aumentando efetivamente seu papel. ”

Atenuando os riscos

Com o reconhecimento facial constantemente ganhando força para diversas finalidades, fica claro que é preciso fazer mais para manter essa tecnologia sob controle.

Chris Lloyd-Jones, líder de produtos e engenharia de tecnologia emergente da empresa de serviços profissionais Avanade , acredita que as leis atuais precisam ser revisadas e que o gerenciamento de mudanças é crucial.

“Como sociedade, não temos certeza de como lidamos com as limitações da tecnologia que tem o potencial de afetar emoções e moralidade – por exemplo, as exceções e falsos positivos em torno da raça e preconceitos implícitos, bem como a possibilidade de criar preconceitos. que já existem na sociedade ”, diz ele.

“A legislação nessa área geralmente não esclarece como a tecnologia deve ser usada e é uma ferramenta difícil de desafiar. Se você estiver andando pela rua e perceber uma operação policial de CFTV , quando vir o aviso, seu rosto já estará gravado.”

“O gerenciamento de mudanças é importante, concentrando-se em lidar com as exceções e em lidar empaticamente com quaisquer falsos positivos levantados – e fornecendo isso aos criadores da tecnologia para evitar a criação de preconceitos existentes na tecnologia, como a discriminação racial.”

Em nível regulatório, o uso de ferramentas de reconhecimento facial já é regido por leis como o Regulamento Geral de Proteção de Dados (GDPR).

“Princípios como limitação de armazenamento, minimização de dados e legalidade, justiça e transparência se aplicam ao processamento desses dados“, diz o especialista em privacidade de dados Tim Jackson.

“Além disso, como os dados de reconhecimento facial são um tipo de dados biométricos, eles só podem ser processados ​​em circunstâncias restritas, como se um indivíduo tivesse dado seu consentimento explícito ou se um cenário específico sob a lei do estado membro da UE foi atendido“.

No entanto, Jackson acrescenta que não há código de prática que se aplique ao processamento de dados biométricos. “O ICO (Information Commissioner’s  Office) , conforme exigido pela DPA [Data Protection Act], já produziu códigos de prática em outros tipos de processamento, como marketing direto e acesso a assuntos, e publicou recentemente um rascunho de código de prática sobre crianças. privacidade online ”, diz ele.

“Ele também encerrou um período de consulta ‘chamada para vistas’ com a intenção de produzir um código de prática sobre como equilibrar a proteção de dados no jornalismo. Portanto, eu esperaria que a OIC – quando formalmente instruída pela secretária do Interior – liderasse o caminho com um código de prática de dados biométricos em um futuro próximo. ”

Apesar da falta de um código de prática específico, há várias etapas que precisam ser tomadas pelas empresas que estão desenvolvendo ou usando este software.

“Como estamos falando de uma atividade de processamento de alto risco, uma avaliação de impacto na proteção de dados deve ser realizada antes do início do processamento“, diz Jackson, acrescentando que a OIC fornece orientações detalhadas sobre a forma que essa avaliação deve assumir.

“Essa avaliação ajudará a empresa a identificar os vários riscos que precisam ser mitigados, riscos como discriminação, preconceito inconsciente, falta de transparência e falta de proporcionalidade, por exemplo“.

Jackson recomenda garantir que o estágio de desenvolvimento de qualquer software de reconhecimento facial inclua representação de diferentes etnias e sexos; garantir que os indivíduos cujos dados devem ser processados ​​fiquem plenamente cientes dessa atividade, quais direitos eles têm em relação aos dados e como invocá-los.

Ele acrescenta que também deve aplicar períodos estritos de retenção à coleta de quaisquer dados; aplicar medidas de confidencialidade à coleta de quaisquer dados; considere se o escopo do software de reconhecimento facial pode ser reduzido; procure a opinião dos indivíduos antes que o processamento comece a entender suas preocupações e adote outras medidas, se necessário.

Qualquer sistema de reconhecimento facial também deve considerar se existem maneiras alternativas e menos intrusivas de obter o mesmo resultado; e criar políticas para governar a atividade de processamento e fornecer orientação à equipe, de acordo com Jackson.

Parece que o uso da tecnologia de reconhecimento facial é uma faca de dois gumes. Embora algumas pessoas argumentem que esses sistemas desempenham um papel importante no combate ao crime e no auxílio a outras tarefas importantes, eles também apresentam desafios e riscos à privacidade.

À medida que a adoção aumenta, salvaguardas, leis e regulamentos certamente precisarão ser revisados ​​e revisados ​​para garantir que os consumidores estejam protegidos e que essa tecnologia não seja abusada.

Portanto, não é de surpreender que o comissário britânico de câmeras de vigilância Tony Porter esteja pedindo um fortalecimento do código de prática para o setor de câmeras de vigilância em face de novas regulamentações de privacidade e tecnologias de vigilância, como reconhecimento facial.