Fotos policiais de jovens levantam preocupações sobre a tecnologia de reconhecimento facial

Há suspeitas crescentes de que a tecnologia de reconhecimento facial está sendo usada em fotos policiais de jovens inocentes.

No início desta semana, a RNZ revelou que a polícia está abordando jovens inocentes, fotografando-os, coletando seus dados pessoais e enviando tudo para um banco de dados nacional chamado National Intelligence Application (NIA).

A mãe de Gisborne, Bronwyn Williams, disse que seu filho foi fotografado pela polícia tarde da noite enquanto voltava para casa de uma quadra de basquete com seus amigos.

Ela não sabia por que sua fotografia foi tirada, mas suspeitou que a polícia usaria as informações se ele fosse pego cometendo uma ofensa no futuro.

“Esta é uma forma de racismo, eles estão traçando um perfil racial para nossos filhos”, disse ela.

“A mensagem é, ‘nós não confiamos em você. Você vai f ** k up, e quando você f ** k up, já temos suas informações e vamos buscá-lo’.”

A especialista em dados indígenas Karaitiana Taiuru disse que era exatamente isso que ele acreditava que estava acontecendo – que a polícia estava usando tecnologia de reconhecimento facial para traçar o perfil de rostos jovens e morenos.

“Eu suspeito que essas imagens serão usadas para criar o perfil da juventude maori e treinar todos os seus sistemas de IA de reconhecimento facial para detectar rostos maori e polinésios.”

O vice-presidente executivo da Insights & Deployment Mark Evans disse esta manhã que a polícia refutou veementemente as alegações de que estava ativamente tirando fotos de jovens maori ou de qualquer pessoa para traçar o perfil dos criminosos ou treinar seus sistemas para identificar os descendentes de maori e pasifika.

“A afirmação de que a polícia empreenderia tal prática é contrária aos nossos valores e estilo de policiamento”, disse ele.

“A polícia não usa tecnologia de reconhecimento facial voltada para o público ou ‘ao vivo’. O sistema de reconhecimento facial da NEC atualmente em uso permite que a polícia compare imagens estáticas de suspeitos não identificados, onde essas imagens foram enviadas como parte de uma investigação. Não é usado na análise de qualquer transmissão ao vivo ou filmagem de vigilância ao vivo, e a filmagem ao vivo não pode alimentar diretamente no sistema.

“Avaliações, incluindo uma da Autoridade Independente de Conduta Policial, estão atualmente sendo realizadas sobre a prática de fotografar indivíduos.”

Em resposta a um pedido por meio do Ato de Informação Oficial, a polícia disse que seu sistema de reconhecimento facial NEC existente permitia comparar imagens estáticas de suspeitos não identificados, onde essas imagens foram enviadas como parte de uma investigação.

A polícia não disse, especificamente, se esse sistema de reconhecimento facial foi usado em imagens de jovens inocentes que eles coletaram para fins de inteligência e enviaram para o banco de dados do NIA.

A diretora de campanhas da Anistia Internacional, Lisa Woods, disse que está investigando o problema e como a tecnologia de reconhecimento facial pode estar impedindo os direitos dos jovens.

“É um problema sério, então é algo que estamos acompanhando e sabemos que há problemas quando se trata de direitos humanos e vigilância que precisam ser examinados”, disse ela.

A polícia disse que fotos de crianças e jovens poderiam ser legalmente retidas se o jovem tivesse sido preso ou fornecido sua imagem voluntariamente.

Os oficiais são obrigados a seguir um processo de consentimento informado para todas as fotografias voluntárias, que inclui a obtenção de um formulário de consentimento assinado do jovem e de seus pais ou responsáveis.

A polícia pode guardar as fotos até que um dos pais ou responsável solicite que sejam destruídas. Os pais ou responsáveis ​​não precisam fornecer uma razão para isso.

Muitos whānau, incluindo os Williams ‘, disseram que seus jovens familiares não deram consentimento à polícia e a experiência os deixou traumatizados.

“Eu sei que ele está realmente desconfiando deles agora, e isso contribuiu para isso. Eu acho que ele se sentiu um alvo porque ele é moreno e eu acho que ele sentia por seus amigos”, disse Williams.

Segundo relatório da Law Foundation, divulgado no ano passado, imagens voluntariamente fornecidas de crianças e jovens já existem em um sistema de gerenciamento de imagens policial ABIS 2, que podem ser pesquisadas com ferramentas de reconhecimento facial.

O ABIS 2 possui atualmente 1,8 milhão de imagens de 800.000 indivíduos.

Taiuru disse que é provável que Māori seja super-representado nas imagens fornecidas voluntariamente e armazenadas lá.

“Já estamos super-representados no banco de dados da polícia para amostras voluntárias de DNA, por exemplo, então esta é apenas outra forma de parcialidade policial e discriminação contra Māori”.

A polícia ainda não esclareceu se as fotos de jovens inocentes coletadas para fins de inteligência podem ser pesquisadas por ferramentas de reconhecimento facial.

A polícia pediu à RNZ que fornecesse uma isenção de privacidade para comentar o caso de Williams, mas quando a RNZ forneceu uma, eles disseram que não poderiam comentar enquanto uma revisão da política policial de fotos de jovens estivesse em andamento.