{"id":12145,"date":"2021-05-16T17:53:47","date_gmt":"2021-05-16T20:53:47","guid":{"rendered":"https:\/\/tarciziosilva.com.br\/blog\/?p=12145"},"modified":"2022-05-30T00:17:59","modified_gmt":"2022-05-30T03:17:59","slug":"reconhecimento-facial-deve-ser-banido-aqui-estao-dez-razoes","status":"publish","type":"post","link":"https:\/\/tarciziosilva.com.br\/blog\/reconhecimento-facial-deve-ser-banido-aqui-estao-dez-razoes\/","title":{"rendered":"Reconhecimento facial deve ser banido. Veja dez raz\u00f5es:"},"content":{"rendered":"\n

As tecnologias digitais baseadas em intelig\u00eancia artificial para ordena\u00e7\u00e3o e vigil\u00e2ncia de cidad\u00e3os no espa\u00e7o p\u00fablico ganham mais mercado devido \u00e0 evolu\u00e7\u00e3o t\u00e9cnica e barateamento na \u00faltima d\u00e9cada. Vigil\u00e2ncia e persecu\u00e7\u00e3o de suspeitos por reconhecimento facial n\u00e3o \u00e9 algo novo mas tem recebido mais aten\u00e7\u00e3o tanto por quest\u00f5es t\u00e9cnicas que aumentam o acesso a tais recursos, inclusive atrav\u00e9s de lobby das corpora\u00e7\u00f5es de big tech<\/em>, quanto pelo avan\u00e7o de ideologias violentas de extrema-direita.<\/p>\n\n\n\n

No Brasil, tecnologias do tipo est\u00e3o sendo implementadas por governos de diferentes espectros ideol\u00f3gicos, como Bahia<\/a>, S\u00e3o Paulo e Rio de Janeiro para citar alguns exemplos. A principal tecnologia que busca normalizar o estado completo de vigil\u00e2ncia potencial \u00e9 o reconhecimento facial, proposta e defendida em diversos n\u00edveis do executivo e legislativo. Estudo promovido pela Intervozes<\/a> mostrou que \u201cdentre os 26 prefeitos de capitais empossados em janeiro de 2021, 17 apresentaram propostas que, de algum modo, preveem o uso das tecnologias de informa\u00e7\u00e3o e comunica\u00e7\u00e3o na seguran\u00e7a p\u00fablica\u201d.<\/p>\n\n\n\n

O compromisso p\u00fablico contra a tecnologia requer urg\u00eancia, uma vez que quanto mais gasto p\u00fablico \u00e9 aplicado em infraestruturas do tipo, mais seu uso \u00e9 normalizado e dif\u00edcil se torna o combate \u00e0 sua implementa\u00e7\u00e3o cont\u00ednua e perene.<\/p>\n\n\n\n

1) Reconhecimento facial e vis\u00e3o computacional s\u00e3o t\u00e9cnicas altamente imprecisas, em especial sobre pessoas racializadas<\/strong>
Reconhecimento facial e vis\u00e3o computacional para identifica\u00e7\u00e3o de objetos em imagens e v\u00eddeos s\u00e3o tecnologias altamente imprecisas, com amplo hist\u00f3rico de erros com impactos violentos que desrespeitam os direitos humanos. Os frequentes erros em tecnologias do tipo e similares levaram estudiosos de v\u00e1rios locais no mundo a elaborarem o conceito de \u201cracismo algor\u00edtmico\u201d . Sobre reconhecimento facial, alguns exemplos anedotais ou de pesquisas estruturadas: softwares da IBM, Microsoft, Amazon e outros erram mais em imagens de mulheres negras<\/a>; \u00f3rg\u00e3o estadunidense identificou que sistemas de biometria visual erram de 10 a 100 vezes mais com imagens de pessoas negras ou asi\u00e1ticas<\/a>; Google marca ferramentas em m\u00e3o negra como arma<\/a>; Instagram bloqueia an\u00fancio mostrando favela por \u201cconter armas\u201d que n\u00e3o existem na imagem<\/a>. Veja os casos na Linha do Tempo do Racismo Algor\u00edtmico<\/a>.<\/p>\n\n\n\n

Especificamente sobre casos de erros do reconhecimento facial para seguran\u00e7a p\u00fablica, campo com pouqu\u00edssima transpar\u00eancia, h\u00e1 documenta\u00e7\u00e3o de viol\u00eancias ocasionadas por erros vulgares por todo o mundo, como Salvador<\/a>, Rio de Janeiro<\/a>, Londres<\/a>, Michigan<\/a> etc. Em Londres, uma das poucas implementa\u00e7\u00f5es com auditoria e pesquisa transparentes, o p\u00fablico foi erroneamente identificado em 96% dos casos<\/a>.<\/p>\n\n\n\n

2) A seletividade penal \u00e9 norma nas pol\u00edcias e judici\u00e1rio brasileiros<\/strong>
A seletividade penal<\/a> \u00e9 norma nas pol\u00edcias brasileiras, constru\u00eddas desde o seu in\u00edcio como ferramentas de controle de popula\u00e7\u00f5es vulner\u00e1veis e manuten\u00e7\u00e3o de rela\u00e7\u00f5es de explora\u00e7\u00e3o e subjuga\u00e7\u00e3o de classe, racialmente e patriarcalmente definidas<\/a>. Adicionalmente, a pol\u00edcia \u201cerra\u201d com mais frequ\u00eancia contra pessoas negras e pobres<\/a>. Portanto, mesmo se sequer tomarmos uma posi\u00e7\u00e3o explicitamente abolicionista, n\u00e3o podemos apoiar a implementa\u00e7\u00e3o de mais mecanismos de promo\u00e7\u00e3o do encarceramento. Mesmo se tiv\u00e9ssemos tecnologias \u201cprecisas\u201d de reconhecimento facial, tais v\u00e3o contra projetos humanos de sociedade por avan\u00e7ar o encarceramento de pessoas, em grande parcela atrav\u00e9s de puni\u00e7\u00e3o por crimes sem v\u00edtima<\/a>.<\/p>\n\n\n\n

Os dados sobre pessoas presas por reconhecimento facial no Brasil n\u00e3o s\u00e3o transparentes, mas organiza\u00e7\u00f5es como o Centro de Estudos de Seguran\u00e7a e Cidadania levantaram que 90,5% das pris\u00f5es realizadas com a tecnologia foram de pessoas negras<\/a>.<\/p>\n\n\n\n

3) Tecnologias digitais vistas como \u201cneutras\u201d ou \u201cobjetivas\u201d favorecem ainda mais excessos de policiais<\/strong>
Alguns estudos emergentes descobriram que a percep\u00e7\u00e3o popular \u2013 e err\u00f4nea \u2013 de que tecnologias digitais s\u00e3o neutras favorecem excessos de policiais, que agem impulsivamente aos primeiros sinais ou ind\u00edcios oferecidos pelas tecnologias. A media\u00e7\u00e3o tecnol\u00f3gica tamb\u00e9m cria mais barreiras entre suspeitos e policiais, promovendo ainda mais a desumaniza\u00e7\u00e3o ao tirar possibilidades de remedia\u00e7\u00e3o face a face na rela\u00e7\u00e3o social.<\/p>\n\n\n\n

Dois casos sobre reconhecimento que exemplificam o problema: em pris\u00e3o de homem em Michigan, o suspeito precisou mostrar repetidamente aos policiais o quanto a foto do homem nas imagens da c\u00e2mera de seguran\u00e7a em nada se parecia nem com ele nem com a sua foto da base de dados. Apesar disso, os policiais custaram a questionar a autoridade do sistema computacional .<\/p>\n\n\n\n

Em etnografia realizada na implementa\u00e7\u00e3o do sistema de reconhecimento em Londres, pesquisadores observaram que policiais desrespeitavam os protocolos constru\u00eddos para decidir se a abordagem seria realizada ou n\u00e3o<\/a>. Segundo o estudo, era comum \u201coficiais de rua n\u00e3o esperarem pelo processo de decis\u00e3o na sala de controle \u2013 um claro exemplo de presun\u00e7\u00e3o em favor da interven\u00e7\u00e3o\u201d , refor\u00e7ando o perigo da rela\u00e7\u00e3o violenta de tais tecnologias com a cultura policial, independente da precis\u00e3o ou imprecis\u00e3o da an\u00e1lise de reconhecimento.<\/p>\n\n\n\n

4) O mercado de intelig\u00eancia artificial esconde o funcionamento de seus sistemas usando a defesa por \u201csegredo de neg\u00f3cio\u201d ou \u201cinexplicabilidade algor\u00edtmica\u201d<\/strong>
T\u00e9cnicas de intelig\u00eancia artificial cresceram em complexidade a partir de l\u00f3gicas conexionistas de aprendizado profundo em aprendizado de m\u00e1quina<\/a>. Uma das caracter\u00edsticas deste avan\u00e7o \u00e9 a escala de c\u00e1lculo de correla\u00e7\u00f5es entre dados e resultados desejados no sistema que n\u00e3o permite auditoria humana detalhada. Apesar de n\u00e3o permitir a plena compreens\u00e3o humana das \u201cdecis\u00f5es\u201d do sistema , s\u00e3o usadas assim que cumprem objetivos de neg\u00f3cio. Os impactos comumente s\u00e3o percebidos apenas muito depois da implementa\u00e7\u00e3o, por jornalistas ou grupos de defesa de direitos humanos.<\/p>\n\n\n\n

Vinculado a esta l\u00f3gica, as grandes corpora\u00e7\u00f5es de tecnologia recha\u00e7am auditorias algor\u00edtmicas ao alegarem \u201csegredo de neg\u00f3cio\u201d<\/a>. Poucas decis\u00f5es judiciais buscando repara\u00e7\u00e3o de dados firmam a posi\u00e7\u00e3o pela transpar\u00eancia<\/a>.<\/p>\n\n\n\n

5) Tecnologias do tipo no espa\u00e7o p\u00fablico pressup\u00f5em e fortalecem sociedade vigilantista<\/strong>
Mesmo desconsiderando os fatores acima, a dissemina\u00e7\u00e3o de tecnologias de vigil\u00e2ncia ub\u00edquas e pervasivas favorece uma compreens\u00e3o da sociedade e espa\u00e7o p\u00fablico como lugar de suspei\u00e7\u00e3o cont\u00ednua e indiscriminada. O impacto da aceita\u00e7\u00e3o da vigil\u00e2ncia pervasiva para a sa\u00fade do tecido social \u00e9 um fator ainda desconhecido, que pode promover ainda mais a demoniza\u00e7\u00e3o do espa\u00e7o p\u00fablico e da rua.<\/p>\n\n\n\n

6) N\u00e3o podemos pressupor boa-f\u00e9 de corpora\u00e7\u00f5es de tecnologia<\/strong>
A \u00faltima d\u00e9cada demonstrou in\u00fameros casos de v\u00ednculos problem\u00e1ticos de corpora\u00e7\u00f5es de tecnologia – respons\u00e1veis por sistemas de intelig\u00eancia artificial, tecnologias biom\u00e9tricas, dispositivos digitais ou armazenamento de dados \u2013 a projetos autorit\u00e1rios e imperialistas. Da influ\u00eancia do Facebook no Brexit e elei\u00e7\u00f5es americanas<\/a>, extremismo digital no YouTube<\/a> e lobby da Google<\/a> no Conselho Administrativo de Defesa Econ\u00f4mica, a rela\u00e7\u00e3o de corpora\u00e7\u00f5es big tech ou startups de tecnologia com projetos autorit\u00e1rios e eugenistas \u00e9 comum.<\/p>\n\n\n\n

Devido \u00e0 incompreens\u00e3o do valor dos dados e colonialismo digital, institui\u00e7\u00f5es p\u00fablicas brasileiras recorrem a usar servi\u00e7os de tais organiza\u00e7\u00f5es, pondo n\u00e3o s\u00f3 cidad\u00e3os como a pr\u00f3pria soberania nacional em risco. Entre exemplos recentes, est\u00e3o: o relatado pela pesquisa Educa\u00e7\u00e3o Vigiada<\/a><\/em>, sobre a exporta\u00e7\u00e3o os dados de universidades e secretarias de educa\u00e7\u00e3o brasileiras; o uso de servidor Oracle pelo TSE nas elei\u00e7\u00f5es 2020<\/a>; e vazamento de dados de 533 milh\u00f5es de usu\u00e1rios<\/a> de Facebook em todo o mundo .<\/p>\n\n\n\n

<\/p>\n\n\n\n

7) Vazamentos de dados vitimam empresas de tecnologias de todos os portes<\/strong>
Mesmo se os argumentos anteriores n\u00e3o estivessem presentes, o vazamento de dados por invas\u00e3o criminosa de servidores ou problemas t\u00e9cnicos \u00e9 um risco que desencoraja a permiss\u00e3o do ac\u00famulo de dados massivos, em especial se biom\u00e9tricos. Casos cada vez mais frequentes de vazamento de dados s\u00e3o descobertos e institui\u00e7\u00f5es brasileiras<\/a> que devem abord\u00e1-los ou puni-los s\u00e3o coniventes com projetos de privatiza\u00e7\u00e3o do estado. Em eventuais e prov\u00e1veis vazamento de dados sens\u00edveis como biometria e informa\u00e7\u00f5es gen\u00e9ticas, o dano \u00e0 sociedade \u00e9 irrevers\u00edvel e imprevis\u00edvel.<\/p>\n\n\n\n

<\/p>\n\n\n\n

8) A infraestrutura de vigil\u00e2ncia aumenta potencial violento de projetos autorit\u00e1rios<\/strong>
A dissemina\u00e7\u00e3o de tecnologias de vigil\u00e2ncia estabelecida no espa\u00e7o p\u00fablico mesmo que seja aplicada apenas para fins do que \u00e9 considerado hoje socialmente adequado em termos de seguran\u00e7a p\u00fablica e persecu\u00e7\u00e3o penal, cria potenciais violentos em governos antidemocr\u00e1ticos. A infraestrutura estabelecida em contextos com alguma garantia institucional pode ser facilmente arma de potencial in\u00e9dito de dano em ditaduras ou guerras civis.<\/p>\n\n\n\n

<\/p>\n\n\n\n

9) A imprecis\u00e3o da tecnologia e infra\u00e7\u00f5es de direitos humanos s\u00e3o mais intensas para pessoas trans<\/strong>
A ideologia de produ\u00e7\u00e3o de sistemas de intelig\u00eancia artificial, em especial o reconhecimento facial, se calca em ideologias patriarcais, euroc\u00eantricas e normativas sobre corpo, sexualidades e g\u00eanero. Pesquisadoras da Coding Rights<\/a> apontam que tecnologias do tipo \u201creiteram e refor\u00e7am estere\u00f3tipos de g\u00eanero ao classificar os rostos a partir de crit\u00e9rios definidos na pr\u00f3pria cria\u00e7\u00e3o das bases de dados que, em geral, s\u00e3o enviesadas tanto nas pol\u00edticas de g\u00eanero, quanto nas pol\u00edticas raciais\u201d .<\/p>\n\n\n\n

<\/p>\n\n\n\n

10) O custo-benef\u00edcio para captura de condenados n\u00e3o justifica a coleta massiva<\/strong>
Na milion\u00e1ria implementa\u00e7\u00e3o de reconhecimento facial em Londres, as bases reuniam fotos de mais de 2.400 suspeitos que geraram apenas 8 pris\u00f5es. Dados proporcionais ainda piores s\u00e3o reportados no Brasil, onde gigantesca infraestrutura de reconhecimento facial foi implementada na Micareta de Feira de Santana, Bahia, coletando e vulnerabilizando 1,3 milh\u00f5es de rostos para o cumprimento de apenas 18 mandados<\/a>.<\/p>\n\n\n\n

<\/p>\n\n\n\n

Imagem do card: https:\/\/www.flickr.com\/photos\/electronicfrontierfoundation\/39225139155<\/em> <\/p>\n","protected":false},"excerpt":{"rendered":"

As tecnologias digitais baseadas em intelig\u00eancia artificial para ordena\u00e7\u00e3o e vigil\u00e2ncia de cidad\u00e3os no espa\u00e7o p\u00fablico ganham mais mercado devido \u00e0 evolu\u00e7\u00e3o t\u00e9cnica e barateamento na \u00faltima d\u00e9cada. Vigil\u00e2ncia e persecu\u00e7\u00e3o de suspeitos por reconhecimento facial n\u00e3o \u00e9 algo novo mas tem recebido mais aten\u00e7\u00e3o tanto por quest\u00f5es t\u00e9cnicas que aumentam o acesso a tais […]<\/p>\n","protected":false},"author":6,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[2549],"tags":[2711,2603,2660,2712],"class_list":["post-12145","post","type-post","status-publish","format-standard","hentry","category-inteligencia-artificial-e-algoritmos","tag-banimento-do-reconhecimento-facial","tag-racismo-algoritmico","tag-reconhecimento-facial","tag-seletividade-penal"],"_links":{"self":[{"href":"https:\/\/tarciziosilva.com.br\/blog\/wp-json\/wp\/v2\/posts\/12145","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/tarciziosilva.com.br\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/tarciziosilva.com.br\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/tarciziosilva.com.br\/blog\/wp-json\/wp\/v2\/users\/6"}],"replies":[{"embeddable":true,"href":"https:\/\/tarciziosilva.com.br\/blog\/wp-json\/wp\/v2\/comments?post=12145"}],"version-history":[{"count":15,"href":"https:\/\/tarciziosilva.com.br\/blog\/wp-json\/wp\/v2\/posts\/12145\/revisions"}],"predecessor-version":[{"id":12168,"href":"https:\/\/tarciziosilva.com.br\/blog\/wp-json\/wp\/v2\/posts\/12145\/revisions\/12168"}],"wp:attachment":[{"href":"https:\/\/tarciziosilva.com.br\/blog\/wp-json\/wp\/v2\/media?parent=12145"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/tarciziosilva.com.br\/blog\/wp-json\/wp\/v2\/categories?post=12145"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/tarciziosilva.com.br\/blog\/wp-json\/wp\/v2\/tags?post=12145"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}