Dos autômatos e robôs às redes difusas de agência no racismo algorítmico

[Texto originalmente publicado no livro Vestígios do Futuro: 100 Anos de Isaac Asimov. Veja como citar ao final]

Antes de Isaac Asimov, talvez o mundo ocidental só tenha se deparado com a profundidade dos impactos sociais e especulativos da ficção científica com Mary Shelley, que inventou Frankenstein e sua criatura. Quase 100 anos antes do nascimento de Asimov, Shelley é considerada a mãe da ficção científica ao construir uma narrativa em torno de uma criatura feita de pedaços de corpos reanimados. A abordagem ficcional especulava sobre os avanços da ciência e os desafios éticos de então, mas também era uma estória em torno da inevitabilidade do destino.

Frontispício da edição de 1831 de Frankenstein

O monstro de Frankenstein e o imaginário sobre os robôs de hoje devem muito aos mitos do golem na Antiguidade e aos autômatos dos séculos XVII e XVIII. Na convergência com a Revolução Industrial, porém, aqueles últimos foram responsáveis por multiplicar as metáforas que promoveram o deslocamento da agência das máquinas, escondendo trabalho, expropriação de materiais e outras variáveis político-sociais do entendimento popular sobre artefatos com determinados graus aparentes de autonomia.

Talvez um dos mais interessantes autômatos do período foi o chamado “turco mecânico”. Criado pelo inventor húngaro Wolfgang von Kempelen, simulava o exotismo de um autômato turco que jogava xadrez de forma impecável contra oponentes humanos. O autômato era composto de uma peça humanoide com vestuário da Turquia e uma mesa sobre a qual o tabuleiro de xadrez era operado aparentemente de forma independente.

Levado a turnês por vários países europeus e EUA entre 1770 e 1854, alegadamente jogou com figuras históricas como Napoleão Bonaparte e Benjamin Franklin. Entre o fascínio e curiosidade de filósofos e cientistas da época e o medo de parte da população de que havia demônios dentro do artefato, a solução era muito mais prosaica: tratava-se apenas de uma farsa. Com o uso de ímãs e intricadas peças, um operador humano dentro da máquina movimentava as peças de xadrez a cada jogada.

Debruçado sobre os autômatos do século XVIII, o historiador de tecnologia Edward Jones-Imhotep conta a história da ideação de “fábricas fantasmas”, imaginadas por inventores empreendedores que vislumbravam um futuro em breve onde fábricas têxteis inteiras seriam totalmente automatizadas. Para seu funcionamento, seria necessária apenas uma pessoa – até mesmo apenas uma jovem garota, para choque redobrado na época – responsável por ligar, desligar e checar que nada atrapalhe as máquinas.

O vislumbre futurístico acima foi publicado em 1745 para anunciar as obras de Jacques de Vaucanson, inventor responsável por muitos mecanismos “autômatos” que fizeram história mas, defende Jones-Imhotep, sobretudo popularizou um modo de falar sobre máquinas. Em convergência com a defesa iluminista de valores particulares de governança e individualidade, os discursos da elite europeia da época em torno dos autômatos estabeleceram as bases de como falamos de máquinas e inteligência artificial hoje. Ver “máquinas como autônomas, então, historicamente significou não ver certos tipos de trabalho e as pessoas que o performam”[1].

O próprio nome da Amazon Mechanical Turk, o principal fornecedor de trabalho distribuído de micro-trabalho formatado pela égide do crowdsourcing demonstra o aceno explícito a esta história de ocultação de trabalho repetitivo e sub-valorizado. Inúmeros esforços tidos como inovadores na inteligência artificial tratam-se de camadas de qualificação, embalagem e marketing pelo Vale do Silício sobre literalmente milhões de pequenas decisões feitas por trabalhadores de países empobrecidos com baixa regulação trabalhista, como Filipinas, Marrocos e Índia.

Ideações sobre a inteligência artificial geral, aquela que algum dia poderia replicar de forma multidimensional fatores como criatividade, autonomia e autorreflexão dos humanos, são impulsionadas em grande medida por dois fatores: o fascínio – e lucratividade decorrente – dos produtos narrativos sobre robôs super inteligentes que se revoltam contra os humanos ou, ainda, partem seus corações; e a abundância de agentes do capital financeiro que acreditam que a inteligência artificial geral está logo ali – e que seus inventores e financiadores receberão vantagens astronômicas.

Entretanto, a inteligência artificial estreita – aquela que está no nosso dia a dia em recursos de visão computacional, reconhecimento facial, processamento de linguagem natural, escores de crédito, recomendação de conteúdo, predição de riscos e afins é tão ou mais interessante que a geral. E, sobretudo, mais premente. Argumentaria até que em grande medida a obra de Isaac Asimov é tão ou mais relevante para um mundo pré-inteligência artificial geral (que provavelmente nunca irá existir) do que para a ideação de possibilidades efusivas de robôs verdadeiramente inteligentes. As incidências multidirecionais entre tecnologia, sociedade e política são necessárias para discutir o agora.

Debates sobre atribuição, responsabilidade e agência, porém, frequentemente referenciam e bebem das ideações e reflexões basilares de pensadores como Isaac Asimov. Não por acaso, um interessante diálogo entre John M. Balkin e Frank Pasquale surgiu a partir da proposição, pelo primeiro, de Três Leis da Robótica na Era do Big Data, proposição na qual tais leis basilares tratam da sociedade algorítmica como um todo, incluindo IA e robôs. Balkin argumenta que as três leis, ou melhor, os três princípios legais, são:detentores de sistemas algorítmicos são fiduciários de informação; que as pessoas que usam e implementam os sistemas tem deveres públicos também para as pessoas que não são clientes, consumidoras ou usuárias finais; e que o dever público central dos detentores dos sistemas envolve evitar externalizar os custos/danos de suas operações[2].

Frank Pasquale, por sua vez, debate as proposições de Balkin com uma preocupação especial em torno de transparência e atribuição. A rastreabilidade de delegações dos sistemas é essencial e se torna mais difícil quando se trata de artefatos com mobilidade e letalidade individualizada, tais como drones. Deste modo, Pasquale propõe a importante inclusão de uma quarta lei às de Balkin, que seria enunciada como “um robô [ou sistema algorítmico] deve sempre indicar a identidade de seu criador, controlador ou proprietário”[3].

Deste ponto podemos evocar o que Latour, e outros teóricos da tríade ciência-tecnologia-sociedade, defende ao afirmar que “tecnologia é sociedade feita durável[4]. Apesar dos esforços de pesquisadores, ativistas, desenvolvedores e juristas, a assimetria de poder entre a cidadania global frente aos grandes oligopólios de tecnologia provenientes dos grupos neoimperialistas nos países centrais impõe barreiras quase intransponíveis. O lobby político, econômico e cultural da lógica technochauvinista em prol da implementação de mais e mais tecnologias de ordenação, vigilância e predição através do aprendizado de máquina para geração de mais lucro e desigualdade parece implacável.

Com a continuidade de séculos de supremacismo branco a partir dos esforços coloniais e novas colonialidades centradas na Europa e EUA, não foi surpresa aos atentos a emergência do racismo algorítmico. De plataformas de mídias sociais a tecnologias carcerárias de vigilância, a distribuição racializada de poder e opressão reproduz privilégios e discriminações em prol do fornecimento de capital – financeiro e social – a poucos, em detrimento das maiorias vulnerabilizadas do Sul Global e das periferias do Norte.

Não só o racismo algorítmico intensifica e brutaliza ainda mais a distribuição de poder em prol da branquitude, como também promove a opacidade dos seus mecanismos com o apoio da lógica do aprendizado de máquina. Sistemas de ordenação de valores, oportunidades, vigilância e respeito à humanidade são alimentados com histórico de milhares de pontos de dados desiguais, reproduzindo as dinâmicas sociais-políticas do passado em um loop de feedback cada vez mais opaco. Os casos auditados ou desvelados são inúmeros[5], mas parecem representar apenas uma pequena parte dos sistemas algorítmicos efetivamente implementados e ainda não-auditados ou analisados. Gostaria de focar em um caso especialmente pertinente ao tema em questão.

Em 2019, pesquisadores[6] publicaram na revista Science importante estudo sobre algoritmos comerciais de predição de necessidades de cuidados médicos, provando que milhões de pacientes negros receberam atribuição a escores de risco que os prejudicava. Em determinados escores de riscos atribuídos aos avaliados em triagens médicas, pacientes negros estavam na verdade muito mais doentes do que os pacientes brancos – e em índices alarmantes.

Ao investigar a origem da disparidade na base de dados, os pesquisadores descobriram que os dados que alimentavam o sistema estavam absurdamente enviesados: médicos tomavam frequentemente decisões de atribuir menos recursos a pacientes negros. Como essa métrica foi aplicada acriticamente como um proxy para supor a condição real dos pacientes, o que o algoritmo fez foi reproduzir, intensificar e esconder as decisões racistas granulares dos médicos que trabalhavam nas clínicas e hospitais fontes de dados para o sistema.

Este caso nos aponta muitos fatos e variáveis sobre a desinteligência artificial. Os mais óbvios tratam da incompetência (no mínimo) dos desenvolvedores que consideraram a métrica de “recursos gastos” como equivalente a “condições de saúde” e sobre a desumana negligência dos provedores e hospitais particulares de saúde que usaram o sistema algorítmico para otimizar custos, sem exigir auditorias prévias, uma vez que deveriam ser conscientes da factualidade discriminatória na saúde pública.

O caso também nos conta algo além. Se a comercialização de sistemas algorítmicos tem como característica fundamental a tentativa de impor opacidade nos fluxos de trabalho que os mantem, o que podemos dizer de sistemas algorítmicos baseados em aprendizado de máquina sobre milhares ou milhões de pontos de dados de decisões racistas que já estavam em andamento? Cada vez que um médico ignorou a dor de uma pessoa negra, escolheu um procedimento menos eficaz por ser mais barato ou deu atenção apenas a seus iguais, o impacto foi direto naquele paciente e se somou, como ponto de dado, à bases que permitiriam a automatização em escala das decisões racistas[7]. Ironicamente, a auditoria realizada no estudo jogou luz não só sobre os horrores da desinteligência artificial, mas também sobre os horrores das decisões realizadas por cossignatários de um contrato racial[8] em prol da branquitude violenta antes de sequer virarem dados.

Então, apesar do que leituras apressadas da obra de Isaac Asimov e outros escritores clássicos de ficção científica podem incentivar, é preciso ir além de debates óbvios sobre temas como “direitos dos robôs” ou impactos possíveis de uma improvável inteligência artificial geral. Antes precisamos concordar com Abeba Birhane e Jelle van Dijk ao defender que deveríamos focar no “bem-estar de grupos marginalizados […] que são desproporcionalmente impactados pela integração da tecnologia em nossas vidas cotidianas[9]. Em um mundo onde decisões racistas são novamente normalizadas ao serem transformadas em dados, perdendo as conexões de delegação e ganhando ares de neutralidade, não podemos perder de vista o compromisso de discutir as redes de poder e opressão incorporadas na tecnologia hoje.


Notas

[1] Edward Jones-Imhotep, “The ghost factories: histories of automata and artificial life”, History and Technology, vol. 36, n.1, 2020, p.10.

[2] Jack M. Balkin, “The Three Laws of Robotics in the Age of Big Data”, Ohio State Law Journal, vol. 78, n.5, 2017.

[3] Frank Pasquale, “Toward a Fourth Law of Robotics: Preserving Attribution, Responsibility, and Explainability in an Algorithmic Society”, Ohio State Law Journal, vol. 78, n.5, 2017.

[4] Buno Latour, “Technology is society made durable”, The Sociological Review, vol. 38, n.1, 1990.

[5] Mantenho um mapeamento contínuo em “Linha do Tempo do Racismo Algorítmico” em  https://tarciziosilva.com.br/blog/posts/racismo-algoritmico-linha-do-tempo/

[6] Ziad Obermeyer et al., “Dissecting racial bias in an algorithm used to manage the health of populations”, Science, v. 366, n. 6464, 2019.

[7] Ruha Benjamin, “Assessing Risk, Automating Racism”, Science, v. 366, n. 6464, 2019.

[8] Charles W. Mills, The Racial Contract, Cornell University Press, 2014.

[9] Abeba Birhane; Jelle van Dijk, “Robot Rights? Let’s Talk about Human Welfare Instead”,Proceedings of the AAAI/ACM Conference on AI, Ethics, and Society, 2020, p.6.


Como citar
SILVA, Tarcizio. Dos autômatos e robôs às redes difusas de agência no racismo algorítmico. In: TAVARES, A. R. Vestígios do Futuro: 100 Anos de Isaac Asimov. Rio de Janeiro: Editora Etheria, 2020.

O horror do reconhecimento facial na Bahia, onde poderia ser diferente

O uso de reconhecimento facial para promoção de violência estatal na Bahia constrange a defesa de ideais progressistas na centro-esquerda hegemônica hoje. A adição de mais aparatos policiais e violência estatal não é a solução para problemas sociais, algo que é especialmente agravado quando tratamos de tecnologias baseadas em mecanismos de automatização de decisões com inteligência artificial. Infelizmente o atual governo da Bahia buscou ser a vanguarda do atraso na temática, competindo com Doria e demais governantes bolsonaristas sobre quem promove mais rapidamente projetos de erosão da confiança da população no espaço público. Mas entre ideais e roupagens progressistas e a realidade há um enorme hiato e não é de hoje: o governo Lula foi um dos principais promotores do encarceramento em massa no país.

No atual momento – que seria muito propício para lideranças de centro-esquerda do maior partido do Brasil promoverem novas práticas e imaginários nas políticas públicas, vemos a postura inversa: de elogio a chacinas realizadas por policiais ao investimento ineficiente em tecnologias que promovem o genocídio negro hoje além do potencial de hipervigilância para toda a população no futuro.

Globalmente, moratórias e banimentos do uso de reconhecimento facial no espaço público, em especial pela polícia, estão sendo conquistados por organizações, ativistas e parlamentares. A campanha em torno da “Carta aberta para banimento global de usos de reconhecimento facial e outros reconhecimentos biométricos remotos que permitam vigilância em massa, discriminatória e enviesada” é mais uma demonstração do consenso no campo de direitos humanos contra a tecnologia:

São mais de 175 organizações signatárias de países como Estados Unidos, Reino Unido, Alemanha, Quênia, Brasil, Argentina que fortalecem as evoluções legislativas em torno do mundo que banem o reconhecimento facial do espaço público.

A jornalista Cíntia Falcão produziu recentemente importante reportagem com o título “Lentes Racistas: Rui Costa está transformando a Bahia em um laboratório de vigilância com reconhecimento facial“, que merece leitura atenta e dedicada:

Entre as descobertas, várias infrações aos direitos humanos, privacidade de dados e a desastrosa gestão da coisa pública – os dados sobre investimento e resultados são escandalosos ou ocultos. A importante reportagem explora dados e citações de alguns especialistas no tema no país, como a prolífica produção d’O Panóptico, Rosane Leal da Siva & Fernanda dos Santos Rodrigues da Silva e Pedro Diogo, que afirma que se trata de “polícia que usa esse sistema que realiza chacinas, assassinatos e desaparecimentos, seja oficialmente ou por meio de milícias e grupos de extermínio. E aí vem o sistema de reconhecimento facial a ser instalado e a expandir a capacidade do estado de promover o terror em face da população negra desse país”.


Histórico de horrores: implementar reconhecimento facial é optar pelo genocídio negro

Há diversos tipos de sistemas de reconhecimento facial que podem gerar variadas vulnerabilidades à privacidade, segurança ou direito ao espaço público. Hoje o mais comum é o tipo chamado “um a um” (one-to-one), tecnologias que tentam identificar se a imagem de um determinado rosto corresponde a um rosto específico na base de dados. Por exemplo, para controlar a entrada em um prédio governamental com alta segurança, algumas instituições usam este tipo de recurso. Para tanto, os funcionários que têm autorização de adentrar determinado espaço tem seus rostos fotografados e a cada nova entrada, o rosto da pessoa específica fisicamente no local é comparado aos dados vinculados a seu nome correspondente na base de dados.

Quando falamos de reconhecimento facial na vigilância do espaço público, estamos falando tipo “um a muitos” (one to many) onde os rostos de todas as pessoas que passam por um determinado local são registrados e cruzados com uma base de dados. Nos sistemas mais simples, é uma base de dados de supostos criminosos sendo procurados. Nos mais complexos, podem registrar movimentação de todos os cidadãos no espaço público e até indicadores – cientificamente questionáveis e eticamente deploráveis – que envolvam atribuição de estados emocionais a partir de expressões faciais, modos de andar ou até mesmo quais objetos estão sendo segurados, símbolos e estampas em rostos, tipos de vestuário etc.

Reconhecimento facial e visão computacional para identificação de objetos em imagens e vídeos são tecnologias altamente imprecisas, com amplo histórico de erros com impactos violentos que desrespeitam os direitos humanos. Sobre reconhecimento facial, alguns exemplos pontuais ou de pesquisas estruturadas: softwares da IBM, Microsoft, Amazon e outros erram mais em imagens de mulheres negras; órgão estadunidense identificou que sistemas de biometria visual erram de 10 a 100 vezes mais com imagens de pessoas negras ou asiáticas; Google marca ferramentas em mão negra como arma; Instagram bloqueia anúncio mostrando favela por “conter armas” que não existem na imagem.

Mantenho um mapeamento de casos similares, mas reforço que não se trata apenas do nível de precisão da identificação de um indivíduo no espaço físico em relação a um indivíduo na base de dados. Trata-se sobretudo de modelos de segurança pública, violência estatal, noções de privacidade e de uso da cidade que comprometem o presente e o futuro das sociedades. E tais modelos são sobretudo racistas, de promoção da seletividade penal contra negros, indígenas, imigrantes e/ou pobres.


Mais vigilância e mais tecnologias não são soluções para problemas públicos

Diversos dispositivos, objetos ou tecnologias vistas como inovação foram criadas para controle de cidadãos, sua movimentação no espaço ou mobilidade social. Tecnologias de vigilância desenvolvidas para fins militares e/ou policiais em países do Ocidente e no Brasil fortalecem as desigualdades, castas e apartheids, em particular o genocídio negro no país. O desenho político e econômico de sociedades como a brasileira promove a aceitação de erros e violências em vários momentos de decisão sobre o uso da tecnologia.

Em primeiro lugar, a decisão por mais policiamento, vigilância e violência como reação à problemas de segurança pública tem terreno fértil em países construídos através da escravidão, como Estados Unidos e Brasil, por causa da supremacia branca vigente. O acúmulo de violência e desigualdades sociais atualizado constantemente através do racismo estrutural avança no posicionamento de pessoas negras como menos dignas à vida e direitos.

As instituições policiais no país foram organizadas desde seu início para perseguir pessoas negras tanto escravizadas e alforriadas, em prol da expropriação de trabalho, capital, terras e produção para a acumulação de propriedade em um projeto eugenista.

Em segundo lugar, a própria definição de tipos penais que recebem reação ostensiva da polícia promove foco em infrações sem vítima e comumente frutos de desigualdade e pobreza. Furtos ou roubos famélicos são um exemplo, assim como a criminalização de drogas, em especial a maconha. Com uma das maiores populações penitenciárias do mundo, no Brasil centenas de milhares de pessoas são encarceradas por longos períodos por crimes banais e sem julgamento ou sentença. E a população de encarcerados e encarceradas tem se tornado alvo de experiências de coleta de dados biométricos e genéticos.

Em terceiro lugar, este panorama de coisas facilita a prática de injustiças no sistema penal e a definição de tecnologias de apoio ao aparato policial. Sistemas algorítmicos e tecnologias com qualquer tipo de automatização de processos são muito imprecisas, mas são implementadas a toque de caixa e aceitas socialmente pois as vítimas da violência estatal são sobretudo pessoas negras. Os mecanismos de controle social das tecnologias policiais enfrentam problemas devido ao racismo pervasivo no funil da criminalização, prisão, julgamento, encarceramento e marginalização posterior.

Por fim, mesmo em países onde a letalidade policial é centenas de vezes menor do que a do Brasil, a inclusão de tecnologias apenas aparentemente objetivas no processo de vigilância promove excessos dos policiais. Em etnografia realizada na implementação do sistema de reconhecimento em Londres, pesquisadores observaram que policiais desrespeitavam os protocolos construídos para decidir se a abordagem seria realizada ou não. Segundo o estudo, era comum “oficiais de rua não esperarem pelo processo de decisão na sala de controle – um claro exemplo de presunção em favor da intervenção”, reforçando o perigo da relação violenta de tais tecnologias com a cultura policial, independente da precisão ou imprecisão da análise de reconhecimento.

Temos décadas de dados em torno do mundo e em países similares ao Brasil que mostram que violência estatal e vigilância pervasiva não são soluções para problemas de segurança pública. Ao contrário, a promoção do bem-estar social através do combate às desigualdades, remediações de impactos do racismo, descriminalização das drogas e priorização de indicadores de emprego e qualidade de vida na definição de políticas públicas é o caminho para combater a violência.

Reconhecimento facial deve ser banido. Veja dez razões:

As tecnologias digitais baseadas em inteligência artificial para ordenação e vigilância de cidadãos no espaço público ganham mais mercado devido à evolução técnica e barateamento na última década. Vigilância e persecução de suspeitos por reconhecimento facial não é algo novo mas tem recebido mais atenção tanto por questões técnicas que aumentam o acesso a tais recursos, inclusive através de lobby das corporações de big tech, quanto pelo avanço de ideologias violentas de extrema-direita.

No Brasil, tecnologias do tipo estão sendo implementadas por governos de diferentes espectros ideológicos, como Bahia, São Paulo e Rio de Janeiro para citar alguns exemplos. A principal tecnologia que busca normalizar o estado completo de vigilância potencial é o reconhecimento facial, proposta e defendida em diversos níveis do executivo e legislativo. Estudo promovido pela Intervozes mostrou que “dentre os 26 prefeitos de capitais empossados em janeiro de 2021, 17 apresentaram propostas que, de algum modo, preveem o uso das tecnologias de informação e comunicação na segurança pública”.

O compromisso público contra a tecnologia requer urgência, uma vez que quanto mais gasto público é aplicado em infraestruturas do tipo, mais seu uso é normalizado e difícil se torna o combate à sua implementação contínua e perene.

1) Reconhecimento facial e visão computacional são técnicas altamente imprecisas, em especial sobre pessoas racializadas
Reconhecimento facial e visão computacional para identificação de objetos em imagens e vídeos são tecnologias altamente imprecisas, com amplo histórico de erros com impactos violentos que desrespeitam os direitos humanos. Os frequentes erros em tecnologias do tipo e similares levaram estudiosos de vários locais no mundo a elaborarem o conceito de “racismo algorítmico” . Sobre reconhecimento facial, alguns exemplos anedotais ou de pesquisas estruturadas: softwares da IBM, Microsoft, Amazon e outros erram mais em imagens de mulheres negras; órgão estadunidense identificou que sistemas de biometria visual erram de 10 a 100 vezes mais com imagens de pessoas negras ou asiáticas; Google marca ferramentas em mão negra como arma; Instagram bloqueia anúncio mostrando favela por “conter armas” que não existem na imagem. Veja os casos na Linha do Tempo do Racismo Algorítmico.

Especificamente sobre casos de erros do reconhecimento facial para segurança pública, campo com pouquíssima transparência, há documentação de violências ocasionadas por erros vulgares por todo o mundo, como Salvador, Rio de Janeiro, Londres, Michigan etc. Em Londres, uma das poucas implementações com auditoria e pesquisa transparentes, o público foi erroneamente identificado em 96% dos casos.

2) A seletividade penal é norma nas polícias e judiciário brasileiros
A seletividade penal é norma nas polícias brasileiras, construídas desde o seu início como ferramentas de controle de populações vulneráveis e manutenção de relações de exploração e subjugação de classe, racialmente e patriarcalmente definidas. Adicionalmente, a polícia “erra” com mais frequência contra pessoas negras e pobres. Portanto, mesmo se sequer tomarmos uma posição explicitamente abolicionista, não podemos apoiar a implementação de mais mecanismos de promoção do encarceramento. Mesmo se tivéssemos tecnologias “precisas” de reconhecimento facial, tais vão contra projetos humanos de sociedade por avançar o encarceramento de pessoas, em grande parcela através de punição por crimes sem vítima.

Os dados sobre pessoas presas por reconhecimento facial no Brasil não são transparentes, mas organizações como o Centro de Estudos de Segurança e Cidadania levantaram que 90,5% das prisões realizadas com a tecnologia foram de pessoas negras.

3) Tecnologias digitais vistas como “neutras” ou “objetivas” favorecem ainda mais excessos de policiais
Alguns estudos emergentes descobriram que a percepção popular – e errônea – de que tecnologias digitais são neutras favorecem excessos de policiais, que agem impulsivamente aos primeiros sinais ou indícios oferecidos pelas tecnologias. A mediação tecnológica também cria mais barreiras entre suspeitos e policiais, promovendo ainda mais a desumanização ao tirar possibilidades de remediação face a face na relação social.

Dois casos sobre reconhecimento que exemplificam o problema: em prisão de homem em Michigan, o suspeito precisou mostrar repetidamente aos policiais o quanto a foto do homem nas imagens da câmera de segurança em nada se parecia nem com ele nem com a sua foto da base de dados. Apesar disso, os policiais custaram a questionar a autoridade do sistema computacional .

Em etnografia realizada na implementação do sistema de reconhecimento em Londres, pesquisadores observaram que policiais desrespeitavam os protocolos construídos para decidir se a abordagem seria realizada ou não. Segundo o estudo, era comum “oficiais de rua não esperarem pelo processo de decisão na sala de controle – um claro exemplo de presunção em favor da intervenção” , reforçando o perigo da relação violenta de tais tecnologias com a cultura policial, independente da precisão ou imprecisão da análise de reconhecimento.

4) O mercado de inteligência artificial esconde o funcionamento de seus sistemas usando a defesa por “segredo de negócio” ou “inexplicabilidade algorítmica”
Técnicas de inteligência artificial cresceram em complexidade a partir de lógicas conexionistas de aprendizado profundo em aprendizado de máquina. Uma das características deste avanço é a escala de cálculo de correlações entre dados e resultados desejados no sistema que não permite auditoria humana detalhada. Apesar de não permitir a plena compreensão humana das “decisões” do sistema , são usadas assim que cumprem objetivos de negócio. Os impactos comumente são percebidos apenas muito depois da implementação, por jornalistas ou grupos de defesa de direitos humanos.

Vinculado a esta lógica, as grandes corporações de tecnologia rechaçam auditorias algorítmicas ao alegarem “segredo de negócio”. Poucas decisões judiciais buscando reparação de dados firmam a posição pela transparência.

5) Tecnologias do tipo no espaço público pressupõem e fortalecem sociedade vigilantista
Mesmo desconsiderando os fatores acima, a disseminação de tecnologias de vigilância ubíquas e pervasivas favorece uma compreensão da sociedade e espaço público como lugar de suspeição contínua e indiscriminada. O impacto da aceitação da vigilância pervasiva para a saúde do tecido social é um fator ainda desconhecido, que pode promover ainda mais a demonização do espaço público e da rua.

6) Não podemos pressupor boa-fé de corporações de tecnologia
A última década demonstrou inúmeros casos de vínculos problemáticos de corporações de tecnologia – responsáveis por sistemas de inteligência artificial, tecnologias biométricas, dispositivos digitais ou armazenamento de dados – a projetos autoritários e imperialistas. Da influência do Facebook no Brexit e eleições americanas, extremismo digital no YouTube e lobby da Google no Conselho Administrativo de Defesa Econômica, a relação de corporações big tech ou startups de tecnologia com projetos autoritários e eugenistas é comum.

Devido à incompreensão do valor dos dados e colonialismo digital, instituições públicas brasileiras recorrem a usar serviços de tais organizações, pondo não só cidadãos como a própria soberania nacional em risco. Entre exemplos recentes, estão: o relatado pela pesquisa Educação Vigiada, sobre a exportação os dados de universidades e secretarias de educação brasileiras; o uso de servidor Oracle pelo TSE nas eleições 2020; e vazamento de dados de 533 milhões de usuários de Facebook em todo o mundo .

7) Vazamentos de dados vitimam empresas de tecnologias de todos os portes
Mesmo se os argumentos anteriores não estivessem presentes, o vazamento de dados por invasão criminosa de servidores ou problemas técnicos é um risco que desencoraja a permissão do acúmulo de dados massivos, em especial se biométricos. Casos cada vez mais frequentes de vazamento de dados são descobertos e instituições brasileiras que devem abordá-los ou puni-los são coniventes com projetos de privatização do estado. Em eventuais e prováveis vazamento de dados sensíveis como biometria e informações genéticas, o dano à sociedade é irreversível e imprevisível.

8) A infraestrutura de vigilância aumenta potencial violento de projetos autoritários
A disseminação de tecnologias de vigilância estabelecida no espaço público mesmo que seja aplicada apenas para fins do que é considerado hoje socialmente adequado em termos de segurança pública e persecução penal, cria potenciais violentos em governos antidemocráticos. A infraestrutura estabelecida em contextos com alguma garantia institucional pode ser facilmente arma de potencial inédito de dano em ditaduras ou guerras civis.

9) A imprecisão da tecnologia e infrações de direitos humanos são mais intensas para pessoas trans
A ideologia de produção de sistemas de inteligência artificial, em especial o reconhecimento facial, se calca em ideologias patriarcais, eurocêntricas e normativas sobre corpo, sexualidades e gênero. Pesquisadoras da Coding Rights apontam que tecnologias do tipo “reiteram e reforçam estereótipos de gênero ao classificar os rostos a partir de critérios definidos na própria criação das bases de dados que, em geral, são enviesadas tanto nas políticas de gênero, quanto nas políticas raciais” .

10) O custo-benefício para captura de condenados não justifica a coleta massiva
Na milionária implementação de reconhecimento facial em Londres, as bases reuniam fotos de mais de 2.400 suspeitos que geraram apenas 8 prisões. Dados proporcionais ainda piores são reportados no Brasil, onde gigantesca infraestrutura de reconhecimento facial foi implementada na Micareta de Feira de Santana, Bahia, coletando e vulnerabilizando 1,3 milhões de rostos para o cumprimento de apenas 18 mandados.

Imagem do card: https://www.flickr.com/photos/electronicfrontierfoundation/39225139155

Cursos gratuitos sobre desigualdades na internet, autocuidado e direitos digitais

A Ação Educativa lançou, com apoio da Mozilla Foundation, uma trilha de cursos sobre internet, direitos digitais e tecnologia com minha curadoria. São cursos gratuitos, gravados, compostos de atividades em vídeo, texto e fóruns de interação – participantes podem fazer no seu tempo, com prazo super elástico! Serão vários cursos, dois já estão disponíveis. Confira:

INTERNET E DESIGUALDADES

O curso Internet e Desigualdades busca oferecer uma introdução sobre os debates em torno das desigualdades no acesso, uso e desenvolvimento da internet. Através da curadoria de dados, reflexões e conceitos sobre a internet como catalisadora de direitos, discute de infraestrutura e dispositivos até questões de raça, gênero e território. Realizado por Tarcízio Silva, pesquisador e Tech + Society Fellow na Mozilla Foundation.

BEM-VIVER NA INTERNET

O curso busca discutir e apresentar estratégias de autocuidado para as/os participantes refletirem sobre suas trajetórias online, indo de camadas individuais à governança da internet e direitos digitais, passando também por táticas coletivas. Baseado em princípios de autodefinição e autocuidado, o curso é composto de quatro módulos que incluem também aulas sobre infodemia em contexto pandêmico, ciberbullying, discurso de ódio e desinformação. Ao final da jornada, apresenta táticas para formação de grupos de apoio baseados em valores como compaixão, expressão, colaboração e respeito aos direitos humanos.

Formadoras: Glenda Dantas, jornalista e co-fundadora da plataforma Conexão Malunga. Pesquisa sobre cibercultura e ciberativismo. Participou do Programa Youth Brasil – Comitê Gestor da Internet 2020; e Mariana Gomes, jornalista co-fundadora da plataforma Conexão Malunga. Pesquisa sobre governança da internet e ciberativismo a partir do feminismo negro. Bolsista do Programa Youth Brasil – Comitê Gestor da Internet 2019. Liderança apoiada pelo Programa de Aceleração do Desenvolvimento Marielle Franco (Baobá Fundo para Equidade Racial) – 2020.

Colonialismo de dados é fruto e arma da supremacia branca

[O texto abaixo é a adaptação de respostas a uma entrevista para reportagem sobre colonialismo de dados. Como habitual, todas menções à Europa, branquitude e supremacia branca nas respostas foram suprimidas da reportagem final. Testemunhamos em torno do mundo um apagamento do colonialismo “histórico” na formatação das condições para emergência das big tech e também o apagamento de como as colonialidades do poder, do ser e do saber se relacionam com tecnologia na distribuição de hierarquias de humanidade nas dominações globais.]

Práticas de extração e processamento de dados reproduzem fluxos de apropriação de capital e epistemes típicas de sanhas coloniais que moldaram o mundo, em especial em torno do Atlântico. O domínio de meios informacionais de circulação de dados é realizado através da plataformização de mais e mais esferas sociais através da datificação. Comunicação e esfera pública centrada nas mídias sociais, trocas financeiras de serviços centradas em aplicativos mobile e mesmo trocas afetivo-sexuais são registradas e monetizadas em softwares dominados por grupos dominantes que tem a capacidade de selecionar, criar, adquirir ou copiar serviços de startups que se destacam nos negócios da tecnologia.

Quando o capital financeiro global consegue realizar dumping em países dominados pelas potências europeias e EUA, mercados e indústrias locais são fragilizados graças ao controle das trocas realizadas nas plataformas. Dos aplicativos de transporte até tecnologias biométricas, passando por plataformas de mídias sociais, o colonialismo de dados reproduz a dominação dos fluxos e trocas em favor dos grandes centros e de grupos demográficos específicos quanto a raça, classe e gênero. O trabalho gratuito ou precarizado de centenas de milhões em torno do mundo desemboca, ao fim e ao cabo, na concentração de recursos dos negócios bilionários da tecnologia que se reinventaram para se apresentar a público como uma miríade de milhares de marcas ou, mesmo, pela ficção da “economia compartilhada” que oculta tal concentração.

Levando os fluxos de interesse em conta, com certeza a articulação pela produção intelectual e práxis sócio-política descolonial é uma necessidade para o avanço das ciências e soberania epistemológica do país, mas em grande medida o fluxo de ideias sobre algumas chaves teórico-conceituais em torno do colonialismo de dados reproduz a direção Norte-Sul. Uma agenda de pesquisa brasileira que se coloca voluntariamente como “à margem” dos centros passa a reproduzir um olhar eurocêntrico sobre sua produção. Ao consumir de forma assimétrica as produções europeias sobre caminhos descoloniais ou, ainda, abarcar a ideia de um pós-colonial, corremos o risco de produzir, literalmente, para “inglês ver”. Acredito na possibilidade de intensificação de articulações Sul-Sul que promovam a conexão do Brasil com a diversidade da América Latina e da África para conexões intelectuais que desenvolvam imaginários que não busquem a chancela eurocêntrica.

Minha pesquisa atual especificamente gira em torno do conceito de racismo algorítmico, que o modo pelo qual a disposição de tecnologias e imaginários sociotécnicos em um mundo moldado pela supremacia branca fortalece a ordenação racializada de epistemes, recursos, espaço e violência em detrimento de grupos racializados pela branquitude detentora das epistemologias e capitais hegemônicos que moldam o horizonte de ações da inteligência artificial em sistemas algorítmicos.

As práticas em torno da base de imagens etiquetadas ImageNet formam um dos exemplos mais loquazes sobre como o colonialismo de dados molda práticas e modelos que ganham incrementalmente camadas de opacidade até o ponto de serem tomados como naturais e promovem algoritmicamente o racismo. Esta base de imagens possui milhões de fotografias extraídas sem consentimento através de web scraping em buscadores. Foi etiquetada – ou seja, marcada com categorias para permitir o aprendizado de máquina – sobretudo através de trabalho do modelo “crowdsourced” realizado por profissionais precarizados em países como Filipinas e Índia. As imagens eram provenientes em sua absoluta maioria de países europeus e EUA, hipervisibilizando pessoas e ambientes destes países e invisibilizando estéticas do Sul Global. A partir deste treinamento de máquina, competições de construção de modelos algorítmicos para identificação de imagens foram realizados por centros científicos dos países afluentes. Como resultado, isto significou a reprodução opaca de modelos algorítmicos de interpretação de imagens em visão computacional que apaga ou interpreta erroneamente pessoas e ambientes não-eurocêntricos ao mesmo tempo que transferiu trabalho e recursos reproduzíveis e escaláveis para os centros afluentes da tecnologia global.

A própria existência de um oligopólio tecnológico que domina grande fatia do tempo, produção intelectual e comunicacional dos cidadãos e o valor financeiro decorrente é um empecilho inerente ao uso construtivo da internet para o bem estar social. Avança a discussão sobre a necessidade de desmembrar oligopólios do chamado FAANG – Facebook, Amazon, Apple, Netflix e Alphabet (a detentora do Google). Cada uma dessas corporações possui amplos conglomerados de empresas em setores como comunicação, mídia, inteligência artificial, varejo, infraestrutura e muitos outros, podendo cruzar dados de cada a seu bel-prazer e desenvolver modelos de ingerência nas esferas sociais, econômicas e políticas.

Neste sentido, vimos na última década como tal oligopólio se posicionou em um local privilegiado para interpretação da realidade social através da promoção da ideologia de mensuração científica de big data. Com centenas de cientistas, contratados a partir das melhores universidades do mundo, engajados em pesquisa para fins privados, grupos como Facebook e Alphabet acabaram por ter capacidade de interferência no mundo maior do que a de muitos Estados nacionais. Quando falamos de pesquisa científica, temos um risco de diluição do potencial transformador e investigativo de projetos possibilitados por grants financeiros ou acesso apenas a dados que as plataformas julgam confortável compartilhar. Precisamos defender com todas as forças a independência das universidades a esta ingerência privada e alheia aos interesses nacionais.