{"id":11184,"date":"2019-09-22T19:30:13","date_gmt":"2019-09-22T22:30:13","guid":{"rendered":"https:\/\/tarciziosilva.com.br\/blog\/?p=11184"},"modified":"2019-09-25T11:19:02","modified_gmt":"2019-09-25T14:19:02","slug":"raca-depois-da-tecnologia-ferramentas-abolicionistas-contra-os-novos-racismos","status":"publish","type":"post","link":"https:\/\/tarciziosilva.com.br\/blog\/raca-depois-da-tecnologia-ferramentas-abolicionistas-contra-os-novos-racismos\/","title":{"rendered":"Ra\u00e7a Depois da Tecnologia: ferramentas abolicionistas contra os novos racismos"},"content":{"rendered":"

\"\"Publicado em junho deste ano, o livro\u00a0Race after Technology: Abolitionist Tools for the New Jim Code<\/strong><\/a>, de Ruha Benjamin<\/a>,\u00a0\u00e9 uma louv\u00e1vel adi\u00e7\u00e3o \u00e0 atual gera\u00e7\u00e3o de projetos de intelectuais negras estudando tecnologias<\/a> da comunica\u00e7\u00e3o de um modo cr\u00edtico e propositivo em busca de um futuro mais justo poss\u00edvel. Ruha Benjamin<\/a> \u00e9 antrop\u00f3loga, doutora em sociologia, professora da Universidade de Princeton<\/a> e\u00a0fundadora do JUST Data Lab<\/a>, al\u00e9m de pesquisadora associada em diversos institutos. Anteriormente publicou livro sobre as dimens\u00f5es sociais da pesquisa em c\u00e9lulas tronco e tamb\u00e9m lan\u00e7ou este ano a colet\u00e2nea Captivating Technology<\/em><\/a>, sobre tecnoci\u00eancia carcer\u00e1ria e imagina\u00e7\u00e3o libert\u00e1ria.<\/p>\n

O livro\u00a0Race After Technology<\/em>… tem como objetivo discutir as tecnologias digitais e algor\u00edtmicas<\/a> a partir do que Benjamin chama de “Critical STS”, a jun\u00e7\u00e3o da Teoria Racial Cr\u00edtica (TRC) e dos Estudos de Ci\u00eancia, Tecnologia e Sociedade. Para introdu\u00e7\u00f5es \u00e0 esta interface, recomendo dois trabalhos: acabei de finalizar um artigo que resume as colabora\u00e7\u00f5es da TRC \u00e0 comunica\u00e7\u00e3o<\/a>; e artigo da pr\u00f3pria Ruha Benjamin sobre seu conceito de imagina\u00e7\u00e3o carcer\u00e1ria<\/a>.<\/p>\n

Na introdu\u00e7\u00e3o, Benjamin parte de um exemplo curioso e pouco discutido de codifica\u00e7\u00e3o indireta: os nomes e sobrenomes como atalhos para aspectos hist\u00f3ricos e sociais. Benjamin cita diversos casos de uso de nomes africanos e afroamericanos como atalho para discrimina\u00e7\u00e3o, de contrata\u00e7\u00e3o<\/a> a direcionamento perverso de an\u00fancios<\/a>.\u00a0Benjamin usa estes casos cotidianos para lembrar que o cotidiano \u00e9 codificado em v\u00e1rios aspectos e em suas v\u00e1rias esferas. M\u00e9tricas, classifica\u00e7\u00f5es e tecnologias tem pol\u00edticas, das expl\u00edcitas \u00e0s impl\u00edcitas. A autora evoca o conjunto de leis racistas chamadas de Jim Crow que vigoraram do s\u00e9culo XIX \u00e0 metade do XX nos EUA para propor o conceito de “New Jim Code” – um modo sist\u00eamico e hostil de vi\u00e9s hostil e racista cada vez mais integrado e opaco nas tecnologias digitais.<\/p>\n

No primeiro cap\u00edtulo, Engineered Inequity<\/em> (Desigualdade Projetada),\u00a0Benjamin come\u00e7a pelo caso de um concurso de beleza chamado Beauty AI, que supostamente analisava beleza de forma imparcial. Obviamente esta imparcialidade ou universalidade da beleza \u00e9 absurda,\u00a0mas o fato de que um projeto deste foi realizado em pleno 2016 diz muito. Como voc\u00ea pode imaginar, o sistema replicou conceitos de beleza racista e de 44 finalistas, 38 eram brancos. Benjamin segue por outros exemplos para mostrar como o aprendizado de m\u00e1quina subjacente a estas tecnologias repete desigualdades sociais e culturais e suas concentra\u00e7\u00f5es. Em resumo, primeiro cap\u00edtulo fala de como a desigualdade \u00e9 replicada e intensificada na interse\u00e7\u00e3o de ignor\u00e2ncia, omiss\u00e3o e, em alguns casos, inten\u00e7\u00e3o. Particularmente interessante neste cap\u00edtulo \u00e9 a reprodu\u00e7\u00e3o de uma p\u00e1gina de edi\u00e7\u00e3o da revista Mechanix Illustrated de 1957, que previa rob\u00f4s aut\u00f4nomos em breve, veja abaixo:<\/p>\n

\"\"<\/p>\n

O texto \u00e9 simplesmente assustador:\u00a0“Escravid\u00e3o est\u00e1 de volta! Todos n\u00f3s teremos escravos de novo… que v\u00e3o te vestir, pentear seu cabelo e servir refei\u00e7\u00f5es rapidamente. Mas n\u00e3o se alarme. N\u00f3s estamos falando de ‘escravos rob\u00f4s.’<\/em>” .\u00a0Atrav\u00e9s deste e de outros casos, a autora discorre sobre as no\u00e7\u00f5es de poder que s\u00e3o evocadas ou projetadas no desenvolvimento de algumas tecnologias.<\/p>\n

No segundo cap\u00edtulo, Default Discrimination<\/em> (Discrimina\u00e7\u00e3o por Padr\u00e3o), Benjamin vai se perguntar se a discrimina\u00e7\u00e3o pervasiva nas tecnologias digitais \u00e9 um glitch<\/em> do sistema. Ser\u00e1 que \u00e9 um erro, que sai do padr\u00e3o, ou podemos pensar em “discrimina\u00e7\u00e3o por padr\u00e3o”? Comparando tecnologias urbanas como o caso de Robert Moses e outros exemplos de arquitetura hostil a policiamento anal\u00f3gico e digital, Benjamin elabora sobre a anti-negritude como padr\u00e3o na sociedade estadunidense. Lembra que temos de pensar ra\u00e7a em si como tecnologia:<\/p>\n

Se considerarmos ra\u00e7a em si como tecnologia, como um modo de ordenar, organizar e desenhar uma estrutura social assim como a compreens\u00e3o sobre a durabilidade da ra\u00e7a, sua consist\u00eancia e adaptabilidade, n\u00f3s poderemos entender mais claramente a arquitetura literal de poder.<\/p><\/blockquote>\n

No terceiro cap\u00edtulo, Coded Exposure<\/em> (Exposi\u00e7\u00e3o Codificada), a autora se pergunta se a exposi\u00e7\u00e3o\/visibilidade codificada \u00e9 uma armadilha. Aqui ela relembra casos de tecnologias que falham em ver pessoas negras, como j\u00e1 vimos sobre a pesquisa de Joy Buolamwini<\/a> e diversos outros<\/a>. A ideia de visibilidade \u00e9 codificada tamb\u00e9m em diversas tecnologias e seu excesso ou falta s\u00e3o diretamente ligadas a din\u00e2micas raciais de poder.<\/p>\n

\"\"<\/p>\n

Benjamin cita o famoso caso dos “Cart\u00f5es Shirley<\/a>” que eram usados como padr\u00e3o para calibra\u00e7\u00e3o de c\u00e2meras, explicando como a imagem de uma mulher branca deixou de ser o \u00fanico cart\u00e3o somente bem depois da consolida\u00e7\u00e3o da demanda mercadol\u00f3gica por afroamericanos. Entretanto, lembra que ao mesmo tempo disto, empresas como Polaroid ajudaram ativamente o sistema de apartheid na \u00c1frica do Sul<\/a>, apoiando uma hiper-visibilidade criminosa contra a popula\u00e7\u00e3o negra no pa\u00eds. A partir do conceito poliss\u00eamico de exposi\u00e7\u00e3o, ent\u00e3o, Benjamin segue expondo vari\u00e1veis pol\u00edticas da branquitude, ci\u00eancia, diferen\u00e7a e privacidade.<\/p>\n

O quarto cap\u00edtulo, Technology Benevolence<\/em> (Benevol\u00eancia da Tecnologia)\u00a0pergunta se a “benevol\u00eancia tecnol\u00f3gica vai nos consertar”? A quest\u00e3o \u00e9 essencial pois, crescentemente, se fala sobre tecnologias como intelig\u00eancia artificial como solu\u00e7\u00f5es para os problemas da sociedade. N\u00e3o s\u00e3o as solu\u00e7\u00f5es, podem piorar os problemas e, em \u00faltima inst\u00e2ncia, s\u00e3o mais nocivas pois ainda podem ocultar os problemas em tecnologias e algoritmos fechados e n\u00e3o-audit\u00e1veis.<\/p>\n

Considerando as in\u00fameras iniciativas de promo\u00e7\u00e3o \u00e0 “diversidade” e “igualdade” em grandes corpora\u00e7\u00f5es de tecnologia, Benjamin estuda casos de iniciativas do tipo em empresas de m\u00eddias sociais, recrutamento, sa\u00fade e outras. Argumenta que essa ideia de “diversidade”<\/p>\n

faz parte de um repert\u00f3rio maior de “happy talk”, que envolve a disposi\u00e7\u00e3o para reconhecer e at\u00e9 valorizar diferen\u00e7a cultural sem desafiar seriamente a desigualdade estrutural sendo reproduzida.<\/p><\/blockquote>\n

Por fim, no quinto cap\u00edtulo, de t\u00edtulo Retooling Solidarity, Reimagining Justice<\/em> (Reequipando Solidariedade, Reimaginando Justi\u00e7a) pensa formas de resist\u00eancia abolicionistas contra a imagina\u00e7\u00e3o carceral continuamente vinculada \u00e0s tecnologias digitais. Mostra as fragilidades da promo\u00e7\u00e3o de “empatia” e de “design thinking” como solu\u00e7\u00e3o colonizadora para problemas de desigualdade. Citando Paulo Freire, argumenta que “se a estrutura n\u00e3o permite di\u00e1logo, a estrutura deve ser mudada”.<\/p>\n

Desenvolve a ideia de “auditoria algor\u00edtmica” que tem sido aplicada a diversos campos, com diferentes graus de amplitude e compromisso social. As auditorias devem ser independentes e ter poder regulador, algo que as grandes corpora\u00e7\u00f5es tem evitado. Ruha Benjamin fala de um “toolkit abolicionista”, partindo do uso de dados como instrumentos de libera\u00e7\u00e3o desde as visualiza\u00e7\u00f5es de Du Bois<\/a> e estat\u00edsticas de Ida Wells-Barnett<\/a> no s\u00e9culo XIX at\u00e9 iniciativas recentes atrav\u00e9s de\u00a0 diversos projetos que geram mais transpar\u00eancia, ativismo social a favor da regula\u00e7\u00e3o e ferramentas narrativas, que permitam contar as hist\u00f3rias de mais pessoas envolvidas e afetadas pelas tecnologias.<\/p>\n

Benjamin chama \u00e0 necessidade a cria\u00e7\u00e3o de “toolkits abolicionistas” que permitam entender n\u00e3o s\u00f3 as tecnologias emergentes, mas tamb\u00e9m a sua produ\u00e7\u00e3o, aplica\u00e7\u00e3o e interpreta\u00e7\u00e3o dos dados. Um dos casos mais interessantes citados \u00e9 o\u00a0White Collar Crime Zones<\/em><\/a>, um mapa interativo com o “rosto m\u00e9dio” e localiza\u00e7\u00e3o de criminosos de colarinho branco,\u00a0o que nos lembra como a l\u00f3gica de policiamento algor\u00edtmico em crimes urbanos \u00e9 apenas um jeito enviesado de enquadrar a quest\u00e3o da criminalidade.<\/p>\n

\"\"<\/a><\/p>\n

 <\/p>\n

Para uma introdu\u00e7\u00e3o em v\u00eddeo a seu pensamento, recomendo dois v\u00eddeos dispon\u00edveis gratuitamente. O primeiro fala da incorpora\u00e7\u00e3o de ideias de design discriminat\u00f3rio de “bancos de parque” a “cadeiras de laborat\u00f3rio” e o segundo \u00e9 uma aula sobre ra\u00e7a, ci\u00eancia e subjetividade nos campos de gen\u00f4mica.<\/p>\n