1. No livro, você afirma que o racismo algorítmico é uma atualização do racismo estrutural. Poderia explicar como essa atualização se dá na prática e quais são suas consequências sociais mais graves?

A perspectiva do racismo estrutural tem sido apresentada por intelectuais negras e antirracistas há algumas décadas tanto como lente de análise quanto caminho de incidência em políticas públicas. Do ponto de vista do racismo estrutural como lente de análise, significa abarcar investigações sobre a relação sistêmica de variáveis culturais, econômicas, institucionais, políticas e psicológicas que tornam o racismo, em países como o Brasil, um eixo central das relações sociais.  Se entender a reprodução das hierarquias raciais de forma multidimensional e multidisciplinar é necessária, intelectuais como Ísis Conceição propuseram que a abordagem estrutural centre a atenção nos arranjos e interações interinstitucionais, aqui entendidas em sentido lato. Apenas olhando dessa forma, podemos refletir as relações complexas de retroalimentação das hierarquias raciais. Assim podemos entender, por exemplo, como a exclusão deliberada de personagens negras nos ambientes narrativos populares – como novelas, digamos – está ligada à baixa representatividade de parlamentares negras e ambas se conectam com a construção antidemocrática da universidade brasileira. Quem pode formular opções, opiniões e avaliações sobre políticas públicas? Quem é considerado confiável como representante político? Quem é considerado um ser humano completo e complexo – e que pode ser visto como igual sobre o qual projetamos nossos anseios, medos, empatia e experiência? Todas essas perguntas estão relacionadas e para as respondermos precisamos entender como os mecanismos de reprodução das estruturas de hierarquia de valor entre humanos perpassa afetos, recursos, morais, intelectualidades e paixões multidimensionais. Assim, lentes estruturais sobre opressões, incluindo, mas não só a opressão racial, significam entender como as produções de valores nas relações sociais nas várias esferas da vida se retroalimentam ou se questionam.

Ao entendermos essas relações, movimentos de grupos minorizados politicamente tem lutado de forma simultânea em várias camadas da vida social por inclusão, reconhecimento e reparação. Sabemos que condenações de pessoas negras por crimes sem vítimas e de valor irrelevante, como furto de comida, chegam a instâncias superiores do judiciário não só pelas várias decisões racistas das pessoas diretamente envolvidas, mas também pela construção midiática e cultural de desumanização de pessoas negras e da construção da imagética do que é o crime e o criminoso. Nesse sentido, a disputa por políticas públicas por movimentos antirracistas leva em consideração os diversos fatores e variáveis que se conectam em várias dimensões da vida.

Mas o que acontece quando cada variável citada acima pode ser incorporada nos fluxos de decisões automatizadas delegadas a sistemas que se vendem como neutros e alienam as possibilidades de resistência nos pontos de conflito? A digitalização, plataformização e algoritmização das relações sociais e epistêmicas, sobretudo por ser realizada por um punhado de corporações vinculadas ao capital financeiro global, são modos de retomada de controle dos fluxos de produção, reforço ou disputa de valores entre indivíduos por todo o globo.

Então podemos entender racismo algorítmico como o modo pelo qual a disposição de tecnologias e imaginários sociotécnicos em um mundo moldado pela supremacia branca realiza a ordenação algorítmica racializada de classificação social, recursos e violência em detrimento de grupos minorizados. Tal ordenação pode ser vista como uma camada adicional do racismo estrutural, que vai além e molda o futuro e horizontes de relações de poder adicionando mais opacidade sobre exploração e opressão global racializada desde o projeto colonial.

2. Quais autores e teorias foram centrais para você formular o conceito de racismo algorítmico? Há alguma influência de pensadores do Sul Global que você considera essencial nesse debate?

Subjacente à toda reflexão sobre racismo e antirracismo no Brasil, centralizo a contribuição teórico e política de sociólogas, historiadoras, antropólogas e juristas como Sueli Carneiro, Adilson Moreira, Abdias Nascimento, Lélia Gonzalez e Ísis Conceição. Como conceitos-chave para entender o fenômeno global do racismo antinegro, a abordagem de contrato racial de Charles Mills e sua leitura, por Sueli Carneiro, sobre o epistemicídio são essenciais para entender como o racismo algorítmico se liga a promoção estratégica da ignorância.

Em termos de produções de impacto global, o estudo do fenômeno “racismo algorítmico” pode ser caracterizado por duas grandes ondas de elaborações. A primeira é caracterizada por estudos de cientistas da computação e sociólogas estadunidenses que abordaram o impacto das tecnologias e ideologias do Vale do Silício no aprofundamento das desigualdades de raça, classe e gênero nos EUA. Autoras como Alondra Nelson, Latanya Sweeney, Bosah Ebo e Oscar Gandy Jr., produzem análise sobre racismo, mídias sociais, I.A. e tecnociência desde a virada do século. Publicações como “The Panoptic Sort”, de 1993, “Cyberimperialism”, de 2000, e “Technicolor: race, technology and everyday life”, de 2001, são exemplos de produções que inspiraram e formaram pensadoras críticas sobre tecnologia dos EUA que hoje são influentes no Brasil como Ruha Benjamin, Safiya Noble e Simone Browne. Em sua maioria conectam abordagens dos campos dos Estudos de Ciência em Tecnologia e da Economia Política da Informação em conexão com Teoria Crítica da Raça.

A partir da década iniciada em 2011, a popularização das plataformas de mídias sociais e, posteriormente, a nova fase de hype da inteligência artificial, motivaram reações através da emergência de trabalhos empíricos multidisciplinares. Estudos críticos de bases de dados, auditorias acionáveis e propostas de metodologias de mitigação de danos da I.A. caracterizam esta nova onda de estudos sobre racismo algorítmico. Pesquisadoras como Joy Buolamwini, Timnit Gebru, Abeba Birhane, Rediet Abebe representam bem o atual momento. Não por acaso as últimas três citadas são de origem ou ascendência etíope, que originou uma convergência de fatores epistêmicos, políticos e científicos que resultou em ume geração que define um olhar global e sistêmico sobre as potências e riscos da inteligência artificial em um mundo – ainda – dominado pelo imperialismo, colonialismo e supremacia branca estadunidense.

Quanto ao termo em si, um dos primeiros formuladores de “racismo algorítmico” foi Syed Mustafa Ali, que apresenta o conceito em reflexões sobre como o imaginário de futuro distópico da branquitude ocidental depende da demonização colonial do Outro – como da negritude ou do Islã – para estabelecer seu ideal de desenvolvimento tecnológico hegemônico como único possível, incluindo suas camadas crescentemente explícitas de eugenia e destruição ambiental.

Para meu trabalho, Ali é uma grande influência junto às demais autoras apresentadas, em especial Ruha Benjamin. Em capítulo que pudemos traduzir no livro “Comunidades, Algoritmos e Ativismos Digitais”, Benjamin faz um apelo que “continuemos promovendo investigações acadêmicas que não sejam apenas sobre processos racializados, mas também apliquem uma lente de estudos racialmente críticos de ciência e tecnologia a todos os aspectos da vida social que atualmente são sufocados pelas lógicas carcerais” que direciona minha abordagem de pesquisa.

Leia o dossiê completo no site da revista Linguagem em Foco