Racismo Algorítmico em Plataformas Digitais: microagressões e discriminação em código

Apresentei nesta última semana o artigo Racismo Algorítmico em Plataformas Digitais: microagressões e discriminação em código no Simpósio da LAVITS, em Salvador. O trabalho compõe minha pesquisa de doutorado e parte da análise de ambientes como Facebook, Twitter, YouTube e marketplaces de aplicativos mobile, que são mecanismos centrais do capitalismo de vigilância. Os vieses algorítmicos e affordances racistas nestas plataformas digitais de publicidade estão sendo crescentemente analisados nos últimos 15 anos por pesquisadoras informadas por perspectivas variadas. Como resultado estão em desenvolvimento iniciativas de auditoria de algoritmos e plataformas, construção de datasets e procedimentos mais responsáveis, além de indicações regulatórias. A opacidade presente nas caixas-pretas dos grupos de sistemas automatizados e semi-automatizados baseados em algoritmos que regem visibilidade, classificação, vigilância e regras de uso nas plataformas digitais complexifica e dificulta esta investigação. Esta questão se aplica tanto ao desenho de processos internos quanto à configuração de algoritmos e é agravada pela ideologia da “cegueira racial”, tática que compõe historicamente do genocídio negro, que também é epistemológico.

O trabalho propõe colaborar ao campo de estudos sobre vieses algorítmicos ao aproximar a investigação sobre vieses raciais nos algoritmos de plataformas digitais ao conceito de microagressões raciais (Pierce, 1970). Estas seriam definidas como mensagens rotineiras que comunicam insultos e desprezo racial e podem ser apresentadas de forma verbal, comportamental ou ambientalmente contra grupos racializados. A pesquisa sobre microagressões raciais propõe modos de analisar, entender e combater este tipo de violência em contextos de socialização, midiáticos ou educacionais com o objetivo de minimizar o impacto na formação e pleno desenvolvimento de populações negras, entre outras. Aplicando a tipologia de microagressões proposta por Tynes et al (2018) a partir de Sue (2007) a mapeamento realizado pelo autor, o artigo discute casos de comunicação algorítmica racista em plataformas digitais ligando aspectos das plataformas a categorias e subcategorias propostas sobre microagressões.

Acesse o artigo completo no ResearchGate e confira mais publicações.

Apresentação sobre Visão Computacional e Vieses Racializados no COPENE

No último dia 29 de maio, apresentei no COPENE Nordeste o trabalho Visão Computacional e Vieses Racializados: branquitude como padrão no aprendizado de máquina, que fez parte da Sessão Temática “Branquitude, Representações e Mídia”. O slideshow já está disponível:

Em breve o artigo completo será publicado nos anais do evento. Acompanhe as publicações relacionadas no ResearchGate ou Lattes.

Lançada Linha do Tempo sobre Racismo Algorítmico

Lancei recentemente, como uma página do site, uma Linha do Tempo sobre Racismo Algorítmico! Se você é assinante via email ou feed talvez não tenha visto. A timeline é um resultado secundário da pesquisa de doutorado Dados, Algoritmos e Racialização em Plataformas Digitais. Desenvolvida no PCHS-UFABC, o projeto estuda as cadeias produtivas da plataformização digital (mídias sociais, aplicativos, inteligência artificial) e seus vieses e impactos raciais. Os casos, reportagens e reações ao racismo algorítmico podem ser visualizados na página (clique na imagem) e são dados para artigos, conferências, tese e livro em desenvolvimento.

W. E. B. Du Bois e a visualização de dados sobre os negros nos EUA no início do século XX

W. E. B. Du Bois (1863 – 1963) foi um dos maiores sociólogos e ativistas americanos desde a virada do século XX até sua morte nos anos 60. Invisibilizado pelo racismo generalizado também na ciência social, Dubois teve uma prolífica produção através de livros acadêmicos, revistas científicas e fundador do Movimento Niagara de ativismo pelos direitos humanos. Também foi Secretário do Primeiro Congresso Pan-Africano e fundou a importante National Association for the Advancement of Colored People (NAACP). Apesar da enorme produção, seu único livro traduzido para o português é o essencial The Souls of Black Folk, publicado em 1903 e traduzido para o português como As Almas do Povo Negro apenas em 1998, esgotado e sem novas edições (veja tradução/transcrição alternativa por José da Costa).

Primeiro negro a prestigiar Harvard com sua pesquisa de doutorado, nunca permitiu que seu pensamento e trabalho se restringissem ao mundo puramente acadêmico. Entre seus maiores feitos está a exposição American Negro Exhibit, que tomou lugar corajosamente na Exposição Universal de Paris de 1900. Na virada do século XIX ao XX as feiras mundiais tomaram lugar nas grandes metrópoles e tinham o objetivo de celebrar os avanços da humanidade – sobretudo dos países patrocinadores – em termos de indústria, maquinaria, invenções, arquitetura e ciência de todo o tipo. A Exposição Universal de Paris de 1900 foi visitada por cerca de 50 milhões de pessoas de todo o mundo. Thomas Junius Calloway, advogado, educador e jornalista, com o apoio de Booker T. Washington, solicitou ao governo dos EUA espaço no pavilhão estadunidense para mostrar o suposto compromisso do país com reformas sociais através da exposição, com colaborações de universidades e colégios industriais afro-americanos.

W. E. B. Du Bois foi convidado a participar com estudos sociais sobre a vida dos afro-americanos. Reuniu, então, dois grupos de visualizações de dados produzidas por sua equipe de estudantes e alunos da Universidade de Atlanta. O primeiro deles, chamado The Georgia Negro: A Social Study, apresentou informações sobre a população negra do estado da Georgia, então o estado com a maior população negra nos EUA. O segundo grupo de infográficos foi chamado de A Series of Statistical Chats Illustrating the Condition of the Descendants of Former African Slaves Now in Residance in the United States of America. Este grupo reuniu informações sobre educação, emprego, aspectos financeiros e outros.

Lançado no final de 2018, o livro W. E. B. Du Bois’s Data Portrais: VIsualizing Black America traz esta história, artigos, fotografias da exposição e visualizações produzidas por Du Bois com o enfoque na visualização de dados e seu impacto. Foi organizado por Whitney Battle-Baptiste e Britt Rusert,  do Departamento de Estudos Afro-Americanos W. E. B. Dubois da Universidade de Massachusetts Amherst.  Com 200 páginas, 150 são dedicadas a impressões em boa definição dos gráficos, mapas e linha do tempo apresentadas por Du Bois. Para as organizadoras, “as políticas da visualidade e a questão específica da visualidade negra eram centrais para o pensamento de Du Bois e sua teoria da dupla consciência foi expressa em um registro visual único”.

Depois da introdução pelas organizadoras, o livro inclui também textos de convidados. O primeiro é American Negro at Paris, 1900, de Aldon Morris, onde o autor traz mais informações sobre a exposição e conclui que “previu novas possibilidades de comunicar conhecimento sociológico para o público geral. Do vantajoso ponto de vista da virada do século, a sociologia inovadora na exposição segue resistindo ao teste do tempo”.

Em The Cartography of W. E. B. Du Bois’s Color Line, Mabel O. Wilson se debruça com mais atenção aos mapas e cartografias incluídas na exposição, partindo da visualização sobre o sequestro e tráfico negreiro para as Américas e Europa. A autora destaca especialmente como Du Bois conseguiu, a partir de seu trabalho e visualizações, combater a desinformação racista proposta por Hegel, que dedicou textos a negar a história da África e promover o racismo “científico”.

Por fim, em Introduction to the Plates, Silas Munro sublinha o aspecto inovador das produções de Du Bois e como avançou e aplicou na prática as invenções de William Playfair e Florence Nightingale. Para Munro, “A inovação retórica nas ciências sociais combinada com uma estética visual no início do século XX tornou a exposição um material presciente de trabalho em design. Estas visualizações ofereceram um protótipo de práticas de design que não foram amplamente usadas até um século depois, antecipando as tendências – hoje vitais no mundo contemporâneo – de design para inovação social, visualização de dados em serviço de justiça social e a decolonização da pedagogia”.

Veja algumas das visualizações e imagens do livro (algumas fotografias minhas e outras da Smithsonian mas todas estão no livro):

a) Índice das visualizações

b) Visualização do sequestro e tráfico negreiro

c) Cartão postal da exposição Pan-Americana em Nova Iorque, realizada no ano seguinte

d) Ocupação dos negros americanos depois da emancipação

e) Estudantes negros em escolas da Georgia

f) População negra e status de escravidão/liberdade de 1790 a 1870

g) Comparação de ocupação entre negros e brancos na Georgia

Negação do racismo no TripAdvisor: estratégias discursivas

O racismo, como elemento pervasivo, se manifesta de formas particulares nos campos do turismo e hospitalidade. Viajantes, pesquisadores e ativistas experienciam e analisaram isto em novas plataformas digitais semi-automatizadas por interfaces e algoritmos como Airbnb, levando empreendedores a criar plataformas de hospedagemagências de turismo mais seguras.

Durante viagens para outros locais ou países, os viajantes racializados são mais fragilizados, estando sujeitos a atos racistas que dificilmente serão confrontados imediatamente devido ao risco intensificado. Plataformas de reviews online, entretanto, pode(ria)m ser um dos espaços de reação através do relato das experiências negativas.

Leia texto relacionado “Traveling while black” no blog For Harriet

O artigo Traveling Across Racial Borders: TripAdvisor and the Discursive Stragies Business Use to Deny Racism, entretanto, apresenta resultados assustadores de pesquisa de Heather M. Dalmage da Roosevelt University. Publicado na revista Sociology of Race and Ethnicity, o artigo aplica análise de discurso para entender como os hotéis e restaurantes respondem e negam atitudes racistas especificamente ao receber casais interraciais.

A autora apresenta um histórico sobre os processos de racialização do Outro e como são especialmente intensos em países de maioria branca. Escrevendo do ponto de vista de uma pesquisadora estadunidense, Dalmage revisa as categorias de casais e comunidades inter-, multi- e bi-raciais para, em seguida, adentrar nas particularidades das plataformas digitais. Citando Hughey e Daniels, explica que “raça e racismo persistem online em modos que são tanto novos e específicos na Internet, junto a vestígios de formas seculares que reverberam tanto off quanto online“. Ao analisar a interface da plataforma, guias de como responder a avaliações de hóspedes de consultorias e da própria TripAdvisor, a autora identificou que as recomendações explicitamente invisibilizam a questão, ignorando como lidar com casos de racismo.

O estudo inédito reuniu 233 casos no TripAdvisor, através de buscas por termos como relacionamento interracial. Deste total, apenas 50 foram respondidos e entraram na fase de análise de discurso. A autora identificou que a maior parte seguem um padrão discursivo de negação da raça e do episódio racista, com o objetivo de patologizar os casais avaliadores.

Quatro táticas foram identificadas e são detalhadas na seção seguinte: (a) “Você está errado! Eu não sou racista”; (b) Explicação não ligada à raça; (c) “Nós tratamos todos do mesmo jeito”; (d) “Você entendeu errado e/ou poderia ter evitado a experiência negativa se tivesse agido diferente”. Nas conclusões, a autora explica como, em um mundo racializado e estruturado pela supremacia Branca, as práticas de evasão de debate sobre raça e racismo servem aos ideais neoliberais deste mundo. A análise do discurso é especialmente importante pois “as fronteiras raciais, desenvolvidas através da colonização e capitalismo global e infundidas em identidades, ideologias e instituições agora estão sendo criadas em novos e não tão novos modos online”.

Leia o artigo completo na revista Sociology of Race and Ethnicity.