{"id":12434,"date":"2021-12-20T11:43:32","date_gmt":"2021-12-20T13:43:32","guid":{"rendered":"https:\/\/tarciziosilva.com.br\/blog\/?p=12434"},"modified":"2021-12-20T11:50:39","modified_gmt":"2021-12-20T13:50:39","slug":"visao-computacional-e-racismo-algoritmico-branquitude-e-opacidade-no-aprendizado-de-maquina","status":"publish","type":"post","link":"https:\/\/tarciziosilva.com.br\/blog\/visao-computacional-e-racismo-algoritmico-branquitude-e-opacidade-no-aprendizado-de-maquina\/","title":{"rendered":"Vis\u00e3o Computacional e Racismo Algor\u00edtmico: Branquitude e Opacidade no Aprendizado de M\u00e1quina"},"content":{"rendered":"\n

[O artigo abaixo foi originalmente publicado na Revista da ABPN<\/strong><\/a>. Confira ao final link para o PDF e como citar<\/em>]<\/p>\n\n\n\n

Tecnologias Digitais de Comunica\u00e7\u00e3o: Branquitude como Padr\u00e3o e Representa\u00e7\u00e3o<\/strong><\/p>\n\n\n\n

As reflex\u00f5es sobre representa\u00e7\u00e3o e grupos minorizados em tecnologias digitais ganharam f\u00f4lego desde a d\u00e9cada de 1990 inicialmente a partir de desdobramentos sobre os estudos em torno do conceito de fosso digital (\u201cdigital divide\u201d) e desigualdade de acesso. Durante os primeiros anos da discuss\u00e3o sobre a web social, como f\u00f3runs e blogs textuais, o discurso hegem\u00f4nico em disciplinas que estudaram a comunica\u00e7\u00e3o mediada por computador cogitava uma \u201cdescorporifica\u00e7\u00e3o\u201d dos indiv\u00edduos e suas identidades.<\/p>\n\n\n\n

Uma vez que a comunica\u00e7\u00e3o n\u00e3o-simult\u00e2nea limitada por texto permitia experimentar a simula\u00e7\u00e3o de diferentes marcadores sociais e identit\u00e1rios, parte da pesquisa sobre ra\u00e7a na internet explorava como alteridades raciais e de g\u00eanero poderiam ser \u201cexperimentadas\u201d em f\u00f3runs e posteriormente como avatares visuais em ambientes tais como o Second Life<\/em>. Como aponta Daniels, por\u00e9m, este olhar evocava uma \u201clinguagem da explora\u00e7\u00e3o e descoberta (por exemplo: \u2018descobrir identidade racial em um grupo Usenet\u2019<\/em>). Esta ret\u00f3rica foi consistente com as ent\u00e3o correntes descri\u00e7\u00f5es da Internet como uma \u2018fronteira eletr\u00f4nica\u2019 e evoca o olhar do colonizador\u201d (Daniels, 2013, p. 708, trad. livre). Por\u00e9m, a autora (2009, 2013) resgata como supremacistas brancos viram a internet como um campo de atua\u00e7\u00e3o desde meados dos anos 1990, com sites de desinforma\u00e7\u00e3o contra figuras hist\u00f3ricas tais como Martin Luther King ou ainda a constru\u00e7\u00e3o de portais com o objetivo de conectar internacionalmente afiliados aos grupos mais extremistas de supremacia branca (como o Stormfront<\/em>).<\/p>\n\n\n\n

A evolu\u00e7\u00e3o de caracter\u00edsticas sociot\u00e9cnicas da internet como multiplica\u00e7\u00e3o de plataformas digitais de intera\u00e7\u00e3o tais como m\u00eddias sociais, conex\u00e3o pervasiva e mobile<\/em>, alta velocidade de transfer\u00eancia de dados, centralidade da imagem, plataformas de v\u00eddeo e aumento da popula\u00e7\u00e3o conectada trouxe mais debates sobre ra\u00e7a e comunica\u00e7\u00e3o digital. Os casos midi\u00e1ticos de racismo online discursivo multiplicaram-se, como os mapeados por Trindade (2018), vitimando, sobretudo mulheres negras em alguma posi\u00e7\u00e3o de destaque ou desafio ao status quo<\/em>.<\/p>\n\n\n\n

\u00c9 preciso, por\u00e9m, sublinhar que o racismo online n\u00e3o trata apenas de casos aberracionais de inj\u00farias isoladas, mas sim um \u201csistema de pr\u00e1ticas contra grupos racializados que privilegiam e mant\u00eam poder pol\u00edtico, cultural e econ\u00f4mico para os brancos no espa\u00e7o digital\u201d (Tynes et al, 2019, p.195). Estes privil\u00e9gios s\u00e3o constru\u00eddos, mantidos e transformados em novas manifesta\u00e7\u00f5es geralmente elusivas que v\u00e3o al\u00e9m da materialidade dos discursos e imagens, indo da contrata\u00e7\u00e3o privilegiada de grupos raciais hegem\u00f4nicos (NELSON, TU & HINES, 2001) \u00e0 aplica\u00e7\u00e3o diferencial de puni\u00e7\u00f5es ligadas aos Termos de Uso das plataformas[1]<\/a>. Dados da pesquisa EEO-1 nos Estados Unidos, por exemplo, mostram que as empresas do Vale do Sil\u00edcio est\u00e3o muito longe de representar a diversidade da popula\u00e7\u00e3o do pa\u00eds[2]<\/a> – e devido a concentra\u00e7\u00e3o global das tecnologias criadas nos EUA, a situa\u00e7\u00e3o se agrava quando se trata da complexidade e diversidade mundiais.<\/p>\n\n\n\n

Considerando que as manifesta\u00e7\u00f5es do racismo s\u00e3o \u201cconstru\u00eddas e expressas na infraestrutura online ou back end<\/em> (por exemplo: algoritmos) ou atrav\u00e9s das interfaces (por exemplo: s\u00edmbolos, imagem, voz, texto e representa\u00e7\u00f5es gr\u00e1ficas)\u201d (Tynes et al, 2019, p.195, trad. livre) \u00e9 necess\u00e1rio olhar tamb\u00e9m para estes materiais relacionados \u00e0s pr\u00e1ticas econ\u00f4micas e produtivas nos contextos socio-hist\u00f3ricos onde emergem. As interfaces e sistemas podem materializar, de forma an\u00e1loga ao que acontece nos fluxos sem\u00e2nticos da sociedade os “preconceitos n\u00e3o manifestos, presentes invisivelmente na cabe\u00e7a dos indiv\u00edduos, e as consequ\u00eancias dos efeitos da discrimina\u00e7\u00e3o na estrutura ps\u00edquica das pessoas” (Carone & Bento, 2017, pos. 74).<\/p>\n\n\n\n

Crescentemente, os algoritmos e intelig\u00eancia artificial ganham destaque no debate sobre comunica\u00e7\u00e3o, sociedade e tecnologia por regirem cada vez mais esferas da vida. Recomenda\u00e7\u00e3o de conte\u00fado nas timelines<\/em> de m\u00eddias sociais, seguran\u00e7a digital, biometria, processamento de linguagem natural e reconhecimento facial s\u00e3o algumas das aplica\u00e7\u00f5es j\u00e1 frequentes no cotidiano em nossos computadores e smartphones<\/em>. Mas os problemas destes agentes artificiais que tomam decis\u00f5es de visibilidade, acesso, classifica\u00e7\u00e3o e processamento de materiais digitais tamb\u00e9m s\u00e3o frequentes, muitas vezes ligados a vieses de ra\u00e7a, g\u00eanero, classe, localidade, neuroatipicidade e outros. Entender a \u201cracializa\u00e7\u00e3o tecnol\u00f3gica como uma forma de opress\u00e3o algor\u00edtmica nos permite us\u00e1-la como um importante framework <\/em>para criticar discursos sobre a Internet como um ambiente democr\u00e1tico\u201d (Noble, 2018, pos. 1341, trad. livre).<\/p>\n\n\n\n

Defendemos que os estudos sobre a branquitude s\u00e3o uma chave importante para entender os modos pelos quais as tecnologias automatizadas demonstram continuamente vieses racistas, mesmo provenientes de empresas globais bilion\u00e1rias com todo aparato tecnol\u00f3gico-financeiro dispon\u00edvel. Interessada nos mecanismos que comp\u00f5e o que chamou de \u201cpacto narc\u00edsico da branquitude\u201d em contextos organizacionais de empresas e setor p\u00fablico, Bento descreve a branquitude como<\/p>\n\n\n\n

um lugar de privil\u00e9gio racial, econ\u00f4mico e pol\u00edtico, no qual a racialidade, n\u00e3o nomeada como tal, carregada de valores, de experi\u00eancias, de identifica\u00e7\u00f5es afetivas, acaba por definir a sociedade. Branquitude como preserva\u00e7\u00e3o de hierarquias raciais, como pacto entre iguais, encontra um territ\u00f3rio particularmente fecundo nas Organiza\u00e7\u00f5es, as quais s\u00e3o essencialmente reprodutoras e conservadoras (Bento, 2002, p.7)<\/p><\/blockquote>\n\n\n\n

A manuten\u00e7\u00e3o e reprodu\u00e7\u00e3o dos privil\u00e9gios da branquitude partindo de uma centralidade evocativa \u00e0 Europa se ligaram hist\u00f3rica e economicamente \u00e0 domina\u00e7\u00e3o colonial e neocolonial, com desdobramentos da ci\u00eancia \u00e0 tecnologia, mas sempre atrav\u00e9s da evita\u00e7\u00e3o ao debate sobre ra\u00e7a. Mills chama este esfor\u00e7o coletivo de inverter a epistemologia de uma \u201cepistemologia da ignor\u00e2ncia\u201d, um \u201cpadr\u00e3o particular de disfun\u00e7\u00f5es globais e locais (que s\u00e3o funcionais psicol\u00f3gica e socialmente), produzindo o resultado ir\u00f4nico que os brancos em geral ser\u00e3o incapazes de entender o mundo que eles pr\u00f3prios formataram\u201d (Mills, pos.327, trad. nossa).<\/p>\n\n\n\n

Estas disfun\u00e7\u00f5es s\u00e3o tamb\u00e9m registradas nos mitos de racial-blindness<\/em>, pos-racialidade (BONILLA-SILVA, 2006) e democracia racial (NASCIMENTO, 2016[1978]; SOUZA, 2017) como vetores do silenciamento do debate sobre ra\u00e7a em todas as esferas, que acreditamos que se liga plenamente technochauvinismo<\/em>. Este seria \u201ca cren\u00e7a que a tecnologia \u00e9 sempre a solu\u00e7\u00e3o\u201d, acompanhada de no\u00e7\u00f5es de \u201ccomputadores s\u00e3o mais \u201cobjetivos\u201d ou \u201cenviesados\u201d porque eles destilam quest\u00f5es e respostas em avalia\u00e7\u00e3o matem\u00e1tica\u201d (BROUSSARD, 2018, pos. 166, trad. livre).<\/p>\n\n\n\n

Propomos que isto implica em uma \u201cdupla opacidade\u201d, que definimos como o modo pelo qual os discursos hegem\u00f4nicos invisibilizam tanto os aspectos sociais da tecnologia quanto os debates sobre a primazia de quest\u00f5es raciais nas diversas esferas da sociedade \u2013 incluindo a tecnologia, recursivamente. A inspira\u00e7\u00e3o para estas cr\u00edticas parte dos pilares da Teoria Racial Cr\u00edtica (TRC), framework<\/em> te\u00f3rico-metodol\u00f3gico e ativista desenvolvido na d\u00e9cada de 1980 nos EUA, inicialmente para transformar os Estudos Legais no Direito, promovendo a compreens\u00e3o da sociedade em um panorama da supremacia branca (DELGADO & STEFANCIC, 2017). Questionando a invisibilidade legal do racismo em uma sociedade baseada no mesmo, a TRC prop\u00f5e uso de contra-narrativas, conhecimento interdisciplinar experiencial e ag\u00eancia efetiva no combate \u00e0 opress\u00e3o racial. A atua\u00e7\u00e3o e temas da TRC trazem muitos pontos em comum com o pensamento social negro brasileiro (FERREIRA & QUEIROZ, 2018; SILVA, 2019a) e tem sido crescentemente usada internacionalmente para entender a tecnologia (ALI, 2014; BROCK, 2016; NOBLE, 2018; BENJAMIN, 2019).<\/p>\n\n\n\n

A ideia de \u201ccaixa preta\u201d, que se tornou recurso explicativo na \u00e1rea de Estudos da Ci\u00eancia e Tecnologia, se refere a dispositivos que funcionam em termos de entrada<\/em> de informa\u00e7\u00f5es e decis\u00f5es e sa\u00edda<\/em> de resultados e opera\u00e7\u00f5es que ocultam os modos pelos quais ci\u00eancia e tecnologia s\u00e3o constru\u00eddas. Falando de dispositivos tecnol\u00f3gicos e softwares, \u201cabrir a caixa preta\u201d significa observar “n\u00e3o somente que qualquer ordem social \u00e9 impactada por desenvolvimento tecnol\u00f3gico […] mas tamb\u00e9m que normas, ideologias e pr\u00e1ticas sociais s\u00e3o parte constitutivo de desenhos t\u00e9cnicos” (BENJAMIN, 2019, p. 72).<\/p>\n\n\n\n

Desta forma, o referencial de estudos sobre a \u201cbranquitude\u201d \u00e9 elaborado a seguir como ferramenta para abrir as caixas-pretas da vis\u00e3o computacional de forma cr\u00edtica ao racismo algor\u00edtmico.<\/p>\n\n\n\n

<\/p>\n\n\n\n

Vis\u00e3o Computacional: invisibilidade, visibilidade e interpreta\u00e7\u00e3o racistas<\/strong><\/p>\n\n\n\n

A computa\u00e7\u00e3o visual (visual computing<\/em>) \u00e9 um termo que engloba \u00e1reas da computa\u00e7\u00e3o e iniciativas interdisciplinares dedicadas a construir sistemas para o entendimento automatizado de imagens e v\u00eddeos. Ou seja, busca-se fazer softwares e hardwares computacionais capazes de entender objetos, entidades e situa\u00e7\u00f5es a partir de informa\u00e7\u00e3o visual, como imagens ou frames<\/em> de v\u00eddeo. Suas aplica\u00e7\u00f5es s\u00e3o amplas, da ind\u00fastria e mecatr\u00f4nica at\u00e9 o marketing e publicidade.<\/p>\n\n\n\n

Especificamente a vis\u00e3o computacional (computer vision<\/em>) \u201cse refere \u00e0 coleta, an\u00e1lise e s\u00edntese de dados visuais atrav\u00e9s de computadores, com objetivos diversos como a identifica\u00e7\u00e3o de rostos e biometria, a an\u00e1lise de representa\u00e7\u00f5es de objetos, entidades, conceitos e contextos em imagens, entre outros\u201d (Wang, Zhang & Martin, 2015, trad. livre). Foi popularizada com os buscadores, m\u00eddias sociais e aplicativos mobile<\/em>. Por exemplo, a busca Google que identifica imagens similares e quais objetos est\u00e3o fotografados; a marca\u00e7\u00e3o autom\u00e1tica de rostos de amigos em fotos no Facebook; e os filtros l\u00fadicos do Snapchat e Instagram s\u00e3o todas aplica\u00e7\u00f5es que entraram no dia a dia de grande parte dos usu\u00e1rios contempor\u00e2neos de tecnologias digitais.<\/p>\n\n\n\n

Os sistemas passam a saber como identificar rostos, objetos e contextos nas imagens atrav\u00e9s do que \u00e9 chamado de \u201caprendizado de m\u00e1quina\u201d (machine learning<\/em>), um campo da intelig\u00eancia artificial restrita que trata do reconhecimento de padr\u00f5es atrav\u00e9s de uma base de dados e posterior aplica\u00e7\u00e3o do aprendizado no reconhecimento das vari\u00e1veis em outras unidades ou conjuntos de dados (Oliveira, 2018). No caso da vis\u00e3o computacional, trata-se de \u201ctreinar\u201d o sistema alimentando-o com um n\u00famero relevante de imagens j\u00e1 marcadas (por ex: centenas de imagens da classe \u201ccachorro\u201d; centenas de imagens de uma ra\u00e7a espec\u00edfica e assim por diante) para que o software \u201centenda\u201d novas imagens que n\u00e3o foram anteriormente vistas.<\/p>\n\n\n\n

A ampla disponibilidade destes recursos hoje \u00e9 um fato n\u00e3o s\u00f3 para empresas altamente especializadas em intelig\u00eancia artificial, mas para todo um rol de empresas de m\u00eddia e tecnologia que podem usar os recursos oferecidos pelas grandes corpora\u00e7\u00f5es da \u00e1rea. Empresas como IBM, Google, Microsoft e Amazon oferecem servi\u00e7os de intelig\u00eancia artificial e computa\u00e7\u00e3o cognitiva atrav\u00e9s do modelo API<\/em> (application programming interfaces<\/em>) que permite que qualquer desenvolvedor com o m\u00ednimo de conhecimento contrate recursos de intelig\u00eancia artificial tais como processamento de linguagem natural, descoberta de padr\u00f5es em dados tabulares, modelos de aprendizado de m\u00e1quina e vis\u00e3o computacional. Na Figura 1<\/em> podemos ver uma captura de tela da demonstra\u00e7\u00e3o do recurso de vis\u00e3o computacional da Google, chamado de Google Vision:<\/p>\n\n\n\n

\"\"<\/figure><\/div>\n\n\n\n

Figura 1: Captura de tela da Google Vision[1]<\/strong><\/a><\/em><\/p>\n\n\n\n

Como \u00e9 poss\u00edvel ver acima, o recurso identifica elementos, cena, objetos e conceitos. Na fotografia de exemplo, o recuso identificou c\u00e9u, mar, horizonte e o poss\u00edvel contexto de f\u00e9rias, entre outros. Recursos como a Google Cloud Vision e outros citados tamb\u00e9m prometem identificar express\u00e3o facial de rostos, padr\u00f5es de cores, elementos sens\u00edveis (como pornografia ou viol\u00eancia), personalidades famosas, logotipos e marcas, identificar imagens similares na web e outros grupos de entidades em constante desenvolvimento (Etlinger, 2016; Mintz et al, 2019),<\/p>\n\n\n\n

Entretanto, a aplica\u00e7\u00e3o da vis\u00e3o computacional traz problem\u00e1ticas e controv\u00e9rsias espec\u00edficas a diversos campos. Neste trabalho o objetivo \u00e9 focar no uso de tecnologias p\u00fablicas como m\u00eddias sociais, computadores pessoais, aplicativos mobile<\/em> e outros recursos dispon\u00edveis para a maior popula\u00e7\u00e3o no cotidiano. Na outra ponta est\u00e3o tecnologias usadas por corpora\u00e7\u00f5es e governos, especialmente reconhecimento facial para fins de vigil\u00e2ncia ou policiamento. Entender estas tecnologias de forma m\u00faltipla \u00e9 relevante pois a experi\u00eancia do afrodiasp\u00f3rico foi constru\u00edda pelo colonialismo sob uma l\u00f3gica “vigil\u00e2ncia racializada como tecnologia de controle social onde pr\u00e1ticas, pol\u00edticas e performances de vigil\u00e2ncia remetem a produ\u00e7\u00e3o de normas pertinentes a ra\u00e7a” (Browne, 2015, p. 32, trad. livre) e se relacionam de diversos modos a tecnologias e ideologias carcerais (Benjamin, 2019) que v\u00e3o muito al\u00e9m da pris\u00e3o, mas definem o lugar e o n\u00e3o-lugar do negro, pass\u00edvel sempre a viol\u00eancia f\u00edsica ou simb\u00f3lica.<\/p>\n\n\n\n

Em aplica\u00e7\u00f5es como as que veremos, entretanto, tr\u00eas pontos s\u00e3o especialmente relevantes na rela\u00e7\u00e3o com as tecnologias do cotidiano: s\u00e3o recursos que normalizam a identifica\u00e7\u00e3o algor\u00edtmica e registro em big data<\/em> dos indiv\u00edduos; s\u00e3o dispositivos usados pelas corpora\u00e7\u00f5es para o treinamento de suas bases de dados para diversos fins; e se tratam de din\u00e2micas de comunica\u00e7\u00e3o e intera\u00e7\u00e3o com impactos cumulativos na autoestima e sa\u00fade mental dos indiv\u00edduos (Pierce, 1970; Tynes et al, 2018; Silva, 2019b).<\/p>\n\n\n\n

A Tabela 1<\/em> mostra alguns dos casos mais famosos de problemas identificados por usu\u00e1rios ou jornalistas com resultados nocivos a indiv\u00edduos negros ou popula\u00e7\u00e3o negra de modo geral. Procederemos \u00e0 descri\u00e7\u00e3o breve destes casos, para demonstrar o paralelismo com caracter\u00edsticas da branquitude nas epistemes da tecnologia das plataformas de comunica\u00e7\u00e3o e intelig\u00eancia artificial.<\/p>\n\n\n\n

Tabela 1: Casos Selecionados de Manifesta\u00e7\u00e3o de Vi\u00e9s\/Racismo Algor\u00edtmico em Vis\u00e3o Computacional<\/em><\/p>\n\n\n\n