{"id":10397,"date":"2018-03-21T23:53:01","date_gmt":"2018-03-22T02:53:01","guid":{"rendered":"http:\/\/tarciziosilva.com.br\/blog\/?p=10397"},"modified":"2018-03-21T23:57:08","modified_gmt":"2018-03-22T02:57:08","slug":"algoritmos-de-opressao-como-mecanismos-de-busca-reforcam-o-racismo","status":"publish","type":"post","link":"https:\/\/tarciziosilva.com.br\/blog\/algoritmos-de-opressao-como-mecanismos-de-busca-reforcam-o-racismo\/","title":{"rendered":"Algoritmos de Opress\u00e3o: como mecanismos de busca refor\u00e7am o racismo"},"content":{"rendered":"

\"\"<\/a>Algoritmos e plataformas n\u00e3o s\u00e3o neutros. S\u00e3o constru\u00eddos de modo que algumas vis\u00f5es de mundo, ideologias e pontos de vista se destacam e imp\u00f5em-se, seja de forma intencional<\/a> ou n\u00e3o. Apesar de estarmos em 2018 e centenas de pesquisadores, desenvolvedores e profissionais destacarem isto, a plataformiza\u00e7\u00e3o da m\u00eddia e do capitalismo atrav\u00e9s de empresas como Google, Facebook, Uber, AirBnB e similares surfa (e alimenta) a onda do individualismo, livre mercado e endeusamento est\u00fapido da “tecnologia”<\/a> para argumentar justamente o contr\u00e1rio: que seriam ambientes neutros por\u00a0serem, justamente, criados com mecanismos de automatiza\u00e7\u00e3o de decis\u00f5es livres da interfer\u00eancia humana.<\/p>\n

Pesquisadores s\u00e9rios e alguns segmentos da popula\u00e7\u00e3o como, por exemplo, mulheres negras, n\u00e3o podem se dar ao luxo de ignorar impacto e vieses dos algoritmos. Nesta\u00a0interse\u00e7\u00e3o, a pesquisadora e professora\u00a0Safiya U. Noble<\/a>\u00a0nos presenteou com a indispens\u00e1vel publica\u00e7\u00e3o de\u00a0Algorithms of Oppression: how search engines reinforces racism<\/a><\/strong><\/em>\u00a0<\/strong>lan\u00e7ado oficialmente neste m\u00eas de fevereiro de 2018. \u00e9 Ph.D. pela University of Illinois, professora na University of Southern California (USC), previamente tendo ensinado tamb\u00e9m na UCLA, al\u00e9m de ser co-fundadora do Information Ethics & Equity Institute. Tamb\u00e9m \u00e9 s\u00f3cia de empresa focada em ci\u00eancia de dados e pesquisa, a Stratteligence. Antes desse livro, co-editou “The Interesectional Internet: Race, Sex, Culture and Class Online” e “Emotions, Technology & Design”.<\/p>\n

Em\u00a0Algorithms of Oppression: how search engines reinforces racism<\/a><\/strong>,\u00a0<\/em>a autora apresenta os resultados de ampla pesquisa sobre algoritmos e representa\u00e7\u00e3o de determinados grupos, sobretudo mulheres e garotas negras no Google.\u00a0A autora abre o primeiro cap\u00edtulo, “A Society, Searching”, relembrando a campanha circulada pela UN Women que usou\u00a0telas reais do recurso\u00a0“Autocompletar” do buscador Google para mostrar como o sexismo e misoginia s\u00e3o representados pelas sugest\u00f5es reais.<\/p>\n

\"\"<\/p>\n

A campanha \u00e9 o gancho para come\u00e7ar a discuss\u00e3o sobre a relev\u00e2ncia e utilidade destes recursos como fortalecedores dos comportamentos que representam. Em seguida, a autora traz mais exemplos sobre representa\u00e7\u00f5es de mulheres a partir de buscas t\u00e3o simples quanto “black girls”,\u00a0“why are women so” ou “why are Black people so” para mostrar como mecanismos de acesso a informa\u00e7\u00e3o privilegiam pontos de vista de posi\u00e7\u00f5es de poder – por exemplo, a hiperssexualiza\u00e7\u00e3o das garotas negras nos resultados \u00e9 fruto de padr\u00f5es de busca por conte\u00fado sexual e pornogr\u00e1fico, desrespeitando as mulheres negras como construtoras de narrativas e conte\u00fados pr\u00f3prios. Para tratar deste problema de pesquisa, Noble prop\u00f5e a aplica\u00e7\u00e3o de uma abordagem com m\u00e9todo e epistemologia feminista ao citar Sandra Harding, que diz que “Definir o que \u00e9 necess\u00e1rio em termos de explica\u00e7\u00e3o cient\u00edfica apenas da perspectiva da experi\u00eancia de homens brancos burgueses leva a compreens\u00e3o parcial e at\u00e9 perversa da vida social”.<\/p>\n

O segundo cap\u00edtulo “Searching for Black Girls” traz diversos estudos de caso sobre representa\u00e7\u00e3o de minorias pol\u00edticas nos resultados da Google, para buscas como “black girls”, “latina girls”, “asian girls” etc.\u00a0 A tela abaixo \u00e9 inclusa no livro e mostra como os resultados para “black girls” oferecem uma representa\u00e7\u00e3o pornogr\u00e1fica de meninas negras nos resultados.<\/p>\n

\"\"<\/p>\n

Noble\u00a0critica o uso puramente comercial, pela Google, de iniciativas como\u00a0Black Girls Code<\/em>, que n\u00e3o se reflete na melhoria de pr\u00e1ticas na empresa de tecnologia ou na contrata\u00e7\u00e3o minimamente representativa de profissionais negros. A distribui\u00e7\u00e3o de profissionais em empresas como a Google, Facebook e outras gigantes da tecnologia n\u00e3o representam nem de longe a distribui\u00e7\u00e3o de g\u00eanero e ra\u00e7a no pa\u00eds.<\/p>\n

\"\"<\/p>\n

\u00c9 especialmente relevante o fato de que a Google n\u00e3o s\u00f3 contrata engenheiros e cientistas da computa\u00e7\u00e3o de forma enviesada, como tamb\u00e9m n\u00e3o constr\u00f3i cargos e departamentos direcionados a\u00a0tarefas de otimiza\u00e7\u00e3o da oferta de m\u00eddia quanto a diversidade cultural e respeito \u00e0 humanidade dos seus clientes. N\u00e3o s\u00e3o pr\u00e1ticas novas, apesar das embalagens do Vale do Sil\u00edcio, como Noble demonstra ao fazer liga\u00e7\u00f5es destas representa\u00e7\u00f5es ao hist\u00f3rico de constru\u00e7\u00e3o de categorias raciais discriminat\u00f3rias com fins de domina\u00e7\u00e3o. \u00c9 imprescind\u00edvel, ent\u00e3o, adere\u00e7ar a opacidades das tecnologias que regem as trocas comunicacionais:<\/p>\n

“The more we can make transparent the political dimensions of technology, the more we might be able to intervene in the spaces where algorithms are becoming a substitute for public policy debates over resource distribution – from mortgages to insurance to educational opportunities”<\/p><\/blockquote>\n

O\u00a0terceiro cap\u00edtulo trata da representa\u00e7\u00e3o de pessoas e comunidades na web em resultados de busca, especialmente o caso de sites de not\u00edcias falsas criadas por racistas supremacistas brancos nos EUA. Usando o exemplo de termos como “black on white crime”, a autora mostra como os resultados melhor rankeados levam a sites com dados falsos e cheios de discurso de \u00f3dio, com SERPs\u00a0(“search engine results page”, termo usado geralmente para se referenciar \u00e0 primeira p\u00e1gina) que geram receita para a organiza\u00e7\u00e3o.<\/p>\n

O quarto cap\u00edtulo se debru\u00e7a sobre a\u00e7\u00f5es realizadas por grupos e indiv\u00edduos para se proteger dos malef\u00edcios dos vieses dos mecanismos de busca e do registro ilegal ou anti\u00e9tico de dados. A partir de casos famosos como o IsAnyoneUp (site que hospedava ilegalmente “porn\u00f4 de vingan\u00e7a”), a autora mostra correlatos relacionados \u00e0 perfiliza\u00e7\u00e3o de indiv\u00edduos em categorias criminosas. Sites como UnpublishArrest e Mugshots cobram para retirar fotos de fichamento (“mugshots”) divulgadas amplamente na internet, que prejudicam indiv\u00edduos tanto culpados quanto inocentes.\u00a0Como dados mostram, minorias \u00e9tnicas s\u00e3o presas e fichadas de forma err\u00f4nea e\/ou abusiva com muito mais frequ\u00eancia nos EUA, o que leva a morosidade (4 a 6 semanas, quando acontece) de tentativas de “limpar” resultados de busca um mecanismo de intensifica\u00e7\u00e3o da viol\u00eancia contra as minorias. O “direito ao esquecimento”, tema que j\u00e1 tratamos aqui no blog a partir de Mayer-Schonberger<\/a>, \u00e9 explorado a partir do pensamento de autores como Oscar Gandy Jr<\/a>., mostrando alternativas para a materializa\u00e7\u00e3o de aspectos negativos da ultra-racionaliza\u00e7\u00e3o enviesada da sociedade.<\/p>\n

O fechamento deste cap\u00edtulo tenta enfatizar a import\u00e2ncia da retomada da transpar\u00eancia sobre decis\u00f5es quanto a constru\u00e7\u00e3o de \u00edndices e sistemas de informa\u00e7\u00e3o:<\/p>\n

In addition to public policy, we can reconceptualize the design of indexes of the web that might be managed by librarians and info rmation institutions and workers to radically shift our ability to contextualize information. This could lead to significantly greater transparency, rather than continuing to make the neoliberal capitalist project of commercial search opaque.<\/p><\/blockquote>\n

O quinto cap\u00edtulo, ent\u00e3o, parte para imaginar o “Future of Knowledge in the Public”\u00a0a partir de uma revis\u00e3o cr\u00edtica sobre o hist\u00f3rico de problemas de classifica\u00e7\u00e3o de temas, pessoas e grupos em reposit\u00f3rios de informa\u00e7\u00e3o.\u00a0At\u00e9 muito recentemente categorias como “Jewish Question”, “Yellow Peril” eram usadas no sistema de classifica\u00e7\u00e3o da Biblioteca do Congresso nos EUA, que estabelece os padr\u00f5es seguidos no pa\u00eds. A domina\u00e7\u00e3o cultural sobre minorias \u00e9 estruturada e materializada em c\u00f3digos de enquadramento de estudos, literatura e pensamento sobre a sociedade de um modo que direciona as interpreta\u00e7\u00f5es e desdobramentos poss\u00edveis. Sistemas de informa\u00e7\u00e3o n\u00e3o s\u00e3o objetivos e n\u00e3o podem ser vistos dessa forma. Noble prop\u00f5e seguir as recomenda\u00e7\u00f5es do prof. Jonathan Furner para se aplicar Teoria Racial Cr\u00edtica a estudos de informa\u00e7\u00e3o, atrav\u00e9s de procedimentos como:<\/p>\n