{"id":11133,"date":"2019-07-03T10:30:53","date_gmt":"2019-07-03T13:30:53","guid":{"rendered":"https:\/\/tarciziosilva.com.br\/blog\/?p=11133"},"modified":"2019-07-03T10:30:53","modified_gmt":"2019-07-03T13:30:53","slug":"trancas-feias-e-trancas-bonitas-como-google-intensifica-racismo","status":"publish","type":"post","link":"https:\/\/tarciziosilva.com.br\/blog\/trancas-feias-e-trancas-bonitas-como-google-intensifica-racismo\/","title":{"rendered":"“Tran\u00e7as feias” e “tran\u00e7as bonitas”: como Google intensifica racismo"},"content":{"rendered":"

Viralizou na \u00faltima semana um exerc\u00edcio de interroga\u00e7\u00e3o cr\u00edtica do buscador Google: basicamente pesquisar “tran\u00e7as feias” e “tran\u00e7as bonitas” e conferir quais imagens s\u00e3o destacadas na aba de resultados de imagens do buscador. Longe de ser algo pontual, estes casos, mecanismos e problemas no excelente livro de Safiya Noble “Algoritmos de Opress\u00e3o: como mecanismos de busca refor\u00e7am o racismo<\/a>“. Outros casos similares mantenho na minha Timeline do Racismo Algor\u00edtmico<\/em><\/a>.\u00a0Ontem falei com o jornalista Tiago Rugero, do blog do Ancelmo (O Globo) sobre a quest\u00e3o<\/a>. Seguem minhas respostas:<\/p>\n

\"\"<\/p>\n

Voc\u00ea considera esse um caso de racismo algor\u00edtmico?<\/strong>
\nSim. Racismo n\u00e3o se trata apenas de xingamentos horrorosos contra uma minoria. Trata-se tamb\u00e9m da manuten\u00e7\u00e3o de desigualdades estruturadas e microagress\u00f5es no cotidiano que podem ser resultado de como sistemas automatizados, como buscadores, reagem ao comportamento dos usu\u00e1rios. No caso que est\u00e1 sendo viralizado, sobre as tran\u00e7as feias e bonitas, o buscador n\u00e3o apenas reflete percep\u00e7\u00f5es da sociedade, mas tamb\u00e9m pode intensific\u00e1-las ao repetir em massa sem responsabilidade. Se uma crian\u00e7a negra, por exemplo, v\u00ea estes resultados continuamente, sem ver outros conte\u00fados positivos, isto gera sentimentos negativos sobre sua est\u00e9tica e autoestima. H\u00e1 v\u00e1rios pesquisadores e pesquisadoras em universidades internacionais, como Joy Buolamwini, Safiya Noble, Frank Pasquale, Cathy O’Neill, Sil Bahia, S\u00e9rgio Amadeu que tratam de impactos sociais dos algoritmos h\u00e1 anos, mas agora o debate se populariza.<\/p>\n

As tecnologias n\u00e3o s\u00e3o neutras. Mas isto n\u00e3o quer dizer que s\u00e3o negativas ou positivas. Significa que podemos gerar esfor\u00e7os coletivamente para criar ambientes favor\u00e1veis a todas as pessoas. Algumas plataformas digitais j\u00e1 possuem esfor\u00e7os neste sentido. Microsoft e IBM, por exemplo, j\u00e1 reagiram a pesquisas sobre casos anteriores. \u00c9 importante debater tudo isto entre desenvolvedores, sociedade, jornalistas e afins.<\/p>\n

O que \u00e9 racismo algor\u00edtmico?<\/strong>
\nO racismo algor\u00edtmico trata de entender como sistemas regidos por algoritmos podem tomar decis\u00f5es negativas contra um grupo racial espec\u00edfico. H\u00e1 casos mapeados em \u00e1reas claramente muito graves, como decis\u00f5es judiciais automatizadas ou reconhecimento facial que podem gerar, por exemplo, a pris\u00e3o injusta de uma pessoa inocente. Isto mostra a necessidade, j\u00e1 avan\u00e7ada em alguns pa\u00edses, de permitir a “auditoria algor\u00edtmica” para que sistemas contratados por governos sejam justos e n\u00e3o possam ser usados para fins nocivos.
\nMas na comunica\u00e7\u00e3o tamb\u00e9m h\u00e1 problemas poss\u00edveis para milh\u00f5es de pessoas, uma vez que hoje n\u00f3s passamos a maior parte do nosso tempo em ambientes como Google e Facebook. Assim como acontece com a publicidade tradicional, a invisibilidade ou representa\u00e7\u00e3o nociva de grupos minorizados deve ser debatida pois prejudica os grupos citados, a sociedade e a pr\u00f3pria economia e consumo.
\nNa maioria dos casos, os estudos mostram que os problemas n\u00e3o s\u00e3o claramente “intencionais”. N\u00e3o \u00e9 um desenvolvedor racista, geralmente, que vai incluir aquelas decis\u00f5es que prejudicar\u00e3o algu\u00e9m. Mas pecar por omiss\u00e3o pode ser t\u00e3o negativo quanto por inten\u00e7\u00e3o. Por isto tanto a press\u00e3o pela transpar\u00eancia das plataformas quanto falar sobre casos como este \u00e9 importante para gerar o debate que vai ajudar os pr\u00f3prios criadores destes ambientes a melhorar seus sistemas. O campo da intelig\u00eancia artificial, de modo amplo, est\u00e1 desenvolvendo modos de treinar melhor os sistemas e desenhar melhor as interfaces para isto, com apoio tamb\u00e9m das humanidades, artes, soci\u00f3logos e jornalistas.<\/p>\n

 <\/p>\n

Horas depois, a Google emitiu uma nota, que reproduzo a seguir:<\/p>\n

“Construir uma experi\u00eancia de busca \u00e9 um desafio complexo, din\u00e2mico e em constante evolu\u00e7\u00e3o. Como nossos sistemas encontram e organizam informa\u00e7\u00f5es dispon\u00edveis na web, eventualmente, a busca pode espelhar estere\u00f3tipos existentes na internet e no mundo real em fun\u00e7\u00e3o da maneira como alguns autores criam e rotulam seu conte\u00fado. Entendemos que pessoas de todas as ra\u00e7as, g\u00eaneros e grupos podem ser afetadas por essas representa\u00e7\u00f5es. Compartilhamos essa preocupa\u00e7\u00e3o e continuaremos trabalhando para melhorar os resultados de busca de imagens para todos nossos usu\u00e1rios.”<\/p><\/blockquote>\n

Esta pretens\u00e3o de neutralidade, de que o buscador \u00e9 “s\u00f3 uma tecnologia” est\u00e1 sendo combatida internacionalmente. Gostaria de destacar o artigo “Por que empresas de m\u00eddia insistem que n\u00e3o s\u00e3o empresas de m\u00eddia, por que est\u00e3o erradas e por que isso importa<\/a>“, de Philip Napoli e Robyn Caplan, que explicam como discursos tais como o acima s\u00e3o problem\u00e1ticos.<\/p>\n","protected":false},"excerpt":{"rendered":"

Viralizou na \u00faltima semana um exerc\u00edcio de interroga\u00e7\u00e3o cr\u00edtica do buscador Google: basicamente pesquisar “tran\u00e7as feias” e “tran\u00e7as bonitas” e conferir quais imagens s\u00e3o destacadas na aba de resultados de imagens do buscador. Longe de ser algo pontual, estes casos, mecanismos e problemas no excelente livro de Safiya Noble “Algoritmos de Opress\u00e3o: como mecanismos de […]<\/p>\n","protected":false},"author":6,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[2549],"tags":[769,11,2461,2603],"class_list":["post-11133","post","type-post","status-publish","format-standard","hentry","category-inteligencia-artificial-e-algoritmos","tag-estetica","tag-google","tag-racismo","tag-racismo-algoritmico"],"_links":{"self":[{"href":"https:\/\/tarciziosilva.com.br\/blog\/wp-json\/wp\/v2\/posts\/11133","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/tarciziosilva.com.br\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/tarciziosilva.com.br\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/tarciziosilva.com.br\/blog\/wp-json\/wp\/v2\/users\/6"}],"replies":[{"embeddable":true,"href":"https:\/\/tarciziosilva.com.br\/blog\/wp-json\/wp\/v2\/comments?post=11133"}],"version-history":[{"count":4,"href":"https:\/\/tarciziosilva.com.br\/blog\/wp-json\/wp\/v2\/posts\/11133\/revisions"}],"predecessor-version":[{"id":11139,"href":"https:\/\/tarciziosilva.com.br\/blog\/wp-json\/wp\/v2\/posts\/11133\/revisions\/11139"}],"wp:attachment":[{"href":"https:\/\/tarciziosilva.com.br\/blog\/wp-json\/wp\/v2\/media?parent=11133"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/tarciziosilva.com.br\/blog\/wp-json\/wp\/v2\/categories?post=11133"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/tarciziosilva.com.br\/blog\/wp-json\/wp\/v2\/tags?post=11133"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}