{"id":11175,"date":"2019-07-24T19:57:02","date_gmt":"2019-07-24T22:57:02","guid":{"rendered":"https:\/\/tarciziosilva.com.br\/blog\/?p=11175"},"modified":"2019-07-24T19:57:02","modified_gmt":"2019-07-24T22:57:02","slug":"o-racismo-por-tras-dos-filtros-do-faceapp-e-de-outras-tecnologias","status":"publish","type":"post","link":"https:\/\/tarciziosilva.com.br\/blog\/o-racismo-por-tras-dos-filtros-do-faceapp-e-de-outras-tecnologias\/","title":{"rendered":"O racismo por tr\u00e1s dos filtros do FaceApp e de outras tecnologias"},"content":{"rendered":"

Na \u00faltima semana tive o prazer de conversar com a jornalista Beatriz Sans, do R7, sobre o caso recente da controv\u00e9rsia em torno do FaceApp. A jornalista escreveu mat\u00e9ria muito interessante sobre o aplicativo e citou outros casos que tenho mapeados na Timeline<\/a>. Voc\u00ea pode clicar abaixo para ver a reportagem e colo, em seguida, a \u00edntegra das minhas respostas:<\/p>\n

\"\"<\/a><\/p>\n

Por que o FaceApp pode ser considerado racista?<\/strong><\/p>\n

Em 2017 o FaceApp viralizou pela primeira vez e jornalistas e ativistas ingleses identificaram como o aplicativo tinha um filtro chamado \u201cHot\u201d, que deixaria as selfies mais atraentes, que embranqueceu rostos de todos usu\u00e1rios, inclusive de usu\u00e1rios negros e indianos de forma aberrante.<\/p>\n

Na pesquisa desenvolvo o conceito de \u201cracismo algor\u00edtmico\u201d para tratar de como sistemas e pr\u00e1ticas racistas se manifestam em aplicativos e agentes artificiais. Em minha tese mapeio dezenas de casos expl\u00edcitos como o do FaceApp, mas mais do que apontar um aplicativo ou outro, \u00e9 importante entender como a desigualdade resultante de s\u00e9culos de explora\u00e7\u00e3o, ainda vigentes, se desdobra tamb\u00e9m em tecnologias do cotidiano.<\/p>\n

\u00a0<\/strong><\/p>\n

Quais s\u00e3o as preocupa\u00e7\u00f5es que o usu\u00e1rio precisa ter ao usar esses aplicativos?\u00a0De que forma essas imagens podem ser utilizadas no futuro?\u00a0Quais s\u00e3o os principais problemas com o reconhecimento facial?<\/strong><\/p>\n

Eu defendo que as pessoas sejam cautelosas com procedimentos e aplicativos de processamento autom\u00e1tico de conte\u00fado e intelig\u00eancia artificial. Individualmente podem ter impactos negativos pontuais: no caso do FaceApp, insultos \u00e0 est\u00e9tica e beleza n\u00e3o-europeia, por exemplo. Mas de modo mais amplo alguns destes aplicativos somam informa\u00e7\u00f5es para o treinamento de sistemas de aprendizado de m\u00e1quina que, posteriormente, podem ter desdobramentos nocivos.<\/p>\n

O mais recorrente deles \u00e9 o uso desses dados coletivos para sistemas de reconhecimento facial que ajudem projetos opressivos em pa\u00edses autorit\u00e1rios ou em decl\u00ednio democr\u00e1tico. Por exemplo, nos EUA funcion\u00e1rios da Amazon est\u00e3o protestando e tentando impedir que a empresa trabalhe para \u00f3rg\u00e3os como o ICE que documenta e persegue imigrantes no pa\u00eds.<\/p>\n

Outro uso em crescimento \u00e9 a constru\u00e7\u00e3o dos chamados deep fakes<\/em>, que s\u00e3o simula\u00e7\u00f5es de fotografias e v\u00eddeos de pessoas que n\u00e3o existem ou de pessoas reais, mas em situa\u00e7\u00f5es falsas. Podem e s\u00e3o usados para projetos de desinforma\u00e7\u00e3o que se multiplicam em torno do mundo em controv\u00e9rsias pol\u00edticas.<\/p>\n

Mesmo o reconhecimento facial para fins de identifica\u00e7\u00e3o cotidiana em contextos democr\u00e1ticos e justos \u00e9 criticado em torno do mundo. Muitos juristas e ativistas defendem que o uso de reconhecimento facial como tecnologia biom\u00e9trica n\u00e3o deveria ser disseminado. Mas, ao contr\u00e1rio, j\u00e1 est\u00e1 sendo usado por pol\u00edcias de todo o mundo \u2013 e de forma desastrosa.<\/p>\n

Em estudo recente, se descobriu que 81% dos casos de reconhecimento de suspeitos na regi\u00e3o de Londres foram errados<\/a>. No Brasil algumas cidades est\u00e3o usando o recurso e j\u00e1 h\u00e1 casos de erros documentados no Rio de Janeiro<\/a>. Estas tecnologias n\u00e3o deveriam ser implementadas sem amplo debate com a sociedade e organiza\u00e7\u00f5es de direitos civis.<\/p>\n

 <\/p>\n

Como o racismo algor\u00edtmico impacta em outras \u00e1reas da tecnologia?<\/strong><\/p>\n

H\u00e1 casos documentados n\u00e3o s\u00f3 na comunica\u00e7\u00e3o e em plataformas de m\u00eddias sociais, mas em diversas \u00e1reas. Diversos sistemas de intelig\u00eancia artificial para recrutamento j\u00e1 foram analisados como falhos neste sentido e um dos casos recentes mais chocantes foi da inova\u00e7\u00e3o na ind\u00fastria automotiva. \u00a0Pesquisadores da George Institute of Technology mostraram que alguns sistemas de vis\u00e3o computacional usados em carros aut\u00f4nomos em desenvolvimento identificariam pedestres negros com menos precis\u00e3o. Ou seja, literalmente teriam mais chance de ser atropelados se estes carros j\u00e1 estivessem circulando.<\/p>\n

 <\/p>\n

Como as empresas de tecnologia colaboram para a continua\u00e7\u00e3o do racismo?<\/strong><\/p>\n

H\u00e1 tr\u00eas modos principais que s\u00e3o parte causa e parte consequ\u00eancia. O mais simples \u00e9 no pr\u00f3prio vi\u00e9s de contrata\u00e7\u00e3o de desenvolvedores, engenheiros e gerentes de produto em empresas de tecnologia de m\u00eddias sociais e\/ou intelig\u00eancia artificial. Dados do relat\u00f3rio EEO-1 Comiss\u00e3o Governamental de Igualdade no Emprego dos EUA mostram que os profissionais do Vale do Sil\u00edcio n\u00e3o representam a multiplicidade da popula\u00e7\u00e3o americana. Isto tem impactos nas plataformas e dispositivos pois, em consequ\u00eancia, abarcar\u00e3o menos a diversidade de usos e usu\u00e1rios.<\/p>\n

O segundo \u00e9 a quest\u00e3o da omiss\u00e3o, em parte, resultante do primeiro motivo. Boa parte das manifesta\u00e7\u00f5es de racismo algor\u00edtmico documentadas nos \u00faltimos anos se tratou de sistemas que intensificam procedimentos racistas por terem sido treinados com bases de dados criadas por sistemas enviesados, com pouca representatividade racial e cultural. Mas a omiss\u00e3o tamb\u00e9m \u00e9 um problema relevante, uma vez que nem sequer foram testados corretamente antes de ir ao ar alguns sistemas problem\u00e1ticos.<\/p>\n

Por fim, um grande desafio \u00e9 que o pr\u00f3prio modelo de neg\u00f3cio dessas empresas promove a ideia de que \u201ctecnologias s\u00e3o neutras\u201d quando n\u00e3o o s\u00e3o. Nos EUA h\u00e1 trabalhos fant\u00e1sticos de auditoria e an\u00e1lise dessas plataformas por pesquisadoras de universidade de ponta, como Joy Buolamwini, Safiya Noble e Ruha Benjamim. Entretanto, criar sistemas efetivamente justos gera mais custos \u2013 ent\u00e3o as plataformas defendem que s\u00e3o \u201capenas tecnologia\u201d e n\u00e3o sistemas de m\u00eddia, com responsabilidade constitucional como tais.<\/p>\n

 <\/p>\n

Quais medidas podem ser tomadas para que as minorias n\u00e3o sofram com o racismo algor\u00edtmico?<\/strong><\/p>\n

A primeira medida, e mais importante, \u00e9 compreender que a concentra\u00e7\u00e3o midi\u00e1tica em poucas plataformas, sobretudo de empresas de tecnologia advindas dos pa\u00edses de sempre, n\u00e3o \u00e9 positiva. Uma internet plural e diversa em tecnologias, sites e ambientes remedia os potenciais nocivos dessa concentra\u00e7\u00e3o atual.<\/p>\n

Al\u00e9m disso, tecnologias e ambientes digitais do tipo devem ser regulados pela sociedade, atrav\u00e9s de representantes em institui\u00e7\u00f5es civis, casas legislativas e \u00f3rg\u00e3os governamentais. Sociedades saud\u00e1veis e democr\u00e1ticas olham para a inova\u00e7\u00e3o e tecnologia de forma respons\u00e1vel, buscando o bem comum.<\/p>\n

Por fim, a ideia de \u201cliteracia midi\u00e1tica e algor\u00edtmica\u201d busca promover o conhecimento sobre como m\u00eddias e tecnologias s\u00e3o consumidas e produzidas. Idealmente toda a sociedade deveria entender e poder analisar as tecnologias de uma forma cr\u00edtica, n\u00e3o apenas pesquisadores acad\u00eamicos e jornalistas especializados. Para democracias saud\u00e1veis no futuro, \u00e9 indispens\u00e1vel que este tipo de reflex\u00e3o esteja inclusa tamb\u00e9m no ensino b\u00e1sico.<\/p>\n

 <\/p>\n

Voc\u00ea pode citar outros exemplos de racismo algor\u00edtmico?<\/strong><\/p>\n

Gostaria de destacar dois deles. Em 2016, grupos americanos descobriram que o Facebook possui uma op\u00e7\u00e3o que permite excluir afro-americanos e asi\u00e1tico-americanos de an\u00fancios em sua plataforma, inclusive pra categorias como habita\u00e7\u00e3o. Ao mesmo tempo, n\u00e3o permitia excluir caucasianos. O mais grave \u00e9 que infringia claramente o chamado Fair Housing Act<\/em>, criado nos anos 1960 para evitar discrimina\u00e7\u00e3o racial na compra, aluguel e venda de im\u00f3veis nos EUA. O recurso ilegal ficou anos no ar, prejudicando a equidade no mercado imobili\u00e1rio<\/a>.<\/p>\n

Talvez o caso mais famoso e grave, da \u00e1rea da justi\u00e7a, foi o do COMPAS. O sistema tem um recurso de an\u00e1lise de probabilidade de reincid\u00eancia que d\u00e1 um escore de possibilidade preditiva de ex-infratores cometerem novos delitos. Foi descoberto que as recomenda\u00e7\u00f5es eram enviesadas negativamente contra negros e suavizavam contra brancos<\/a>. Ou seja, o COMPAS destruiu fam\u00edlias ao encarcerar por mais tempo injustamente pessoas que cometeram pequenos delitos (como furto) simplesmente por serem negras.<\/p>\n

 <\/p>\n

H\u00e1 alguma forma segura para pessoas negras e outras minorias que desejam\u00a0<\/strong>participar das redes sociais e outros apps sem que sua privacidade seja violada?<\/strong><\/p>\n

No atual ecossistema midi\u00e1tico extremamente concentrado a resposta pode ser um simples \u201cn\u00e3o\u201d. Ou ao menos n\u00e3o com nomes, imagens e identidades reais. Mas ainda mais importante do que preservar a privacidade nestes ambientes, precisamos incentivar o uso m\u00faltiplo da internet. Websites pessoais, blogs, f\u00f3runs alternativos, wikis e sites de redes sociais locais e segmentados podem ajudar a reduzir a depend\u00eancia das mesmas velhas m\u00eddias sociais.<\/p>\n","protected":false},"excerpt":{"rendered":"

Na \u00faltima semana tive o prazer de conversar com a jornalista Beatriz Sans, do R7, sobre o caso recente da controv\u00e9rsia em torno do FaceApp. A jornalista escreveu mat\u00e9ria muito interessante sobre o aplicativo e citou outros casos que tenho mapeados na Timeline. Voc\u00ea pode clicar abaixo para ver a reportagem e colo, em seguida, […]<\/p>\n","protected":false},"author":6,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[552,1147],"tags":[2624,2603],"class_list":["post-11175","post","type-post","status-publish","format-standard","hentry","category-entrevistas","category-textos-academicos","tag-faceapp","tag-racismo-algoritmico"],"_links":{"self":[{"href":"https:\/\/tarciziosilva.com.br\/blog\/wp-json\/wp\/v2\/posts\/11175","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/tarciziosilva.com.br\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/tarciziosilva.com.br\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/tarciziosilva.com.br\/blog\/wp-json\/wp\/v2\/users\/6"}],"replies":[{"embeddable":true,"href":"https:\/\/tarciziosilva.com.br\/blog\/wp-json\/wp\/v2\/comments?post=11175"}],"version-history":[{"count":4,"href":"https:\/\/tarciziosilva.com.br\/blog\/wp-json\/wp\/v2\/posts\/11175\/revisions"}],"predecessor-version":[{"id":11180,"href":"https:\/\/tarciziosilva.com.br\/blog\/wp-json\/wp\/v2\/posts\/11175\/revisions\/11180"}],"wp:attachment":[{"href":"https:\/\/tarciziosilva.com.br\/blog\/wp-json\/wp\/v2\/media?parent=11175"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/tarciziosilva.com.br\/blog\/wp-json\/wp\/v2\/categories?post=11175"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/tarciziosilva.com.br\/blog\/wp-json\/wp\/v2\/tags?post=11175"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}