{"id":10181,"date":"2017-03-09T23:32:07","date_gmt":"2017-03-10T02:32:07","guid":{"rendered":"http:\/\/tarciziosilva.com.br\/blog\/?p=10181"},"modified":"2017-03-10T18:59:21","modified_gmt":"2017-03-10T21:59:21","slug":"projeto-de-joy-buolamwini-jovialjoy-combate-discriminacao-nos-algoritmos","status":"publish","type":"post","link":"https:\/\/tarciziosilva.com.br\/blog\/projeto-de-joy-buolamwini-jovialjoy-combate-discriminacao-nos-algoritmos\/","title":{"rendered":"Projeto de Joy Buolamwini (@jovialjoy) combate discrimina\u00e7\u00e3o nos algoritmos"},"content":{"rendered":"<p><a href=\"http:\/\/tarciziosilva.com.br\/blog\/wp-content\/uploads\/2017\/03\/Joy-Buolamwini.jpeg\"><img loading=\"lazy\" decoding=\"async\" class=\"alignright wp-image-10183 size-thumbnail\" src=\"http:\/\/tarciziosilva.com.br\/blog\/wp-content\/uploads\/2017\/03\/Joy-Buolamwini-150x150.jpeg\" alt=\"\" width=\"150\" height=\"150\" srcset=\"https:\/\/tarciziosilva.com.br\/blog\/wp-content\/uploads\/2017\/03\/Joy-Buolamwini-150x150.jpeg 150w, https:\/\/tarciziosilva.com.br\/blog\/wp-content\/uploads\/2017\/03\/Joy-Buolamwini-300x300.jpeg 300w, https:\/\/tarciziosilva.com.br\/blog\/wp-content\/uploads\/2017\/03\/Joy-Buolamwini.jpeg 400w\" sizes=\"auto, (max-width: 150px) 100vw, 150px\" \/><\/a><a href=\"https:\/\/twitter.com\/jovialjoy\" target=\"_blank\">Joy Buolamwini<\/a> \u00e9 <a href=\"https:\/\/www.linkedin.com\/in\/buolamwini\" target=\"_blank\">mestre por Oxford e doutoranda e pesquisadora no MIT<\/a> e, a partir de sua pesquisa motivada por experi\u00eancias pessoais de discrimina\u00e7\u00e3o atrav\u00e9s de vieses dos algoritmos, ela lan\u00e7ou os projetos Coded Gaze e Algorithmic Justice League, para combater os problemas causados pela tecnologia e algoritmos falsamente objetivos. Ela ainda \u00e9 co-fundadora do Myavana Hair, sistema de recomenda\u00e7\u00e3o de produtos, servi\u00e7os e expertise para cada tipo de cabelo. Em novembro, deu uma <a href=\"https:\/\/www.ted.com\/talks\/joy_buolamwini_how_i_m_fighting_bias_in_algorithms\" target=\"_blank\">palestra no TEDxBeaconStreet<\/a> sobre o tema. Pode ser vista no v\u00eddeo abaixo, mas infelizmente ainda n\u00e3o h\u00e1 legendas em portugu\u00eas. Ent\u00e3o traduzi, em seguida, a transcri\u00e7\u00e3o oferecida pelo pr\u00f3prio website, para facilitar a compreens\u00e3o:<\/p>\n<p><iframe loading=\"lazy\" src=\"https:\/\/embed.ted.com\/talks\/lang\/en\/joy_buolamwini_how_i_m_fighting_bias_in_algorithms\" width=\"560\" height=\"315\" frameborder=\"0\" scrolling=\"no\" allowfullscreen=\"allowfullscreen\"><\/iframe><\/p>\n<p><strong>Tradu\u00e7\u00e3o da Transcri\u00e7\u00e3o<\/strong><\/p>\n<p>0:12<\/p>\n<p>Ol\u00e1, eu sou a Joy, uma poeta do c\u00f3digo, com uma miss\u00e3o de enfrentar uma for\u00e7a invis\u00edvel que est\u00e1 crescendo, uma for\u00e7a que eu chamei de \u201co olhar codificado\u201d, meu termo para vieses algor\u00edtimicos.<\/p>\n<p>0:26<\/p>\n<p>Vi\u00e9s algor\u00edtmico (<em>algorithmic bias<\/em>), assim como o vi\u00e9s humano, resulta em injusti\u00e7a. Entretanto, algoritmos, como v\u00edrus, podem compartilhar vieses em uma escala massiva com muita velocidade. Vi\u00e9s algor\u00edtmico pode tamb\u00e9m levar a experi\u00eancias excludentes e pr\u00e1ticas discriminat\u00f3rias. Deixe-me mostrar o que quero dizer.<\/p>\n<p>0:47<\/p>\n<p>(V\u00eddeo) Joy Boulamwini: Oi, c\u00e2mera. Eu tenho um rosto. Voc\u00ea pode ver meu rosto? E meu rosto em \u00f3culos? Voc\u00ea pode ver o rosto dela. E o meu rosto? Agora tenho uma m\u00e1scara. Voc\u00ea pode ver minha m\u00e1scara?<\/p>\n<p>1:07<\/p>\n<p>Joy Boylamwini: Ent\u00e3o, como isto aconteceu? Por que estou em frente a um computador com uma m\u00e1scara branca, tentando ser detectada por uma c\u00e2mera barata? Bem, quando n\u00e3o estou lutando contra o \u201colhar codificado\u201d como uma poeta do c\u00f3digo, eu sou uma estudante de p\u00f3s-gradua\u00e7\u00e3o no MIT Media Lab, e l\u00e1 eu tenho a oportunidade de trabalhar em todos os tipos de projetos fant\u00e1sticos, incluindo o Aspire Mirror, um projeto que eu fiz para projetar m\u00e1scaras digitais em meus reflexos. Ent\u00e3o, de manh\u00e3, se eu quiser me sentir poderosa, posso colocar uma m\u00e1scara de le\u00e3o. Se quero me sentir pra cima, posso colocar uma cita\u00e7\u00e3o. Ent\u00e3o, usei software gen\u00e9rico de reconhecimento facial para construir o sistema, mas descobri que era muito dif\u00edcil de test\u00e1-lo a n\u00e3o ser que eu usasse uma m\u00e1scara branca.<\/p>\n<p>1:55<\/p>\n<p>Infelizmente, j\u00e1 passei por este problema antes. Quando eu era graduando na Georgia Tech estudando Ci\u00eancia da Computa\u00e7\u00e3o, eu trabalhava com rob\u00f4s sociais e uma de minhas tarefas era fazer um rob\u00f4 brincar de peek-a-boo, uma brancadeira simples onde as pessoas brincando cobrem sua pr\u00f3pria face e a descobrem dizendo \u201cPeek-a-boo!\u201d. O problema \u00e9: peek-a-boo n\u00e3o funciona se eu n\u00e3o posso ver voc\u00ea, e meu rob\u00f4 n\u00e3o conseguia me ver. Mas eu emprestei o rosto de minha colega de quarto para fazer o projeto, submeti o trabalho e percebi, sabe de uma coisa, outra pessoa vai resolver este problema.<\/p>\n<p>2:32<\/p>\n<p>N\u00e3o muito tempo depois disto, eu estava em Hong Kong para uma competi\u00e7\u00e3o de empreendedorismo. Os organizadores decidiram levar os participantes a um tour pelas statups locais. Uma das startups tinha um rob\u00f4 social e eles decidiram fazer uma demonstra\u00e7\u00e3o. A demo funcionou com todo mundo, exceto comigo, como voc\u00ea pode adivinhar. N\u00e3o conseguiu detectar meu rosto. Perguntei aos desenvolvedores o que estava acontecendo e disseram que tamb\u00e9m estavam usando o mesmo software gen\u00e9rico de reconhecimento facial. Do outro lado do mundo, aprendi que o vi\u00e9s algor\u00edtmico pode viajar t\u00e3o r\u00e1pido quanto baixar alguns arquivos da internet.<\/p>\n<p>3:14<\/p>\n<p>Ent\u00e3o o que estava acontecendo? Por que minha face n\u00e3o estava sendo detectada? Bem, precisamos nos debru\u00e7ar como damos vis\u00e3o \u00e0s m\u00e1quinas. Vis\u00e3o computacional usa aprendizado de m\u00e1quina para fazer reconhecimento facial. Ent\u00e3o funciona da seguinte forma. Voc\u00ea cria uma base de treinamento com exemplos de rostos. Este \u00e9 um rosto. Este \u00e9 um rosto. Isto n\u00e3o \u00e9 um rosto. E ao longo do tempo, voc\u00ea pode ensinar um computador a como reconhecer outros rostos. Entretanto, se a base de treinamento n\u00e3o \u00e9 diversa, qualquer rosto que se desvie da norma estabelecida ser\u00e1 dif\u00edcil de detectar, o que aconteceu comigo.<\/p>\n<p>3:48<\/p>\n<p>Mas n\u00e3o se preocupe \u2013 h\u00e1 boas not\u00edcias. Bases de treinamento n\u00e3o se materializaram do nada. Na verdade, n\u00f3s criamos eles. Ent\u00e3o h\u00e1 uma oportunidade para criar bases de treinamento realmente abrangentes que reflitam um retrato mais rico da humanidade.<\/p>\n<p>4:03<\/p>\n<p>Agora voc\u00eas viram em meus exemplos com rob\u00f4s sociais como eu descobri sobre exclus\u00e3o com vi\u00e9s algor\u00edtmico. Mas vi\u00e9s algor\u00edtmico tamb\u00e9m pode levar a pr\u00e1ticas discriminat\u00f3rias. Nos EUA, departamentos de pol\u00edcia est\u00e3o come\u00e7ando a usar softwares de reconhecimento facial em seu arsenal contra o crime. Georgetown Law publicou um relat\u00f3rio mostrando como um a cada dois adultos nos EUA \u2013 cerca de 117 milh\u00f5es de pessoas \u2013 j\u00e1 tem seus rostos em redes de reconhecimento facial. Departamentos de pol\u00edcia atualmente acessam estas redes desreguladas, usando algoritmos que n\u00e3o foram auditados para precis\u00e3o. Mas sabemos que reconhecimento facial \u00e9 fal\u00edvel e identificar rostos consistentemente continua sendo um desafio. Voc\u00ea pode ter visto isto no Facebook. Meus amigos e eu rimos toda hora vendo pessoas marcadas de forma errada em nossas fotos. Mas identificar de forma err\u00f4nea um suspeito de crime n\u00e3o \u00e9 uma piada, assim como n\u00e3o \u00e9 infringir as liberdades civis.<\/p>\n<p>5:11<\/p>\n<p>Aprendizado de m\u00e1quina tem sido usado para reconhecimento f\u00e1cil, mas tamb\u00e9m est\u00e1 se ampliando al\u00e9m do reino da vis\u00e3o computacional. Em seu livro \u201cWeapons of Math Destruction\u201d, a cientista de dados Cathy O\u2019Neil fala sobre o crescimento dos novos WMDs \u2013 widespread, mysterious e destructive algoritmos que est\u00e3o sendo cada vez mais usados para tomada de decis\u00f5es que impactam mais e mais aspectos de nossas vidas. Ent\u00e3o quem \u00e9 contratado ou demitido?\u00a0 Voc\u00ea consegue aquele empr\u00e9stico? Voc\u00ea consegue seguro? Voc\u00ea \u00e9 aprovado na faculdade que queria? Voc\u00ea e eu pagamos o mesmo pre\u00e7o pelo menos produto comprado na mesma plataforma?<\/p>\n<p>5:55<\/p>\n<p>Institui\u00e7\u00f5es da lei est\u00e3o come\u00e7ando a aplicar aprendizado de m\u00e1quina para pol\u00edcia preditiva. Alguns ju\u00edzes usam escores de risco gerados por m\u00e1quinas para determinar quanto um indiv\u00edduo vai ficar na pris\u00e3o. Ent\u00e3o realmente temos que pensar nestas decis\u00f5es. Elas s\u00e3o justas? E o que estamos vendo \u00e9 que o vi\u00e9s algor\u00edtmico n\u00e3o necessariamente leva a resultados justos.<\/p>\n<p>6:19<\/p>\n<p>E o que podemos fazer sobre isto? Bem, podemos come\u00e7ar a pensar sobre como criar c\u00f3digo mais inclusivo e empregar pr\u00e1ticas de programa\u00e7\u00e3o inclusivas. Realmente come\u00e7a com as pessoas. Ent\u00e3o quem programa importa. Estamos criando times abrangentes com indiv\u00edduos diversos que podem checar os pontos cegos uns dos outros? No lado t\u00e9cnico, como se programa importa. Estamos adicionando equidade enquanto desenvolvemos sistemas? E, finalmente, o porqu\u00ea de programarmos importa. Usamos ferramentas de cria\u00e7\u00e3o computacional para gerar riqueza imensa. E agora temos a oportunidade de gerar ainda mais igualdade se tornarmos mudan\u00e7a social uma prioridade e n\u00e3o apenas algo secund\u00e1rio. E s\u00e3o estes os tr\u00eas princ\u00edpios que fazem o movimento \u201cincoding\u201d. Quem programa importa, como programamos importa e quem programa importa<\/p>\n<p>7:14<\/p>\n<p>Ent\u00e3o para ir em dire\u00e7\u00e3o a \u201cincoding\u201d, n\u00f3s podemos come\u00e7ar a pensar em construir plataformas que identifiquem vieses ao coletar as experi\u00eancias das pessoas como as que eu compartilhei, mas tamb\u00e9m auditando software existente. N\u00f3s podemos come\u00e7ar a criar bases de treinamento mais inclusivas. Imagine uma campanha \u201cSelfies para Inclus\u00e3o\u201d onde voc\u00ea e EU podemos ajudar desenvolvedores testar e criar bases de treinamento mais inclusivas. E n\u00f3s podemos pensar mais conscientemente sobre o impacto social da tecnologia que estamos desenvolvendo.<\/p>\n<p>7:48<\/p>\n<p>Para come\u00e7ar este movimento de \u201cincoding\u201d, lancei a Liga da Justi\u00e7a Algor\u00edtmica (Algorithmic Justice League), onde qualquer pessoa que se importa com equidade pode ajudar a lugar o olhar codificado. Em codedgae.com, voc\u00ea pode reportar vi\u00e9s, pedir auditorias, se tornar um testador e se juntar ao debate cont\u00ednuo &#8211; #codedgaze<\/p>\n<p>8:11<\/p>\n<p>Ent\u00e3o, eu te convido a se juntar a mim na cria\u00e7\u00e3o de um mundo onde a tecnologia trabalha para todos n\u00f3s, n\u00e3o apenas alguns de n\u00f3s, um mundo onde valorizamos inclus\u00e3o e centralizamos mudan\u00e7a social.<\/p>\n<p>8:24<\/p>\n<p>Obrigado.<\/p>\n<p>8:25<\/p>\n<p>(Aplausos)<\/p>\n<p>8:31<\/p>\n<p>Mas eu tenho uma quest\u00e3o: voc\u00eas v\u00e3o se juntar a mim na luta?<\/p>\n<p>8:36<\/p>\n<p>Risadas<\/p>\n<p>8:38<\/p>\n<p>Aplausos<\/p>\n","protected":false},"excerpt":{"rendered":"<p>Joy Buolamwini \u00e9 mestre por Oxford e doutoranda e pesquisadora no MIT e, a partir de sua pesquisa motivada por experi\u00eancias pessoais de discrimina\u00e7\u00e3o atrav\u00e9s de vieses dos algoritmos, ela lan\u00e7ou os projetos Coded Gaze e Algorithmic Justice League, para combater os problemas causados pela tecnologia e algoritmos falsamente objetivos. Ela ainda \u00e9 co-fundadora do [&hellip;]<\/p>\n","protected":false},"author":6,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[19,108],"tags":[2506,2507,2461,2508],"class_list":["post-10181","post","type-post","status-publish","format-standard","hentry","category-apresentacoes","category-pesquisa","tag-algoritmo","tag-discriminacao","tag-racismo","tag-tedx"],"_links":{"self":[{"href":"https:\/\/tarciziosilva.com.br\/blog\/wp-json\/wp\/v2\/posts\/10181","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/tarciziosilva.com.br\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/tarciziosilva.com.br\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/tarciziosilva.com.br\/blog\/wp-json\/wp\/v2\/users\/6"}],"replies":[{"embeddable":true,"href":"https:\/\/tarciziosilva.com.br\/blog\/wp-json\/wp\/v2\/comments?post=10181"}],"version-history":[{"count":7,"href":"https:\/\/tarciziosilva.com.br\/blog\/wp-json\/wp\/v2\/posts\/10181\/revisions"}],"predecessor-version":[{"id":10192,"href":"https:\/\/tarciziosilva.com.br\/blog\/wp-json\/wp\/v2\/posts\/10181\/revisions\/10192"}],"wp:attachment":[{"href":"https:\/\/tarciziosilva.com.br\/blog\/wp-json\/wp\/v2\/media?parent=10181"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/tarciziosilva.com.br\/blog\/wp-json\/wp\/v2\/categories?post=10181"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/tarciziosilva.com.br\/blog\/wp-json\/wp\/v2\/tags?post=10181"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}