{"id":11116,"date":"2019-06-23T18:38:51","date_gmt":"2019-06-23T21:38:51","guid":{"rendered":"https:\/\/tarciziosilva.com.br\/blog\/?p=11116"},"modified":"2019-06-23T18:48:03","modified_gmt":"2019-06-23T21:48:03","slug":"interrogando-plataformas-e-algoritmos-digitais","status":"publish","type":"post","link":"https:\/\/tarciziosilva.com.br\/blog\/interrogando-plataformas-e-algoritmos-digitais\/","title":{"rendered":"Interrogando Plataformas e Algoritmos Digitais"},"content":{"rendered":"<p>Acabou de ser publicado o ebook da edi\u00e7\u00e3o 2018 do\u00a0Congresso Nacional de Estudos Comunicacionais da PUC Minas Po\u00e7os de Caldas. Fui um dos conferencistas e apresentei a palestra\u00a0<strong>Interrogando Plataformas e Algoritmos Digitais<\/strong>. A publica\u00e7\u00e3o inclui um resumo da palestra que transcrevo abaixo logo depois do slideshow utilizado (confira tamb\u00e9m no <a href=\"https:\/\/www.researchgate.net\/publication\/333969137_Interrogando_Plataformas_e_Algoritmos_Digitais\" target=\"_blank\" rel=\"noopener\">ResearchGate<\/a>). Ao final do post, refer\u00eancias e como citar.<br \/>\n<iframe loading=\"lazy\" style=\"border: 1px solid #CCC; border-width: 1px; margin-bottom: 5px; max-width: 100%;\" src=\"\/\/www.slideshare.net\/slideshow\/embed_code\/key\/G5pAxGavD1eA98\" width=\"595\" height=\"485\" frameborder=\"0\" marginwidth=\"0\" marginheight=\"0\" scrolling=\"no\" allowfullscreen=\"allowfullscreen\"> <\/iframe><\/p>\n<p>A cren\u00e7a tanto em que os algoritmos estat\u00edsticos e softwares s\u00e3o neutros quanto a cren\u00e7a de que s\u00e3o substitutos da ci\u00eancia s\u00e3o erradas em dimens\u00e3o compar\u00e1vel apenas \u00e0 sua aceita\u00e7\u00e3o por um n\u00famero cada vez mais crescente de grupos sociais filiados \u00e0 ideais neoliberais e tecnocr\u00e1ticos de efic\u00e1cia e otimiza\u00e7\u00e3o de processos. Estas presun\u00e7\u00f5es de neutralidade dos algoritmos e sistemas automatizados em campos da comunica\u00e7\u00e3o, direito, seguran\u00e7a e pol\u00edticas p\u00fablicas (SILVEIRA, 2017) impactam efetivamente indiv\u00edduos e comunidades de modo relativo \u00e0 distribui\u00e7\u00e3o de poder quanto \u00e0s classes, g\u00eanero, ra\u00e7as e grupos sociais que os constroem e gerenciam. Quanto ao aspecto de racializa\u00e7\u00e3o, podemos falar de uma opacidade dupla. De um lado os algoritmos &#8211; e a tecnologia de modo geral &#8211; s\u00e3o vistos como neutros, como se fossem constru\u00eddos, desenvolvidos e performados independente do contexto e pessoas envolvidas. De outro, a ideologia da nega\u00e7\u00e3o e invisibilidade da categoria social \u201cra\u00e7a\u201d na sociedade como um todo impede consensos e avan\u00e7os quanto \u00e0 justi\u00e7a e equidade de representa\u00e7\u00e3o.<\/p>\n<p>Esta constru\u00e7\u00e3o possui tanto impactos diretos quanto indiretos, tal como o gap de capacidade de interpreta\u00e7\u00e3o da realidade social, demogr\u00e1fica e pol\u00edtica contempor\u00e2neas. Ecossistemas de plataformas e infraestruturas digitais como Google, Amazon, Facebook e Apple (chamados pelo acr\u00f4nimo GAFA) constru\u00edram capacidades de an\u00e1lise de dados internos e externos que ultrapassam em muito o potencial de universidades de ponta e at\u00e9 de estados. E tudo isto sem as prerrogativas de transpar\u00eancia e accountability exigidas pelas popula\u00e7\u00f5es da maioria das democracias. Investigar e entender os impactos de algoritmos e plataformas na democracia e nas popula\u00e7\u00f5es \u00e9 um desafio ainda mais \u2013 aparentemente \u2013 intranspon\u00edvel.<\/p>\n<p>Estas perspectivas neoliberais ativistas tem sido centrais no refor\u00e7o de l\u00f3gicas que s\u00e3o \u201cantidemocratic, anti-affirmative-action, antiwelfare, antichoice, and antirace discourses that place culpability for individual failure on moral failings of the individual, not policy decisions and social systems\u201d, inclusive em esferas tecnol\u00f3gicas (NOBLE, 2018, pos.2781). A opacidade dos sistemas \u00e9 vista de forma acr\u00edtica, desde que n\u00e3o traga malef\u00edcios para o sujeito em sua individualidade e fins pragm\u00e1ticos. E quando acontece s\u00e3o vistas como responsabilidade do pr\u00f3prio indiv\u00edduo que deveria ser \u201cgerente de si mesmo\u201d, como acontece com os sistemas de autogest\u00e3o de escores de cr\u00e9ditos, cada vez mais pervasivos. Impactos no social e no comunit\u00e1rio s\u00e3o ignorados. A legitimidade das \u201cdata-driven decision-making hinges not only on the presumed objectivity of its methods, but on the unquestioned acceptance of productivity, performance, merit\u201d (RIEDER, 2016a, p.51). \u00c9 preciso, ent\u00e3o, ver as atuais pr\u00e1ticas em torno de big data e an\u00e1lise pervasiva dos indiv\u00edduos com olhares multiculturais. Os dados, como \u201ca medium or representational form and envelops data science within a cultural matrix. Data criticism also tackles data science\u2019s idealistic view of data head-on, in addition to its self-proclaimed democratic leanings and liberalism\u201d (BEATON, 2016, p.368).<\/p>\n<p>A chamada \u00e0 cr\u00edtica dos dados e plataformas vai ao encontro do que Dardot e Laval (2017) diagnosticam como uma falta de compreens\u00e3o das rela\u00e7\u00f5es entre as condutas dos neossujeitos e as formas de controle, vigil\u00e2ncia e an\u00e1lise exercidas na suposta hiper-racional contemporaneidade. Alertam que \u00e9 preciso &#8220;examinar de perto tecnologias de controle e vigil\u00e2ncia de indiv\u00edduos e popula\u00e7\u00f5es, sua medicaliza\u00e7\u00e3o, o fichar, o registro de seus comportamentos, inclusive os mais precoces&#8221; (DARDOT &amp; LAVAL, 2017, pos.7932). Mesmo antes da popularidade esmagadora de plataformas como o Facebook, a liga\u00e7\u00e3o entre intelig\u00eancia artificial e pilares do neoliberalismo, como o capital financeiro, podem ser sentidas como aponta Achille Mbembe, ao descrever como este, \u201csimultaneamente for\u00e7a viva e criadora [&#8230;] e processo sangrante de devora\u00e7\u00e3o [&#8230;] aumentou descontroladamente a partir do momento em que os mercados bolsistas escolheram apoiar-se na intelig\u00eancia artificial para optimizar movimentos de liquidez\u201d (MBEMBE, 2017, p.30).<\/p>\n<p>Neste sentido, acreditamos ser essencial a realiza\u00e7\u00e3o de esfor\u00e7o de pesquisa e atua\u00e7\u00e3o cr\u00edtica na realidade para combater os vieses n\u00e3o s\u00f3 algor\u00edtmicos, mas tamb\u00e9m a opacidade destes vieses fruto da l\u00f3gica neoliberal que glorifica corpora\u00e7\u00f5es de tecnologia do Vale do Sil\u00edcio enquanto deixa sujeitos atomizados em busca de uma autogest\u00e3o cada vez mais opressiva. E levando em conta o \u201ccontrato racial\u201d (MILLS, 2014) que cria processos de racializa\u00e7\u00e3o nas mais diferentes esferas sociais com objetivos de domina\u00e7\u00e3o, \u00e9 preciso esfor\u00e7o conjunto para entender a fundo novas tecnologias como plataformas de comunica\u00e7\u00e3o e suas rela\u00e7\u00f5es com dados e intelig\u00eancia artificial.<\/p>\n<p>As proposi\u00e7\u00f5es que est\u00e3o surgindo nos \u00faltimos anos para interrogar as plataformas e sistemas algor\u00edtmicos merecem circula\u00e7\u00e3o e aplica\u00e7\u00e3o em diferentes contextos (BROCK, 2016; RIEDER, 2016; OSOBA &amp; WELSER VI, 2017; SILVEIRA, 2017; NOBLE, 2017; WILLIAMS, BROOKS &amp; SHMARGAD, 2018; BUOLAMWINI &amp; GEBRU, 2018), sendo ainda raras as proposi\u00e7\u00f5es que levam em conta a estrutura\u00e7\u00e3o do racismo na sociedade ocidental e como impacta produ\u00e7\u00f5es de centros de tecnologia como o Vale do Sil\u00edcio.<\/p>\n<p>A Teoria Racial Cr\u00edtica (Critical Race Theory), fruto e atuante nos movimentos de direitos civis desde a d\u00e9cada de 60, aplicada no Brasil por estudiosos do Direito e da Educa\u00e7\u00e3o, merece o seu lugar tamb\u00e9m na Comunica\u00e7\u00e3o. \u00c9 baseada em pilares de compreens\u00e3o da sociedade especialmente \u00fateis para compreender os pontos de contato entre opacidade algor\u00edtmica e invisibilidade dos processos de racializa\u00e7\u00e3o, tais como: compreens\u00e3o desta como de rela\u00e7\u00f5es raciais hierarquizadas estruturantes e estruturadas pelo racismo; percep\u00e7\u00e3o da ordinariedade do racismo nas mais diferentes esferas sociais, econ\u00f4micas, pol\u00edticas e biopol\u00edticas; a converg\u00eancia interseccional do determinismo material dos interesses de grupos dominantes; a vis\u00e3o das rela\u00e7\u00f5es raciais como constru\u00e7\u00e3o social; e, por fim, a TRC \u00e9 agente efetiva no combate da opress\u00e3o racial (CRENSHAW, GOTANDA &amp; PELLER, 1995; MATSUDA et al, 1993; DELGADO, STEFANCIC &amp; HARRIS, 2017).<\/p>\n<p>Vemos estes esfor\u00e7os como um trabalho internacional em progresso e propomos tr\u00eas estrat\u00e9gias para reunir a colabora\u00e7\u00e3o da Teoria Racial Cr\u00edtica ao estudo dos algoritmos: a) an\u00e1lise cr\u00edtica, localizada e com consci\u00eancia racial das particularidades do contexto brasileiro, onde entram tamb\u00e9m hierarquias de domina\u00e7\u00e3o imperialistas mediadas pelo Vale do Sil\u00edcio e cultura de startups; b) uso de colabora\u00e7\u00f5es das ci\u00eancias sociais, humanidades digitais e computa\u00e7\u00e3o social para entender e interrogar as plataformas; e c) uso de m\u00e9todos mistos (JOHNSON &amp; ONWUEGBUZIE, 2004), incluindo tamb\u00e9m mapeamento, engajamento de profissionais e ativistas para compreender toda a rede produtiva a partir de um olhar da economia pol\u00edtica de produ\u00e7\u00e3o dos algoritmos e sistemas. A governan\u00e7a algor\u00edtmica tende a ser cada vez mais presente e comunicadores e cientistas sociais devem mergulhar na tem\u00e1tica para agir junto a desenvolvedores e legisladores pra analisar danos individuais, discrimina\u00e7\u00e3o ilegal e pr\u00e1ticas injustas, perda de oportunidades, perdas econ\u00f4micas e estigmatiza\u00e7\u00e3o social.<\/p>\n<p><strong>Refer\u00eancias<\/strong><\/p>\n<p>BEATON, Brian. How to Respond to Data Science: Early Data Criticism by Lionel Trilling. <strong>Information &amp; Culture<\/strong>, v. 51, n. 3, p. 352-372, 2016.<\/p>\n<p>BROCK, Andr\u00e9. Critical technocultural discourse analysis. New Media &amp; Society, p. 1461444816677532, 2016.<\/p>\n<p>BUOLAMWINI, Joy; GEBRU, Timnit. Gender shades: Intersectional accuracy disparities in commercial gender classification. In:\u00a0<strong>Conference on Fairness, Accountability and Transparency<\/strong>. 2018. p. 77-91.<\/p>\n<p>CRENSHAW, Kimberl\u00e9; GOTANDA, Neil; PELLER, Garry.\u00a0<strong>Critical race theory: The key writings that formed the movement<\/strong>. The New Press, 1995.<\/p>\n<p>DARDOT, Pierre; LAVAL, Christian. <strong>A nova raz\u00e3o do mundo<\/strong>. Boitempo Editorial, 2017.<\/p>\n<p>DELGADO, Richard; STEFANCIC, Jean.\u00a0<strong>Critical race theory: An introduction<\/strong>. NYU Press, 2017.<\/p>\n<p>JOHNSON, R. Burke; ONWUEGBUZIE, Anthony J. Mixed methods research: A research paradigm whose time has come.\u00a0<strong>Educational researcher<\/strong>, v. 33, n. 7, p. 14-26, 2004.<\/p>\n<p>MATSUDA, Mari J.; LAWRENCE III, Charles R.; DELGADO, R.; CRENSHAW, Kimberl\u00e8 W. <strong>Words That Wound<\/strong> &#8211; Critical Race Theory, Assaultive Speech, and the First Amendment. Nova Iorque: Routledge, 1993.<\/p>\n<p>MBEMBE, Achille. <strong>Pol\u00edticas da Inimizade<\/strong>. Lisboa (Portugal: Ant\u00edgona, 2017.<\/p>\n<p>MILLS, Charles W.\u00a0<strong>The racial contract<\/strong>. Cornell University Press, 2014.<\/p>\n<p>NOBLE, Safiya Umoja.\u00a0<strong>Algorithms of Oppression: How search engines reinforce racism<\/strong>. NYU Press, 2018.<\/p>\n<p>OSOBA, Osonde A.; WELSER IV, William.\u00a0<strong>An intelligence in our image: The risks of bias and errors in artificial intelligence<\/strong>. Rand Corporation, 2017.<\/p>\n<p>RIEDER, Bernhard. Big Data and the Paradox of Diversity. <strong>Digital Culture &amp; Society<\/strong>, v. 2, n. 2, p. 39-54, 2016a.<\/p>\n<p>SILVEIRA, S\u00e9rgio Amadeu da. <strong>Tudo sobre Tod@s<\/strong>: redes digitais, privacidade e venda de dados pessoais. S\u00e3o Paulo: Edi\u00e7\u00f5es Sesc, 2017.<\/p>\n<p>WILLIAMS, Betsy Anne; BROOKS, Catherine F.; SHMARGAD, Yotam. How algorithms discriminate based on data they lack: Challenges, solutions, and policy implications.\u00a0<strong>Journal of Information Policy<\/strong>, v. 8, p. 78-115, 2018.<\/p>\n<p>&nbsp;<\/p>\n<p><strong>Como citar<\/strong><br \/>\nSILVA, Tarc\u00edzio. Interrogando Plataformas e Algoritmos Digitais. In: Congresso Nacional de Estudos Comunicacionais da PUC Minas, 2018, Po\u00e7os de Caldas, Minas Gerais, Brasil. Anais do 3 CONEC Congresso Nacional de Estudos Comunicacionais da PUC Minas, 2018. p. 32-26. Dispon\u00edvel em &lt; https:\/\/conec.pucpcaldas.br\/wp-content\/uploads\/2019\/06\/anais2018.pdf &gt;<\/p>\n","protected":false},"excerpt":{"rendered":"<p>Acabou de ser publicado o ebook da edi\u00e7\u00e3o 2018 do\u00a0Congresso Nacional de Estudos Comunicacionais da PUC Minas Po\u00e7os de Caldas. Fui um dos conferencistas e apresentei a palestra\u00a0Interrogando Plataformas e Algoritmos Digitais. A publica\u00e7\u00e3o inclui um resumo da palestra que transcrevo abaixo logo depois do slideshow utilizado (confira tamb\u00e9m no ResearchGate). Ao final do post, [&hellip;]<\/p>\n","protected":false},"author":6,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1147],"tags":[2519,2610,2603,2528],"class_list":["post-11116","post","type-post","status-publish","format-standard","hentry","category-textos-academicos","tag-algoritmos","tag-plataformas-digitais","tag-racismo-algoritmico","tag-teoria-racial-critica"],"_links":{"self":[{"href":"https:\/\/tarciziosilva.com.br\/blog\/wp-json\/wp\/v2\/posts\/11116","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/tarciziosilva.com.br\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/tarciziosilva.com.br\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/tarciziosilva.com.br\/blog\/wp-json\/wp\/v2\/users\/6"}],"replies":[{"embeddable":true,"href":"https:\/\/tarciziosilva.com.br\/blog\/wp-json\/wp\/v2\/comments?post=11116"}],"version-history":[{"count":3,"href":"https:\/\/tarciziosilva.com.br\/blog\/wp-json\/wp\/v2\/posts\/11116\/revisions"}],"predecessor-version":[{"id":11119,"href":"https:\/\/tarciziosilva.com.br\/blog\/wp-json\/wp\/v2\/posts\/11116\/revisions\/11119"}],"wp:attachment":[{"href":"https:\/\/tarciziosilva.com.br\/blog\/wp-json\/wp\/v2\/media?parent=11116"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/tarciziosilva.com.br\/blog\/wp-json\/wp\/v2\/categories?post=11116"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/tarciziosilva.com.br\/blog\/wp-json\/wp\/v2\/tags?post=11116"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}