{"id":10339,"date":"2017-11-07T00:20:54","date_gmt":"2017-11-07T02:20:54","guid":{"rendered":"http:\/\/tarciziosilva.com.br\/blog\/?p=10339"},"modified":"2017-11-08T15:33:51","modified_gmt":"2017-11-08T17:33:51","slug":"estamos-criando-uma-distopia-apenas-para-pessoas-clicarem-em-anuncios-zeynep-tufekci","status":"publish","type":"post","link":"https:\/\/tarciziosilva.com.br\/blog\/estamos-criando-uma-distopia-apenas-para-pessoas-clicarem-em-anuncios-zeynep-tufekci\/","title":{"rendered":"&#8220;Estamos criando uma distopia apenas para que pessoas cliquem em an\u00fancios&#8221; &#8211; @zeynep"},"content":{"rendered":"<p><a href=\"http:\/\/technosociology.org\/\" target=\"_blank\" rel=\"noopener noreferrer\">Zeynep Tufekci<\/a> (<a href=\"https:\/\/twitter.com\/zeynep\" target=\"_blank\" rel=\"noopener noreferrer\">@zeynep<\/a>) \u00e9 uma das pesquisadoras mais importantes da atualidade. Turca, ensina e pesquisa na University of North Carolina, escreve\u00a0no New York Times e \u00e9 autora de artigos\u00a0como\u00a0&#8220;<a href=\"https:\/\/pdfs.semanticscholar.org\/6d62\/c8647c787e783754779fd055215dd582697b.pdf\" target=\"_blank\" rel=\"noopener noreferrer\">Can you see me now? Audience and disclosure regulation in online social network sites<\/a>&#8220;; &#8220;<a href=\"https:\/\/www.aaai.org\/ocs\/index.php\/ICWSM\/ICWSM14\/paper\/viewFile\/8062\/8151\" target=\"_blank\" rel=\"noopener noreferrer\">Big Questions for Social Media Big Data: Representativeness, Validity and Other Methodological Pitfalls<\/a>&#8220;; &#8220;<a href=\"http:\/\/looooker.com\/wp-content\/uploads\/2013\/05\/j.1460-2466.2012.01629.x.pdf\" target=\"_blank\" rel=\"noopener noreferrer\">Social Media and the Decision to Participate in Political Protest: Observations From Tahrir Square<\/a>&#8221; e o fant\u00e1stico livro rec\u00e9m-lan\u00e7ado &#8220;<a href=\"https:\/\/www.twitterandteargas.org\/\" target=\"_blank\" rel=\"noopener noreferrer\">Twitter and Tear Gas:\u00a0 \u00a0The Power and Fragility of Networked Protest<\/a>&#8220;.<\/p>\n<p>Em setembro realizou mais uma <a href=\"https:\/\/www.ted.com\/talks\/zeynep_tufekci_we_re_building_a_dystopia_just_to_make_people_click_on_ads\/transcript#t-1157024\" target=\"_blank\" rel=\"noopener noreferrer\">palestra TED<\/a> em Nova Iorque com o t\u00edtulo &#8220;Estamos criando uma distopia apenas para pessoas clicarem em an\u00fancios&#8221; (&#8220;We&#8217;re building a dystopia only just to make people click on ads&#8221;). J\u00e1 falamos de alguns temas mencionados <a href=\"http:\/\/tarciziosilva.com.br\/blog\/o-potencial-contra-hegemonico-da-internet-esta-ameacado-em-tempos-de-concentracao-midiatica-no-facebook\/\" target=\"_blank\" rel=\"noopener noreferrer\">aqui no blog<\/a> ou do <a href=\"http:\/\/www.ibpad.com.br\/blog\/comunicacao-digital\/10-coisas-que-o-facebook-ja-estudou-sobre-voce-a-nona-e-assustadora\/\" target=\"_blank\" rel=\"noopener noreferrer\">IBPAD<\/a>, mas a narrativa \u00e9 sensacional e um resumo exemplar de um dos temas mais importantes da atualidade, ent\u00e3o traduzi a transcri\u00e7\u00e3o em seguida. Veja abaixo:<\/p>\n<div style=\"max-width: 854px;\">\n<div style=\"position: relative; height: 0; padding-bottom: 56.25%;\"><iframe loading=\"lazy\" style=\"position: absolute; left: 0; top: 0; width: 100%; height: 100%;\" src=\"https:\/\/embed.ted.com\/talks\/zeynep_tufekci_we_re_building_a_dystopia_just_to_make_people_click_on_ads\" width=\"854\" height=\"480\" frameborder=\"0\" scrolling=\"no\" allowfullscreen=\"allowfullscreen\"><\/iframe><\/div>\n<\/div>\n<p>&nbsp;<\/p>\n<p>Quando as pessoas falam de receios sobre intelig\u00eancia artificial, geralmente, evocam imagens de rob\u00f4s human\u00f3ides correndo descontrolados. Sabe como \u00e9? Como Exterminador do Futuro? Assim, isto \u00e9 algo que pode ser considerado, mas \u00e9 uma amea\u00e7a distante. Ou, n\u00f3s nos preocupamos sobre vigil\u00e2ncia digital com met\u00e1foras do passado. &#8220;1984&#8221;, o livro de George Orwell, est\u00e1 voltando para as prateleiras de best sellers. \u00c9 um \u00f3timo livro, mas n\u00e3o \u00e9 a distopia correta para o s\u00e9culo 21. O que precisamos temer de fato n\u00e3o \u00e9 o que a intelig\u00eancia artificial far\u00e1 a n\u00f3s sozinha, mas como as pessoas no poder usar\u00e3o a intelig\u00eancia artificial para nos controlar e nos manipular de novas, sutis e inesperadas maneiras, muitas vezes ocultas. Boa parte da tecnologia que amea\u00e7a nossa liberdade e dignidade em um futuro pr\u00f3ximo est\u00e1 sendo desenvolvida por empresas do mercado de captar e vender nossos dados e aten\u00e7\u00e3o para publicit\u00e1rios e outros: Facebook, Google, Amazon, Alibaba, Tencent.<\/p>\n<p>Hoje, a intelig\u00eancia artificial come\u00e7ou a refor\u00e7ar seus neg\u00f3cios tamb\u00e9m. E pode parecer que a intelig\u00eancia artificial \u00e9 a grande coisa logo depois dos an\u00fancios online. N\u00e3o \u00e9. \u00c9 um salto em categoria. \u00c9 um mundo totalmente diferente e tem grande potencial. Pode acelerar nosso entendimento em v\u00e1rias \u00e1reas de estudo e pesquisa. Mas para citar um famoso fil\u00f3sofo de Hollywood, &#8220;Enormes potenciais trazem enormes riscos&#8221;.<\/p>\n<p>Agora vamos olhar para um fato b\u00e1sico nas nossas vidas digitals, os an\u00fancios online. Certo? De certa forma n\u00f3s os ignoramos. Achamos que s\u00e3o rudimentares, pouco efetivos. Todos n\u00f3s j\u00e1 tivemos a experi\u00eancia de ser seguido na web por um an\u00fancio baseado em algo que buscamos ou lemos. Voc\u00ea sabe, quando voc\u00ea procura um par de botas e por uma semana, estas botas seguem voc\u00ea em todo o lugar que voc\u00ea vai. Mesmo depois que voc\u00ea se rende e as compra, elas continuam seguindo voc\u00ea. Estamos acostumados com esse tipo b\u00e1sico e simples de manipula\u00e7\u00e3o. Reviramos os olhos e pensamos &#8220;Quer saber? Estas coisas n\u00e3o funcionam&#8221;. Mas, online, as tecnologias digitais n\u00e3o s\u00e3o s\u00f3 an\u00fancios. Agora, para entender isto, vamos pensar em um exemplo do mundo f\u00edsico. Voc\u00ea sabe como, nas filas perto de caixas de supermercado, tem doces e balas no n\u00edvel do olhar das crian\u00e7as? Isto \u00e9 pensado para faz\u00ea-las importunar os pais no momento da compra. \u00c9 uma arquitetura de persuas\u00e3o. N\u00e3o \u00e9 legal, mas funciona. \u00c9 por isto que voc\u00ea a v\u00ea em todos os supermercados. Agora, no mundo f\u00edsico, esta arquitetura de persuas\u00e3o \u00e9 relativamente limitada, pois voc\u00ea n\u00e3o pode colocar tudo perto dos caixas. Certo? E os doces e balas s\u00e3o os mesmos para todo mundo, mesmo que alguns s\u00f3 funcionem para quem tiver pequenos humanos chorando por perto. No mundo f\u00edsico, convivemos com estas limita\u00e7\u00f5es.<\/p>\n<p>No mundo digital, por\u00e9m, arquiteturas de persuas\u00e3o podem ser constru\u00eddas na escala de bilh\u00f5es [<a href=\"http:\/\/tarciziosilva.com.br\/blog\/10-anos-de-facebook-um-ponto-obrigatorio-de-passagem\/\" target=\"_blank\" rel=\"noopener noreferrer\">ver postagem relacionada<\/a>] e podem direcionar, inferir, entender e entregues a indiv\u00edduos um a um ao descobrir suas fraquezas. E podem ser enviados para as telas de smartphones de cada um, ent\u00e3o n\u00e3o s\u00e3o vis\u00edveis aos demais. Isto \u00e9 diferente. E \u00e9 apenas uma das coisas simples que a intelig\u00eancia artificial pode fazer.<\/p>\n<p>Vamos pensar em outro exemplo. Digamos que voc\u00ea vende passagens de avi\u00e3o para Vegas, ok? Ent\u00e3o, no mundo antigo, voc\u00ea pode pensar em algumas caracter\u00edsticas demogr\u00e1ficas baseadas em experi\u00eancia e no que voc\u00ea pode supor. Voc\u00ea pode tentar anunciar para, digamos, homens entre 25 e 25 ou pessoas que tem um limite muito alto em seus cart\u00f5es de cr\u00e9dito, ou casais aposentados. Certo? \u00c9 o que voc\u00ea pode fazer no passado.<\/p>\n<p>Com big data e aprendizado de m\u00e1quina (machine learning), n\u00e3o \u00e9 como voc\u00ea faria mais. Ent\u00e3o imagine isto, pense em todos os dados que o Facebook tem sobre voc\u00ea: cada post que j\u00e1 digitou, cada conversa no Messenger, cada lugar que voc\u00ea logou, todas suas fotografias que enviou. Se voc\u00ea come\u00e7ar a digitar algo, mudar de ideia e deletar sem psotar, o Facebook mant\u00eam e analisa isto tamb\u00e9m. Crescentemente, tenta combinar com dados offline. Tamb\u00e9m compra muitos dados de data brojers. Pode ser qualquer coisa dos seus registros financeiros a hist\u00f3rico de navega\u00e7\u00e3o. Nos EUA, estes dados s\u00e3o rotineiramente coletados, agrupados e vendidos. Na Europa, as regras sa\u00f5 mais r\u00edgidas.<\/p>\n<p>Ent\u00e3o o que acontece \u00e9 que, ao combinar e espremer todos estes dados, os algoritmos de machine-learning &#8211; \u00e9 por isto que s\u00e3o chamados de algoritmos de aprendizado &#8211; aprendem a entender caracter\u00edsticas de pessoas que compraram tickets para Vegas. Quando aprendem isto dos dados existentes, tamb\u00e9m aprendem como aplicar a novas pessoas. Ent\u00e3o se eles s\u00e3o apresentados a uma nova pessoa, podem classificar se esta pessoa tende a comprar um ticket para Vegas ou n\u00e3o. Mas tudo bem. Voc\u00ea deve estar pensando, uma oferta para comprar passagens para Vegas. Posso ignorar isto. Mas o problema n\u00e3o \u00e9 este. O problema \u00e9 que n\u00e3o entendemos mais realmente como estes complexos algoritmos funcionam. N\u00e3o entendemos como fazem esta categoriza\u00e7\u00e3o. S\u00e3o matrizes gigantes, milhares de colunas e linhas, talvez milh\u00f5es de colunas e linhas, e nem os programadores ou qualquer pessoa que olha para estes dados, mesmo que tenha todos os dados, entende mais exatamente como est\u00e3o operando mais do que se voc\u00ea olhasse agora um corte do meu c\u00e9rebro. \u00c9 como se n\u00e3o estiv\u00e9ssemos mais programando, estamos alimentando intelig\u00eancia que n\u00e3o entendemos realmente.<\/p>\n<p>Todas estas coisas funcionam se h\u00e1 quantidade enorme de dados, ent\u00e3o eles encoragem profunda vigil\u00e2ncia de todos n\u00f3s para que os algoritmos de machine learning possam trabalhar. \u00c9 por isto que o Facebook quer coletar todos os dados sobre voc\u00ea que puder. Os algoritmos trabalhar\u00e3o melhor.<\/p>\n<p>Ent\u00e3o vamos for\u00e7ar mais umpouco este exemplo sobre Vegas. E se o sistema que n\u00e3o entendemos descobre que \u00e9 mais f\u00e1cil vender passagens para Vegas a pessoas que s\u00e3o bipolares e est\u00e3o prestes a entregar na fase man\u00edaca. Estas pessoas tendem a se tornar gastadoras, jogadoras compulsivas. Eles podem fazer isto e voc\u00ea n\u00e3o teria ideia de que s\u00e3o estas vari\u00e1veis escolhidas. Dei este exemplo a um grupo de cientistas da computa\u00e7\u00e3o uma vez e, depois, um deles veio a mim. Ele estava desconcertado e falou &#8220;\u00c9 por isto que n\u00e3o posso publicar&#8221;. E eu perguntei &#8220;N\u00e3o pode publicar o qu\u00ea?&#8221;. Ele tentou avaliar se poderia prever o in\u00edcio da crise man\u00edaca a partir dos posts em m\u00eddias sociais antes dos sintomas cl\u00ednicos. E funcionou, e funcionou muito bem, e ele n\u00e3o fazia ideia de como funcionou.<\/p>\n<p>Agora, o problema n\u00e3o \u00e9 resolvido se ele publica ou n\u00e3o, porque h\u00e1 outras empresas desenvolvendo este tipo de tecnologia, e boa parte dos recursos est\u00e1 dispon\u00edvel. N\u00e3o \u00e9 mais dif\u00edcil.<\/p>\n<p>Voc\u00ea j\u00e1 foi ao YouTube para ver apenas um v\u00eddeo e uma hora depois voc\u00ea percebeu que viu 27? Voc\u00ea sabe como o YouTube tem esta coluna na direita que diz &#8220;Up next&#8221; e toca automaticamente algo? \u00c9 um algoritmo escolhendo o que acha que voc\u00ea pode estar interessado e talvez n\u00e3o encontre sozinho. N\u00e3o \u00e9 um editor humano. \u00c9 isto que algoritmos fazem. Eles escolhem o que voc\u00ea viu e o que pessoas como voc\u00ea assistiram e inferem o que voc\u00ea pode estar interessado, o que voc\u00ea quer mais, e mostra mais disto. Soa como um recurso benigno e \u00fatil, mas n\u00e3o \u00e9.<\/p>\n<p>Em 2016, fui a comm\u00edcios do ent\u00e3o candidato Donald Trup para estudar o movimento de apoio. Estudei movimentos sociais, este era mais um deles. Ent\u00e3o quis escrever algo sobre um dos com\u00edcios, ent\u00e3o assisti v\u00eddeo dele algumas vezes no YouTube. O YouTube ent\u00e3o come\u00e7ou a recomendar no autoplay v\u00eddeos de supremacistas brancos em ordem crescente de extremismo. Se eu assistia uma, me oferecia outro mais extremo ainda e dava autoplay. Se voc\u00ea assistir conte\u00fado de Hillary Clinton ou Bernie Sanders, YouTube recomenda e d\u00e1 autoplay em conte\u00fado de conspira\u00e7\u00e3o da esquerda e da\u00ed ladeira abaixo.<\/p>\n<p>Bem, voc\u00ea deve estar pensando: pol\u00edtica \u00e9 isto. Mas n\u00e3o. N\u00e3o \u00e9 sobre pol\u00edtica. \u00c9 apenas o algoritmo entendendo o comportamento humano. Uma vez assisti um v\u00eddeo sobre vegetarianismo no YouTube e a plataforma recomendou e deu autoplay em v\u00eddeo sobre tornar-se vegano. \u00c9 como se voc\u00ea nucna fosse hardcore o suficiente par o YouTube<\/p>\n<p>Ent\u00e3o o que est\u00e1 acontecendo? O algoritmo do YouTube \u00e9 propriet\u00e1rio, mas o que imagino que acontece \u00e9 o seguinte. O algoritmo descobre que se voc\u00ea pode atrair as pessoas a pensar que pode mostrar sempre algo mais intenso, as pessoas est\u00e3o mais propensas a se manter no site assistindo v\u00eddeo ap\u00f3s v\u00eddeo pela &#8220;toca do coelho&#8221; enquanto o Google entrega an\u00fancios. Agora, mas quando ningu\u00e9m se importanta com a \u00e9tica da loja, estes sites podem perfilar pessoas que s\u00e3o odiadores de judeus, que acham que judeus s\u00e3o parasitas e que possuem conte\u00fado explicitamente antisemita e entregar an\u00fancios direcionados. Tamb\u00e9m podem mobilizar algoritmos para encontrar para voc\u00ea as audi\u00eancias similares (look-alike audiences), pessoas que n\u00e3o tem conte\u00fado explicitamente anti-semita em seus perfis, mas que o algoritmo detecta que podem ser suscet\u00edveis a estas mensagens, permitindo direcionar an\u00fancios a elas tamb\u00e9m. Este pode ser um exemplo implaus\u00edvel mas \u00e9 real. A ProPublica investigou isto e descobriu que pode fazer isto no Facebook, e o Facebook oferece automaticamente sugest\u00f5es de como expandir esta audi\u00eancia. Buzzfeed tentou o mesmo no Google e descobriu rapidamente que tamb\u00e9m pode ser feito na plataforma da Google. E nem sequer foi caro. O jornalista da ProPublica usou 30 d\u00f3lares para conseguir anunciar para esta categoria.<\/p>\n<p>No \u00faltimo ano, o gerente de m\u00eddias sociais da campanha de Donald Trump informou que estavam usando os dark posts (posts ocultos) no Facebook para desmobilizar pessoas, n\u00e3o para persuadi-las, mas para convenc\u00ea-las a n\u00e3o votar. E para fazer isto, direcionaram conte\u00fado especificamente para homens afro-americanos em cidades chave como Philadelphia. Agora vou citar exatamente o que ele falou, palavra por palavra.<\/p>\n<p>Eles estavam usando &#8220;posts n\u00e3o p\u00fablicos com visibilidade controlada pela campanha, de modo que somente as pessoas que queremos os veriam. N\u00f3s modelamos isto. Vai afetar dramaticamente a capacidade dela (Hillary Clinton) de converter essas pessoas&#8221;.<\/p>\n<p>O que h\u00e1 nestes dark posts? N\u00e3o temos ideia. O Facebook n\u00e3o nos conta.<\/p>\n<p>Ent\u00e3o o Facebook tamb\u00e9m organiza algoritmicamente os posts que seus amigos p\u00f5em no Facebook ou as p\u00e1ginas que voc\u00ea segue. N\u00e3o te exibe tudo cronologicamente. Ele coloca em ordem no modo que o algoritmo avalia que vai te incentiviar a ficar mais tempo no site.<\/p>\n<p>Isto possui v\u00e1rias consequ\u00eancias. Voc\u00ea pode pensar que algu\u00e9m est\u00e1 desprezando voc\u00ea no Facebook. O algoritmo pode nunca mostrar seu post a eles. O algoritmo est\u00e1 priorizando alguns e enterrando os oturos.<\/p>\n<p>Experimentos mostram que o algoritmo escolhe mostrar o que pode afetar suas emo\u00e7\u00f5es. Mas isto n\u00e3o \u00e9 tudo. Tamb\u00e9m afeta comportamento pol\u00edtico. Em 2010, durante as elei\u00e7\u00f5es de meio per\u00edodo (midterm elections), o Facebook fez um experimento com 61 milh\u00f5es de pessoas que foi divulgado apenas depois do ocorrido. Algumas pessoas viam um conte\u00fado simples &#8220;Hoje \u00e9 dia de elei\u00e7\u00f5es&#8221;, de forma simples. E algumas pessoas recebiam a visualiza\u00e7\u00e3o com as pequenas imagens de amigos que clicaram &#8220;Eu votei&#8221;. Uma simples modifica\u00e7\u00e3o, certo? As imagens eram a \u00fanica mudan\u00e7a, mas este post gerou 340 mil mais votantes naquela elei\u00e7\u00e3o, de acordo com pesquisa que foi confirmada pela contagem. Casual? N\u00e3o. Em 2012, repetiram o mesmo experimento. Desta vez, a mensagem c\u00edvica exibida uma vez gerou mais 270 mil votantes. Como refer\u00eancia, as elei\u00e7\u00f5es de 2016 foram decididas por cerca de 100 mil votos. Agora, o Facebook pode tamb\u00e9m facilmente inferir sua posi\u00e7\u00e3o pol\u00edtica, mesmo que nunca as falou no site. Os algoritmos podem realizar isto de modo relativamente f\u00e1cil. E se uma plataforma com este tipo de poder decide apoiar um candidato em rela\u00e7\u00e3o a outro? Como poder\u00edamos saber?<\/p>\n<p>Come\u00e7amos de um lugar relativamente in\u00f3cuo &#8211; an\u00fancios onine que nos perseguem &#8211; e chegamos a outro lugar. Como p\u00fablico e cidad\u00e3os, n\u00f3s n\u00e3o sabemos mais se estamos vendo a mesma informa\u00e7\u00e3o ou o qu\u00ea qualquer pessoa est\u00e1 vendo. E sem uma base comum de informa\u00e7\u00e3o, pouco a pouco, o debate p\u00fablico est\u00e1 se tornando imposs\u00edvel, e estamos apenas nos est\u00e1gios iniciais disto. Estes algoritmos podem facilmente inferir coisas como etnia, religi\u00e3o e posi\u00e7\u00e3o pol\u00edtica, tra\u00e7os de personalidade [<a href=\"http:\/\/tarciziosilva.com.br\/blog\/estudo-sobre-predicao-de-tracos-e-atributos-pessoais-a-partir-de-likes-no-facebook\/\" target=\"_blank\" rel=\"noopener noreferrer\">ver postagem relacionada<\/a>], intelig\u00eancia, felicidade, uso de subst\u00e2ncias viciantes, separa\u00e7\u00e3o dos pais, idade e g\u00eanero, apenas atrav\u00e9s de likes no Facebook. Estes algoritmos podem identificar protestantes mesmo se suas faces est\u00e3o parcialmente cobertas. Estes algoritmos podem identificar orienta\u00e7\u00e3o sexual das pessoas apenas dos seus avatares.<\/p>\n<p>Estas s\u00e3o infer\u00eancias probabil\u00edsticas, ent\u00e3o n\u00e3o s\u00e3o 100 porcento corretas, mas n\u00e3o vejo poderosos resistindo a tena\u00e7\u00e3o de usar estas tecnologias apenas porque existem alguns falsos positivos, o que cria uma nova camada de problemas. Imagine o qu\u00ea um Estado pode fazer com esta quantidade enorme de dados que possuem sobre seus cidad\u00e3os. China j\u00e1 usa tecnologia de reconhecimento facial para identificar e prender pessoas. E aqui temos a trag\u00e9dia: estamos construindo esta infraestrutura de vigil\u00e2ncia autorit\u00e1ria apenas para fazer pessoas clicarem em an\u00fancios. E este n\u00e3o ser\u00e1 um autoritarianismo nos moldes de Orwell. N\u00e3o \u00e9 &#8220;1984&#8221;. Agora, se o autoritarianismo \u00e9 usado para impor medo e nos aterrorizar, n\u00f3s estaremos assustados mas saberemos. Odiaremos e resistiremos. Mas se as pessoas no poder est\u00e3o usando estes algoritmos para silenciosamente nos vigiar, julgar e manipular, para prever e identificar os rebeldes e insatisfeitos, para aplicar arquiteturas de persuas\u00e3o em escala para manipular indiv\u00edduos uma a um usando suas fraquezas e vulnerabilidades individuais, e se est\u00e3o entregando a telas privadas para que sequer saibamos o que nossos co-cidad\u00e3os e vizinhos est\u00e3o vendo, o autoritarianismo vai nos envolver como uma teia de aranha e nem sequer saberemos que fomos pegos.<\/p>\n<p>A avalia\u00e7\u00e3o de mercado do Facebook est\u00e1 aproximando-se de meio trilh\u00e3o de d\u00f3lares. Chegou a este valor porque funciona muito bem como arquitetura de persuas\u00e3o. Mas a esrtrutura de persuas\u00e3o \u00e9 a mesma quer voc\u00ea esteja vendendo sapatos quer voc\u00ea esteja vendendo pol\u00edtica. Os algoritmos n\u00e3o entendem a diferen\u00e7a. Os mesmos algoritmos que s\u00e3o soltos em n\u00f3s para nos tornar mais dispostos a publicidade tamb\u00e9m est\u00e3o organizando nossos fluxos de informa\u00e7\u00f5es pessoais, pol\u00edticas e sociais, e \u00e9 isto que tem que mudar.<\/p>\n<p>Mas n\u00e3o me entenda errado: usamos estas plataformas digitais porque nos fornecem muita utilidade e valor. Eu uso o Facebook para me manter em contato com amigos e fam\u00edlias em torno do mundo. J\u00e1 escrevi o quanto m\u00eddias sociais s\u00e3o cruciais para movimentos sociais. Estudei como estas tecnologias podem ser usadas para contornar censura em torno do mundo. N\u00e3o \u00e9 que as pessoas que dirigem, digamos, Facebook ou Google est\u00e3o maliciosamente e deliberadamente tentando tornar o pa\u00eds ou mundo mais polarizado e encorajar extremismo. Eu li as v\u00e1rias declera\u00e7\u00f5es bem-intencionadas dessas pessoas. Mas n\u00e3o s\u00e3o as inten\u00e7\u00f5es ou declara\u00e7\u00f5es das pessoas nas tecnologias que importam, s\u00e3o as estruturas e modelos de neg\u00f3cios que est\u00e3o construindo. E este \u00e9 o n\u00facleo do problema. Ou o Facebook \u00e9 uma enorme fraude de meio trilh\u00e3o de d\u00f3lares e os an\u00fancios n\u00e3o funcionam e n\u00e3o existe uma arquitetura da persuas\u00e3o, ou seu poder de influ\u00eancia \u00e9 preocupante. \u00c9 um ou outro, e o mesmo pode ser dito sobre o Google.<\/p>\n<p>Ent\u00e3o, o que podemos fazer? Isto precisa mudar. Agora n\u00e3o posso oferecer uma receita simples, porque precisamos reestruturar o modo pelo qual nossas tecnologias digitais operam. Todos os aspectos das tecnologias desenvolvidas, economicamente ou n\u00e3o, s\u00e3o incorporadas nos sistemas. N\u00f3s temos que enfrentar e tentar lidar com a falta de transpar\u00eancia criada pelos algoritmos propriet\u00e1rios, o desafio estrutural da opacidade do machine learning e todos os dados indiscriminados que s\u00e3o coletados sobre n\u00f3s. Temos uma grande tarefa na nossa frente. Temos que mobilizar nossa teccologia, nossa criatividade e, sim, nossos pol\u00edticos para que possamos criar intelig\u00eancia artificial que nos apoie nos objetivos humanos mas que tamb\u00e9m sejam constritos pelos valores humanos. E entendo que isto n\u00e3o ser\u00e1 f\u00e1cil. Talvez nem vamos concordar facilmente o que estas condi\u00e7\u00f5es significam. Mas se n\u00f3s queremos tratar de forma s\u00e9ria sobre estes sistemas dos quais dependemos tanto para operar, n\u00e3o vejo como postergar ainda mais esta conversa\u00e7\u00e3o. Estas estruturas est\u00e3o organizando como funcionamos e est\u00e3o controlando o que podemos e n\u00e3o podemos fazer. E v\u00e1rias dessas plataformas baseadas em an\u00fancios enfatizam que s\u00e3o gratuitas. Neste contexto, significa que n\u00f3s somos o produto sendo vendido. E precisamos de uma economia digital na qual nossos dados e aten\u00e7\u00e3o n\u00e3o estejam \u00e0 venda para o demagogo ou autorit\u00e1rio com o maior lance.<\/p>\n","protected":false},"excerpt":{"rendered":"<p>Zeynep Tufekci (@zeynep) \u00e9 uma das pesquisadoras mais importantes da atualidade. Turca, ensina e pesquisa na University of North Carolina, escreve\u00a0no New York Times e \u00e9 autora de artigos\u00a0como\u00a0&#8220;Can you see me now? Audience and disclosure regulation in online social network sites&#8220;; &#8220;Big Questions for Social Media Big Data: Representativeness, Validity and Other Methodological Pitfalls&#8220;; [&hellip;]<\/p>\n","protected":false},"author":6,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1900],"tags":[2519,2520,42,11,100,180,94,2518],"class_list":["post-10339","post","type-post","status-publish","format-standard","hentry","category-videos","tag-algoritmos","tag-distopia","tag-facebook","tag-google","tag-publicidade","tag-ted","tag-youtube","tag-zeynep-tufekci"],"_links":{"self":[{"href":"https:\/\/tarciziosilva.com.br\/blog\/wp-json\/wp\/v2\/posts\/10339","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/tarciziosilva.com.br\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/tarciziosilva.com.br\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/tarciziosilva.com.br\/blog\/wp-json\/wp\/v2\/users\/6"}],"replies":[{"embeddable":true,"href":"https:\/\/tarciziosilva.com.br\/blog\/wp-json\/wp\/v2\/comments?post=10339"}],"version-history":[{"count":14,"href":"https:\/\/tarciziosilva.com.br\/blog\/wp-json\/wp\/v2\/posts\/10339\/revisions"}],"predecessor-version":[{"id":10356,"href":"https:\/\/tarciziosilva.com.br\/blog\/wp-json\/wp\/v2\/posts\/10339\/revisions\/10356"}],"wp:attachment":[{"href":"https:\/\/tarciziosilva.com.br\/blog\/wp-json\/wp\/v2\/media?parent=10339"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/tarciziosilva.com.br\/blog\/wp-json\/wp\/v2\/categories?post=10339"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/tarciziosilva.com.br\/blog\/wp-json\/wp\/v2\/tags?post=10339"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}