Black Mirror – Reflexões sobre o ontem para pensarmos o amanhã em Smithereens

No último 11 de novembro participei do ciclo de debates sobre episódios de Black Mirror promovido pelo Itaú Cultural, com mediação de Christian Dunker. O texto abaixo é uma adaptação da fala sobre o episódio Smithereens. O texto está repleto de spoilers, recomendo a leitura apenas para quem assistiu ao episódio.

Talvez um dos motivos do sucesso de Black Mirror e de boas narrativas de ficção científica é a ligação com temas contemporâneos. Através de referências, analogias, metáforas e outros mecanismos de linguagem, narrativas de ficção científica nos fazem pensar – muitas vezes de forma sutil, através da imaginação sobre o futuro e novas tecnologias, relações sociais ou mesmo outros planetas.

Não é o caso de Smithereens, um dos episódios de Black Mirror que poderia ter acontecido ontem. E de certa forma, aconteceu. O episódio não usa tecnologias disruptivas como realidade virtual imersiva, robôs autônomos e inteligência artificial completa. Trata de plataformas de mídias sociais, big data e os chamados – de forma cínica – “aplicativos de economia compartilhada”.

Black Mirror nos lembra, neste episódio, que muito do que a ficção científica discute são relações de poder e controle na sociedade – e o que temos hoje em aparatos sociotecnológicos pode ser assustador, se tivermos tempo para refletir.

Geralmente não temos tempo para esta reflexão. Precisamos cuidar das demandas do dia a dia e vamos sendo integrados quase inconscientemente aos fluxos de comportamento moldados pelas tecnologias eleitas pelo capitalismo ultra tecnológico.

Mas algo de diferente acontece no momento da crise, da controvérsia, de algo que nos tira da normalidade e do cotidiano. Frequentemente pode ser um evento traumático, como o gatilho para as ações do protagonista.  Cada episódio ou trecho de obras como Black Mirror pode ser analisado por várias óticas ou enquadramentos que tocam em variadas camadas de interpretação.

Gostaria de focar meu comentário tratando de cinco delas aqui, brevemente: a) capitalismo de plataforma; b) radicalização por dados; c) assimetrias do conhecimento; d) hierarquia da desconexão; e) e a dualidade entre o sintético e o afetivo.

 

CAPITALISMO DE PLATAFORMA E DESIGUALDADE SOCIAL

Um ponto central do episódio gira em torno das reflexões sobre o capitalismo de plataforma e sua relação com a desigualdade social. O protagonista ser motorista de um aplicativo, chamado Hitcher, tem uma dupla função. A primeira, narrativa, é que o põe em um local de privilégio para conseguir acessar o funcionário da Smithereens de forma verossímil.

A segunda função é a representação da uma mazela gigantesca no mundo atual: a concentração de renda e negócios por um punhado de empresas da tecnologia. Isto empurra pessoas para o desemprego ou informalidade glorificada em aplicativos de transporte, entrega e freelancers com condições cada vez piores.

Antes do título do episódio, o protagonista conversa com uma passageira que visitou a sede do Smithereens que comenta quanto dinheiro a organização possui – a tomada a seguir mostra o protagonista em um restaurante popular irritado com o excesso de uso dos smartphones.

Bem mais para a frente, o negociador fala de um possível motivador – raiva por ser alguém de alto intelecto e baixa renda, com uma espécie de inveja do Billy Bauer. O protagonista era um professor de TI que passou a ser motorista de aplicativo, sujeito às regras definidas de forma impessoal e entregues na tela do smartphone.

No final das contas, não era esse o principal motivador, mas a série mostra o acúmulo de problemas da relação entre cidadão e organizações apenas através de interfaces e algoritmos.

E estes problemas mesmo que não sejam todos relacionados a dinheiro, se multiplicam com a mediação que as plataformas fazem de nossa vida. Consumo de mídia, afetos, alimentação, transporte e outros são permeados e colonizados por plataformas que se tornam intermediárias em nossas vidas.

 

RADICALIZAÇÃO

Um terceiro ponto a ser discutido é a radicalização motivada pelo excesso, erro ou influência de dados e informações. Este tipo de radicalização individual motivada por informações ou métricas digitais tem histórico.

Um caso é o de Dylann Roof, terrorista americano que assassinou 9 pessoas numa igreja em Charleston em 2017. Dylann é o típico terrorista contemporâneo ocidental: branco, homem, jovem e frustrado por não conseguir aproveitar os privilégios de sua posição em um mundo cada vez mais desigual. Foi radicalizado pela internet em fóruns supremacistas brancos, mas um detalhe merece atenção. Foi descoberto que ele acessou desinformação sobre crimes entre brancos e negros nos Estados Unidos. Ao pesquisar termos como “assassinatos de brancos”, Dylann Roof recebeu sugestões na ferramenta do “Autocompletar” na busca da Google que davam a entender que o volume de mortes era muito maior do que o real. Em depoimento ao FBI, citou como motivação represália sobre este crimes. Aqui temos um exemplo claro, ainda que indireto, do potencial de dano que vieses na interface ou algoritmos podem ter.

Um pouco similar, mas não tão trágico, foi o caso de Nasim Aghdam, cidadã iraniana que vivia nos Estados Unidos já há mais de 25 anos. Nasim era uma produtora de conteúdo, sobretudo no YouTube, sobre temas variados: desejava ganhar a vida com conteúdo no YouTube sobre ativismo vegano e fitness. Publicava em 4 línguas diferentes e começou a ganhar notoriedade, mas o YouTube mudou as regras de monetização e seus vídeos pararam de gerar receita.

Depois de tentar mudar a situação e falar com alguém do YouTube para mostrar sua insatisfação, Nasim foi até a sede da plataforma, atirou em 3 pessoas e depois em si mesma, falecendo no local. Não houve nenhuma outra vítima fatal, mas o caso nos leva e pensar como a dualidade entre oportunidades e restrições oferecidas pelas mídias sociais pode ser problemática.

No episódio o caso da amiga do protagonista buscando informações sobre motivações de sua filha para tentar o suicídio é de cortar o coração. Assim como milhões de pessoas, não tem a possibilidade de burlar a interface. A plataforma tem suas regras de suposta “privacidade” que não permitem exceções, a não ser para otimizar os lucros das organizações.

Os “memoriais” são citados no episódio. Na medida em que mais e mais pessoas com presença online faleceram, as plataformas realizaram pesquisa e ofereceram a possibilidade de criação de memoriais com o passado online dessas pessoas. Controversos, os memoriais ainda que ajudem no luto de familiares, tem como resultado financeiro continuar a gerar visualizações e receita de anúncios para as plataformas. No caso do episódio e de muitos outros, o dado registrado continua importante, mas o sentimento do familiar tentando entender a questão, não.

 

ASSIMETRIAS DO CONHECIMENTO

Diretamente relacionado aos temas anteriores, temos também a questão essencial das assimetrias do conhecimento ou do acesso à informação atualmente. O episódio não inclui personagens fortes da polícia londrina e FBI por acaso.

A chefe da polícia londrina e o representante do FBI representam o poder público e estatal em contraposição ao poder comercial das plataformas. Em diversos momentos, as plataformas estão mais equipadas para tanto descobrir informações sobre o protagonista quanto para tomar decisões.

Pesquisadores e ativistas tem observado este fenômeno nos últimos 10 anos. Fala-se de redistribuição dos métodos na sociedade – se historicamente nos últimos séculos, a Igreja, Estado e a Universidade foram as instituições mais equipadas para analisar as populações, hoje são empresas comerciais ligadas a plataformas de mídias sociais, web e tecnologias digitais.

Isto cria desafios para a sociedade e democracia. Se governos e universidades não são capazes de interpretar a realidade social de forma tão precisa quanto organizações comerciais, o poder se direciona ainda mais para a busca desenfreada de lucros, custo o que custar.

Esta é uma crise que estamos vendo agora em diversas frentes. Golpes políticos, linchamentos, desinformação tem sido impulsionados por plataformas como Whatsapp e Facebook, mas estas plataformas alegam serem apenas tecnologia.

Porém, há muitas evidências e um enorme histórico que mostra como organizações como Facebook, Alphabet, Apple, Microsoft e Amazon realizam experimentos de engenharia social de forma constante.

Em 2013 um polêmico experimento realizado por cientistas do Facebook, entretanto, levantou questões sobre a ética sempre duvidosa da empresa: manipularam o feed de um grupo seleto de usuários para testar a influência de “positividade” e “negatividade” nas redes sociais.

Descobriram que, ao exibir menos publicações de caráter negativo (através de um sistema de identificação de termos negativos baseado num dicionário da língua inglesa), os usuários estavam mais propensos a compartilhar mensagens e/ou publicações positivas – e vice-versa, numa espécie de contágio social. O estudo envolveu quase 700 mil pessoas que não sabiam que estavam sendo estudadas e manipuladas. Este foi apenas um de dezenas de estudos publicizados por grupos como o do Facebook, mas a extensão dos experimentos não é conhecida.

A telinha da ferramenta analítica do usuário não é ficção científica. São informações comportamentais que efetivamente podem ser levantadas e cruzadas com milhões de outros pontos de dados. Identificação de palavras, padrões de uso, ausências, likes e amizades podem dizer muito.

 

HIERARQUIAS DA DESCONEXÃO

Temos então disrupções nas práticas éticas, acesso a dados e hierarquias. Assim como as hierarquias do conhecimento, as “Hierarquias da Conexão e da Desconexão” são outro ponto abordado indiretamente pelo episódio. O Billy Bauer, fundador da Smithereens, está num retiro de desconexão, quase inacessível.

Já há inúmeros relatos de como profissionais de tecnologia tem evitado o uso excesso de smartphones e mídias sociais no dia a dia; sobretudo na educação dos filhos.

Mas e quanto aos cidadãos “normais”? Aqui temos uma assimetria gigantesca. As pessoas na base da pirâmide econômica não podem deixar as plataformas digitais totalmente de lado, pois elas colonizaram quase todos os segmentos econômicos. Não ter presença digital ou não usar aplicativos no smartphone é quase impossível.

Numa das cenas finais, depois da aparente resolução da principal questão do episódio, temos um contraste. As cenas mostrando a população vendo a notícia derradeira sobre o sequestro inclui novamente um motorista de aplicativo, em contraste com o dono da Smithereens voltando a seu retiro de silêncio.

Para muitas pessoas não é possível ignorar as plataformas, a gestão do tempo e demandas com os aplicativos é uma questão de sobrevivência.

 

O SINTÉTICO E O AFETIVO

O episódio se encerra com uma reflexão sobre o sintético e o afetivo. Eu gosto muito do termo “sintético”. Originalmente se popularizou para falar de materiais produzidos artificialmente, desenvolvidos em laboratório, em contraposição a materiais extraídos diretamente da natureza como nylon, acrílico e poliestireno, que ficaram populares no século 20. Muitos trabalhos de ficção científica, como Blade Runner, usou o termo “sintético” para se referir a robôs autônomos e ciborgues.

O termo caiu em desuso, mas acho que vale resgatarmos sua raiz. A raiz de “síntese” vem de composição, reunir coisas para formar um todo que não é natural. Mas esta reunião geralmente significa que é um todo menor que suas partes.

Quando pensamos em big data é disto que estamos falando. Apesar de empresas similares à Smithereens conseguirem juntar centenas de dados de milhões de pessoas ao mesmo tempo para identificar um padrão e ter impacto, não significa que servirá para o indivíduo único.

A complexidade de um humano é muito maior do que um relatório que analise 100 milhões de humanos de uma vez só. Mas para os modelos de negócio das plataformas darem certo, os humanos são transformados em um punhado de rastros e traços que os simplificam – ainda que parecem muitos.

Vemos isto nas sugestões dadas a Billy Bauer no telefone, por psicólogos que usaram os dados da plataforma para conduzir a conversa.

Quando as primeiras sugestões dão errado, Billy Bauer é sincero de verdade pela primeira vez: ele não sabe o que responder sobre o relato do protagonista.

A partir daí uma conexão possível é realizada entre o Billy Bauer, que apesar de sua ganância e estar à frente da plataforma, é tolhido por toda a rede da corporação e capital financeiro que define as direções do ambiente.

 

Ao final, por fim, a metalinguagem coloca o toque final do episódio.  Durante 1 hora acompanhamos com ansiedade e suspense o desfecho. Será que Jaden sobreviverá? O que será que Gillhaney irá fazer? E pq a filha de Halley se suicidou?

Saber uma destas respostas nos daria uma descarga de emoção – alívio, raiva, indignação, surpresa… No mundo do episódio, o desfecho sobre Jaden e Gillhaney foi público. Impactou milhões de pessoas que acompanhavam, viciadas em emoções passageiras, e logo depois estas pessoas voltam a seus dia a dia.

Para elas apenas um post emocionante a mais. Para os envolvidos de fato, questão de vida ou morte. O desfecho nos faz lembrar disso: não precisamos ser voyeurs de tudo.

 

Leia mais sobre o tema:

Deixe uma resposta

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *