Black Mirror – Reflexões sobre o ontem para pensarmos o amanhã em Smithereens

No último 11 de novembro participei do ciclo de debates sobre episódios de Black Mirror promovido pelo Itaú Cultural, com mediação de Christian Dunker. O texto abaixo é uma adaptação da fala sobre o episódio Smithereens. O texto está repleto de spoilers, recomendo a leitura apenas para quem assistiu ao episódio.

Talvez um dos motivos do sucesso de Black Mirror e de boas narrativas de ficção científica é a ligação com temas contemporâneos. Através de referências, analogias, metáforas e outros mecanismos de linguagem, narrativas de ficção científica nos fazem pensar – muitas vezes de forma sutil, através da imaginação sobre o futuro e novas tecnologias, relações sociais ou mesmo outros planetas.

Não é o caso de Smithereens, um dos episódios de Black Mirror que poderia ter acontecido ontem. E de certa forma, aconteceu. O episódio não usa tecnologias disruptivas como realidade virtual imersiva, robôs autônomos e inteligência artificial completa. Trata de plataformas de mídias sociais, big data e os chamados – de forma cínica – “aplicativos de economia compartilhada”.

Black Mirror nos lembra, neste episódio, que muito do que a ficção científica discute são relações de poder e controle na sociedade – e o que temos hoje em aparatos sociotecnológicos pode ser assustador, se tivermos tempo para refletir.

Geralmente não temos tempo para esta reflexão. Precisamos cuidar das demandas do dia a dia e vamos sendo integrados quase inconscientemente aos fluxos de comportamento moldados pelas tecnologias eleitas pelo capitalismo ultra tecnológico.

Mas algo de diferente acontece no momento da crise, da controvérsia, de algo que nos tira da normalidade e do cotidiano. Frequentemente pode ser um evento traumático, como o gatilho para as ações do protagonista.  Cada episódio ou trecho de obras como Black Mirror pode ser analisado por várias óticas ou enquadramentos que tocam em variadas camadas de interpretação.

Gostaria de focar meu comentário tratando de cinco delas aqui, brevemente: a) capitalismo de plataforma; b) radicalização por dados; c) assimetrias do conhecimento; d) hierarquia da desconexão; e) e a dualidade entre o sintético e o afetivo.

 

CAPITALISMO DE PLATAFORMA E DESIGUALDADE SOCIAL

Um ponto central do episódio gira em torno das reflexões sobre o capitalismo de plataforma e sua relação com a desigualdade social. O protagonista ser motorista de um aplicativo, chamado Hitcher, tem uma dupla função. A primeira, narrativa, é que o põe em um local de privilégio para conseguir acessar o funcionário da Smithereens de forma verossímil.

A segunda função é a representação da uma mazela gigantesca no mundo atual: a concentração de renda e negócios por um punhado de empresas da tecnologia. Isto empurra pessoas para o desemprego ou informalidade glorificada em aplicativos de transporte, entrega e freelancers com condições cada vez piores.

Antes do título do episódio, o protagonista conversa com uma passageira que visitou a sede do Smithereens que comenta quanto dinheiro a organização possui – a tomada a seguir mostra o protagonista em um restaurante popular irritado com o excesso de uso dos smartphones.

Bem mais para a frente, o negociador fala de um possível motivador – raiva por ser alguém de alto intelecto e baixa renda, com uma espécie de inveja do Billy Bauer. O protagonista era um professor de TI que passou a ser motorista de aplicativo, sujeito às regras definidas de forma impessoal e entregues na tela do smartphone.

No final das contas, não era esse o principal motivador, mas a série mostra o acúmulo de problemas da relação entre cidadão e organizações apenas através de interfaces e algoritmos.

E estes problemas mesmo que não sejam todos relacionados a dinheiro, se multiplicam com a mediação que as plataformas fazem de nossa vida. Consumo de mídia, afetos, alimentação, transporte e outros são permeados e colonizados por plataformas que se tornam intermediárias em nossas vidas.

 

RADICALIZAÇÃO

Um terceiro ponto a ser discutido é a radicalização motivada pelo excesso, erro ou influência de dados e informações. Este tipo de radicalização individual motivada por informações ou métricas digitais tem histórico.

Um caso é o de Dylann Roof, terrorista americano que assassinou 9 pessoas numa igreja em Charleston em 2017. Dylann é o típico terrorista contemporâneo ocidental: branco, homem, jovem e frustrado por não conseguir aproveitar os privilégios de sua posição em um mundo cada vez mais desigual. Foi radicalizado pela internet em fóruns supremacistas brancos, mas um detalhe merece atenção. Foi descoberto que ele acessou desinformação sobre crimes entre brancos e negros nos Estados Unidos. Ao pesquisar termos como “assassinatos de brancos”, Dylann Roof recebeu sugestões na ferramenta do “Autocompletar” na busca da Google que davam a entender que o volume de mortes era muito maior do que o real. Em depoimento ao FBI, citou como motivação represália sobre este crimes. Aqui temos um exemplo claro, ainda que indireto, do potencial de dano que vieses na interface ou algoritmos podem ter.

Um pouco similar, mas não tão trágico, foi o caso de Nasim Aghdam, cidadã iraniana que vivia nos Estados Unidos já há mais de 25 anos. Nasim era uma produtora de conteúdo, sobretudo no YouTube, sobre temas variados: desejava ganhar a vida com conteúdo no YouTube sobre ativismo vegano e fitness. Publicava em 4 línguas diferentes e começou a ganhar notoriedade, mas o YouTube mudou as regras de monetização e seus vídeos pararam de gerar receita.

Depois de tentar mudar a situação e falar com alguém do YouTube para mostrar sua insatisfação, Nasim foi até a sede da plataforma, atirou em 3 pessoas e depois em si mesma, falecendo no local. Não houve nenhuma outra vítima fatal, mas o caso nos leva e pensar como a dualidade entre oportunidades e restrições oferecidas pelas mídias sociais pode ser problemática.

No episódio o caso da amiga do protagonista buscando informações sobre motivações de sua filha para tentar o suicídio é de cortar o coração. Assim como milhões de pessoas, não tem a possibilidade de burlar a interface. A plataforma tem suas regras de suposta “privacidade” que não permitem exceções, a não ser para otimizar os lucros das organizações.

Os “memoriais” são citados no episódio. Na medida em que mais e mais pessoas com presença online faleceram, as plataformas realizaram pesquisa e ofereceram a possibilidade de criação de memoriais com o passado online dessas pessoas. Controversos, os memoriais ainda que ajudem no luto de familiares, tem como resultado financeiro continuar a gerar visualizações e receita de anúncios para as plataformas. No caso do episódio e de muitos outros, o dado registrado continua importante, mas o sentimento do familiar tentando entender a questão, não.

 

ASSIMETRIAS DO CONHECIMENTO

Diretamente relacionado aos temas anteriores, temos também a questão essencial das assimetrias do conhecimento ou do acesso à informação atualmente. O episódio não inclui personagens fortes da polícia londrina e FBI por acaso.

A chefe da polícia londrina e o representante do FBI representam o poder público e estatal em contraposição ao poder comercial das plataformas. Em diversos momentos, as plataformas estão mais equipadas para tanto descobrir informações sobre o protagonista quanto para tomar decisões.

Pesquisadores e ativistas tem observado este fenômeno nos últimos 10 anos. Fala-se de redistribuição dos métodos na sociedade – se historicamente nos últimos séculos, a Igreja, Estado e a Universidade foram as instituições mais equipadas para analisar as populações, hoje são empresas comerciais ligadas a plataformas de mídias sociais, web e tecnologias digitais.

Isto cria desafios para a sociedade e democracia. Se governos e universidades não são capazes de interpretar a realidade social de forma tão precisa quanto organizações comerciais, o poder se direciona ainda mais para a busca desenfreada de lucros, custo o que custar.

Esta é uma crise que estamos vendo agora em diversas frentes. Golpes políticos, linchamentos, desinformação tem sido impulsionados por plataformas como Whatsapp e Facebook, mas estas plataformas alegam serem apenas tecnologia.

Porém, há muitas evidências e um enorme histórico que mostra como organizações como Facebook, Alphabet, Apple, Microsoft e Amazon realizam experimentos de engenharia social de forma constante.

Em 2013 um polêmico experimento realizado por cientistas do Facebook, entretanto, levantou questões sobre a ética sempre duvidosa da empresa: manipularam o feed de um grupo seleto de usuários para testar a influência de “positividade” e “negatividade” nas redes sociais.

Descobriram que, ao exibir menos publicações de caráter negativo (através de um sistema de identificação de termos negativos baseado num dicionário da língua inglesa), os usuários estavam mais propensos a compartilhar mensagens e/ou publicações positivas – e vice-versa, numa espécie de contágio social. O estudo envolveu quase 700 mil pessoas que não sabiam que estavam sendo estudadas e manipuladas. Este foi apenas um de dezenas de estudos publicizados por grupos como o do Facebook, mas a extensão dos experimentos não é conhecida.

A telinha da ferramenta analítica do usuário não é ficção científica. São informações comportamentais que efetivamente podem ser levantadas e cruzadas com milhões de outros pontos de dados. Identificação de palavras, padrões de uso, ausências, likes e amizades podem dizer muito.

 

HIERARQUIAS DA DESCONEXÃO

Temos então disrupções nas práticas éticas, acesso a dados e hierarquias. Assim como as hierarquias do conhecimento, as “Hierarquias da Conexão e da Desconexão” são outro ponto abordado indiretamente pelo episódio. O Billy Bauer, fundador da Smithereens, está num retiro de desconexão, quase inacessível.

Já há inúmeros relatos de como profissionais de tecnologia tem evitado o uso excesso de smartphones e mídias sociais no dia a dia; sobretudo na educação dos filhos.

Mas e quanto aos cidadãos “normais”? Aqui temos uma assimetria gigantesca. As pessoas na base da pirâmide econômica não podem deixar as plataformas digitais totalmente de lado, pois elas colonizaram quase todos os segmentos econômicos. Não ter presença digital ou não usar aplicativos no smartphone é quase impossível.

Numa das cenas finais, depois da aparente resolução da principal questão do episódio, temos um contraste. As cenas mostrando a população vendo a notícia derradeira sobre o sequestro inclui novamente um motorista de aplicativo, em contraste com o dono da Smithereens voltando a seu retiro de silêncio.

Para muitas pessoas não é possível ignorar as plataformas, a gestão do tempo e demandas com os aplicativos é uma questão de sobrevivência.

 

O SINTÉTICO E O AFETIVO

O episódio se encerra com uma reflexão sobre o sintético e o afetivo. Eu gosto muito do termo “sintético”. Originalmente se popularizou para falar de materiais produzidos artificialmente, desenvolvidos em laboratório, em contraposição a materiais extraídos diretamente da natureza como nylon, acrílico e poliestireno, que ficaram populares no século 20. Muitos trabalhos de ficção científica, como Blade Runner, usou o termo “sintético” para se referir a robôs autônomos e ciborgues.

O termo caiu em desuso, mas acho que vale resgatarmos sua raiz. A raiz de “síntese” vem de composição, reunir coisas para formar um todo que não é natural. Mas esta reunião geralmente significa que é um todo menor que suas partes.

Quando pensamos em big data é disto que estamos falando. Apesar de empresas similares à Smithereens conseguirem juntar centenas de dados de milhões de pessoas ao mesmo tempo para identificar um padrão e ter impacto, não significa que servirá para o indivíduo único.

A complexidade de um humano é muito maior do que um relatório que analise 100 milhões de humanos de uma vez só. Mas para os modelos de negócio das plataformas darem certo, os humanos são transformados em um punhado de rastros e traços que os simplificam – ainda que parecem muitos.

Vemos isto nas sugestões dadas a Billy Bauer no telefone, por psicólogos que usaram os dados da plataforma para conduzir a conversa.

Quando as primeiras sugestões dão errado, Billy Bauer é sincero de verdade pela primeira vez: ele não sabe o que responder sobre o relato do protagonista.

A partir daí uma conexão possível é realizada entre o Billy Bauer, que apesar de sua ganância e estar à frente da plataforma, é tolhido por toda a rede da corporação e capital financeiro que define as direções do ambiente.

 

Ao final, por fim, a metalinguagem coloca o toque final do episódio.  Durante 1 hora acompanhamos com ansiedade e suspense o desfecho. Será que Jaden sobreviverá? O que será que Gillhaney irá fazer? E pq a filha de Halley se suicidou?

Saber uma destas respostas nos daria uma descarga de emoção – alívio, raiva, indignação, surpresa… No mundo do episódio, o desfecho sobre Jaden e Gillhaney foi público. Impactou milhões de pessoas que acompanhavam, viciadas em emoções passageiras, e logo depois estas pessoas voltam a seus dia a dia.

Para elas apenas um post emocionante a mais. Para os envolvidos de fato, questão de vida ou morte. O desfecho nos faz lembrar disso: não precisamos ser voyeurs de tudo.

 

Leia mais sobre o tema:

Ignorância Branca e Algoritmização – Códigos Negros

No último sábado (9/11) pude participar do evento Códigos Negros no Rio de Janeiro, promovido pelo PretaLab, Cabine e Gente. Foi um prazer participar da mesa com a Silvana Bahia e a Maria Rita Casagrande.

Subi o slideshow para quem quiser explorar as referências citadas na fala:

Onde estão as mulheres negras nos Fóruns de Internet?

Depois de reformulação de estrutura e tecnologia, o Blogueiras Negras está de volta! Recomendo a leitura do texto “É preciso mais que coragem: a nossa não presença nos Fóruns de Internet” sobre a absurda falta de representação da população negra, sobretudo mulheres, nos espaços de reflexão, gestão e decisão sobre a internet brasileira tais como Cetic, NIC CGI:

Black In AI – evento sobre inteligência artificial abre chamada de apoios para afro-brasileiros

[Caras/os leitoras/es, o Black In AI lançou nova chamada de apoios para bolsas-viagem específica para afro-brasileiros. Por favor, divulguem a chamada para colegas cientistas da computação ou pesquisadoras de outras áreas, tais como estudos de ciência e tecnologia]

É com imenso prazer que anunciamos que este ano o workshop Black in AI terá uma chamada direcionada a população Afro-brasileira. Mais da metade da população brasileira se identifica como Afro-brasileira e trazer essa população para o debate é muito importante para a diversificação do pensamento. Essa chamada convida alunos, professores e outros associados que se identificam como Afro-Brasileiros para participar do Workshop Black in AI, incluindo recepção e a conferência NeurIPS. O workshop acontecerá no dia 9 de Dezembro de 2019 e a recepção do workshop acontecerá no dia 13 de Dezembro de 2019. Serão oferecidas bolsas-viagem que cobrirão inscrição para o workshop e para a conferência (NeurIPS), passagens e hospedagem, além de despesas associadas ao workshop. Em caso de dúvidas, favor enviá-las para bai2019_usa@googlegroups.com (Em Inglês) ou para vsilva@ualberta.ca (em Inglês ou Português).

Gostaríamos também de encorajar os/as selecionados(as) a participar da Conferência NeurIPS – A maior conferência científica de Inteligência Artificial do mundo. A conferência acontecerá de 8 a 14 de dezembro de 2019, também em Vancouver, Columbia Britânica, Canada.
Convidamos todos(as) aqueles(as) que se auto-identificam como Afro-brasileiros(as) e são estudantes, graduados(as), professores(as), dentre outros, a aplicar para as bolsas-viagem e submeter resumos expandidos para o workshop. Os/As interessados(as) podem também aplicar para bolsas-viagem mesmo que não tenha submetido um abstrato expandido. Mais detalhes sobre o processo podem ser encontrados abaixo.

Datas importantes
Data limite para submissão do resumo: 28 de outubro de 2019 as 11 da noite, UTC.
Data limite para aplicar para bolsa-viagem: 28 de outubro de 2019 as 11 da noite, UTC.

Chamada de Resumos Expandidos
Convidamos todos(as) os/as autores(as) a submeter resumos expandidos EM INGLÊS para o Terceiro workshop Black in AI (co-localizado com o NeurIPS 2019), que acontece no dia 9 de dezembro de 2019 no Centro de Convenções de Vancouver, em Vancouver, Columbia Britânica, Canada. Tópicos de Interesse incluem, mas não estão limitados a:

  • Inteligência Artificial
  • Aprendizado de Máquina
  • Neurociência Computacional
  • Aprendizado Profundo
  • Descoberta de conhecimento
  • Sistemas multi-agente
  • Teoria da Computação
  • Visão computacional
  • Processamento de Linguagem Natural
  • Robótica
  • Inteligência Artificial e Saúde
  • Inteligência Artificial e Educação
  • Justiça, Ética e Transparência em Inteligência Artificial

Resumos expandidos podem introduzir novos conceitos, metodologias, aplicações e demonstrações. Tais resumos podem ainda sintetizar trabalhos existentes, identificar futuras áreas de pesquisa ou informar sobre áreas as quais Inteligência Artificial poderia ter grande impacto.
Submissões podem ser classificadas em uma das quatro trilhas:

  • Algoritmos de Aprendizado de Maquina
  • Aplicações de Inteligência Artificial
  • Papers de posicionamento
  • Demonstrações de produto

As submissões não serão arquivadas, portanto aceitar-se-ão trabalhos publicados previamente (desde que atualizados para o workshop), completos ou em andamento. Encorajamos que todos(as) os/as pesquisadores(as) Afro-brasileiros(as), em áreas relacionadas à Inteligência Artificial, a enviar seus trabalhos para apreciação. O/A pesquisador(a) Afro-brasileiro(a) não necessariamente deve ser o/a principal autor(a) do trabalho, mas ao menos um(a) Afro-brasileiro(a) deve ser parte do trabalho produzido.

Submissão do Resumo expandido
Submissões serão avaliadas por ao menos dois/duas revisores(as) experts sobre o assunto o qual o trabalho se classifica. O workshop não arquivará os trabalhos e não publicará proceedings. Encorajamos que todas os/as pesquisadores(as) Afro-brasileiros(as), em áreas relacionadas à Inteligência Artificial, a enviar seus trabalhos para apreciação. O/A pesquisador(a) Afro-brasileiro(a) não necessariamente deve ser o/a principal autor(a) do trabalho, mas ao menos um(a) Afro-brasileiro(a) deve ser parte do trabalho produzido.

Instruções de formatação
Submissões devem ser enviadas em formato PDF e tem um limite de duas páginas para texto e podem incluir uma página de citações. O texto deve ser escrito EM INGLÊS, submissões em Português serão automaticamente rejeitadas. Submissões devem ter uma única coluna com fonte arial tamanho 11. O papel deve ter format Letter e deve ter uma margem de uma polegada em todas as direções.
Submissões em linguagens que não sejam o Inglês serão automaticamente rejeitadas. Submissões que não sigam as instruções de formatação serão rejeitadas sem consideração de mérito.

Revisão Double-blind
Submissões serão revisadas por ao menos dois revisores, além de um chair de área. O procedimento será double-blind para revisores. Os autores(as) deverão remover todas as formas de identificação em suas submissões. O trabalho nao devera conter nomes, afiliações ou agradecimentos, além de auto-citações devem ser anônimas.
Os trabalhos devem conter até duas páginas, incluindo todas as figuras e tabelas. Uma página para referências pode ser adicionada. A submissão deve ser formatada em coluna única em fonte Arial tamanho 11. O papel deve ser tamanho letter e deve conter uma margem de uma polegada em todas as direções.
Submissões devem conter o problema a ser resolvido, motivação, contribuição técnica e científica, além de poder conter figuras, tabelas e referências. O trabalho deverá ser submetido via EasyChair (CLIQUE AQUI PARA ENVIAR SEU TRABALHO) e a deadline e dia 28 de outubro de 2019.

Veja aqui alguns exemplos de papers aceitos para o workshop em anos anteriores.

 

Aplicações para bolsa-viagem
Bolsas-viagem baseadas em necessidade serão concedidas a participantes do workshop. Participantes não precisam submeter um trabalho para o workshop para serem considerados para uma bolsa-viagem. A bolsa pode ser utilizada para cobrir custos associados a participação no workshop, tal como, registro para a conferência, hospedagem e passagens. Observe que a bolsa não necessariamente cobrirá todos(as) os/as custos e que nem todos(as) os/as participantes receberão bolsas. A quantia alocada para cada participante depende do número de aplicações e localização do participante.

As aplicações para bolsa-viagem devem ser feitas EM INGLÊS neste link (CLIQUE AQUI) até 28 de Outubro de 2019 as 11 da noite, UTC.
Nota: Esta é uma tradução livre, em caso de discrepância entre a versão em inglês e esta tradução, a versão em inglês será utilizada para resolução de quaisquer eventualidades.

Mensagem de: Victor Silva
Chair de Recrutamento
Black in AI 2019
Universidade de Alberta, Edmonton Alberta, Canadá.