Google acha que ferramenta em mão negra é uma arma

A desinteligência artificial é uma constante mesmo em grandes empresas reconhecidas pelos seus feitos na tecnologia digital. Na minha Linha do Tempo do Racismo Algorítmico há alguns casos como: a Google marcando pessoas negras como gorilas; Instagram vendo violência e armas onde não há; IBM e Microsoft não reconhecendo gênero de mulheres negras.

Internacionalmente esforços coordenados buscam proibir ou ao menos suspender o uso de inteligência artificial por instituições públicas, sobretudo em segurança pública. As taxas de erro são enormes, de Salvador até centros globais financeiros e tecnológicos como Londres. Atualmente a pandemia de COVID-19 tem sido a desculpa para empresas questionáveis forçarem a normalização de uso de tecnologias problemáticas seja no Brasil ou no exterior.

Mais um caso vulgar de erro em visão computacional foi mapeado. Nas imagens abaixo, o pesquisador Nicolas Kayser-Bril rodou duas imagens de pessoas segurando um termômetro na Google Vision, recurso de análise de imagens. Na foto com a pessoa asiática, as etiquetas “Tecnologia” e “Dispositivo Eletrônico” lideraram. Na com a pessoa negra, a etiqueta “Arma” foi marcada com 88% de certeza.

Esse tipo de erro é causado por um acúmulo de fatores, que vai da base de dados de péssima qualidade, lógica relacional do aprendizado de máquina falta de diversidade no campo e ao technochauvinismo dos profissionais da área que não criam ou reforçam mecanismos de representação adequada. A depender do seu ceticismo você está buscando motivos na imagem para justificar a questão? O pesquisador Bart Nagel responde com o experimento abaixo, onde embranqueceu a mão da foto:

Este é mais um de inúmeros casos da vulgaridade da aplicação da inteligência artificial para supostamente entender questões complexas e sociais da realidade. Mas quando falamos de segurança pública, o horror da necropolítica está agindo claramente. Os inúmeros casos de assassinato de cidadãos por policiais que se “confundiram” possuem uma ligação que não é coincidência com a estupidez da visão computacional. Não podemos, enquanto sociedade, permitir que o technochauvinismo avance ainda mais na segurança pública.

Veja mais casos do horror do racismo algorítmico na Linha do Tempo, entenda como estes recursos funcionam e são nocivos no artigo Visão computacional e Racismo Algorítmico: branquitude e opacidade no aprendizado de máquina e no relatório Interrogating Vision APIs, onde propomos metodologia de auditoria destes sistemas.

Colonização Algorítmica da África

Talvez um dos exemplos mais cínicos do caráter predatório das grandes corporações de plataformas seja o projeto Internet.org. Lançado pelo Facebook e empresas de infraestrutura, foi ao ar em 2013 com a suposta missão de “oferecer acesso à internet e os benefícios da conectividade à porção do mundo que ainda não as tem”. Na prática tinha como objetivo realizar um verdadeiro dumping de tecnologia em países do Sul Global como Brasil, Índia, Senegal, Quênia e outros países da África, Sudeste Asiático e América Latina. O primeiro impacto é gerar oligopólios, destruindo a neutralidade de rede nos locais, pois o acesso à internet oferecido pelo grupo e seus parceiros só poderia dar acesso a um punhado de serviços e websites.

O segundo impacto, mais relevante e de longa duração, com efeitos na economia, soberania, cultura e política é a construção de sistemas de infraestrutura, acesso e software que favorecem a extração de valores através da lógica de big data e correlações algorítmicas sobre os dados das populações destes países. Apesar do projeto Internet.org ter sido rechaçado em muitos países, alguns o aceitaram e, no final das contas, representa apenas uma face mais explícita do colonialismo algorítmico exercido por inúmeros meios.

Este é o tema principal do capítulo Colonização Algorítmica da África, publicado no livro Comunidades, Algoritmos e Ativismos Digitais: olhares afrodiaspóricos.

Convidei para o livro a premiada pesquisadora etíope Abeba Birhane, pesquisadora doutoral em Ciência Cognitiva na Escola de Ciência da Computação da University College Dublin.

No capítulo, Birhane nos descreve sobre a onda de enquadramento discursivo que busca posicionar a África como fonte de dados, “coleta de dados” que estariam disponíveis em um “data-rich continent”, termos que evocam a lógica colonial removendo o indivíduo.

Na primeira parte do capítulo, Birhane cita especialmente o caso sobre como o Facebook desenvolveu, usando imagens de satélite, um mapa de densidade populacional da África. A empresa se designou como responsável e autorizada a desenvolver este projeto sem articulação com os povos da África, sem refletir sobre o que é percebido como conhecimento legítimo sobre a população do continente.

As velhas justificativas a-históricas de “fornecer ajuda humanitária” e afins são usadas, subestimando como os diferentes povos e regiões da África avaliam suas prioridades.

Ao distinguir o poder colonial tradicional e o colonialismo algorítmico, Abeba Birhane diz que:

O poder colonial tradicional busca poder unilateral e dominação sobre as pessoas colonizadas. Declara o controle das esferas social, econômica e política, reordenando e reinventando a ordem social de uma maneira que o beneficie. Na era dos algoritmos, essa dominação ocorre não por força física bruta, mas por mecanismos invisíveis e diferenciados de controle do ecossistema digital e da infraestrutura digital. O colonialismo tradicional e o colonialismo algorítmico compartilham o desejo comum de dominar, monitorar e influenciar o discurso social, político e cultural através do controle dos principais meios de comunicação e infraestrutura.

Através de relatos sobre a conferência CyFyAfrica, Birhane mostra como formadores de opinião tem reproduzido acriticamente concepções erradas sobre questões relevantes para o continente, como por exemplo vincular o terrorismo online apenas a grupos islâmicos. O trabalho dialoga autoras americanas que criticam a falsa neutralidade da tecnologia, como O’Neil, Noble e Zuboff em conversa com pensadores de países africanos como Michael Kimani e Heidi Swart.

Leia o capítulo completo no livro que pode ser comprado na editora LiteraRUA ou baixado gratuitamente em PDF.

Acompanhe Abeba Birhane no Twitter e confira vídeos no YouTube, como esta palestra sobre injustiça algorítmica e ética relacional:

Migrantes retornantes em Gana: tecnologias digitais, inovação e empreendedorismo global

O que você conhece sobre Gana? Quanto/as autore/as ganenses você já leu? Quais sites você acompanha do país? Sendo um país africano com o inglês como língua oficial e empenhado em abrir os braços pra afrodiápora, provavelmente as respostas às perguntas anteriores podem ser preocupantes.

Gana hoje é um país com cerca de 31 milhões de habitantes, na região África Ocidental. Durante a invasão e roubo colonial europeu, foi explorada por anos pelo Reino Unido até sua independência e formação de república. Anteriormente, era local de vários reinos Akan, Dagbomba e Ewe, entre outros, que compõem hoje a maior parte das origens étnicas do país.

Nos últimos anos, duas movimentações importantes do povo ganense tem gerado interesse de brasileiros e do ocidente. O primeiro é a iniciativa do país de buscar facilitar o “retorno” de pessoas da afrodiáspora. Desde 2007, com a comemoração dos 50 anos de independência, o país busca atrair pessoas da afrodiáspora. O ano passado foi marcado pelo projeto “Year of Return, Ghana 2019), com incentivo a dupla cidadania, conferências e interligação dos povos afrodiaspóricos.

A segunda iniciativa, relacionada à primeira, é o considerável investimento e incentivo a evolução da capacidade científico-tecnológica do país em áreas como TICs, inteligência artificial, robótica e afins.

Pra contar um pedacinho dessa história, incluí no livro “Comunidades, Algoritmos e Ativismos Digitais: olhares afrodiaspóricos” a publicação do artigo “Articulando e Performando Desenvolvimento: retornantes qualificados no negócio de TICs do Gana“.

A autora, Seyram Avle, é Professora Assistente de Mídia Digital Global no Departamento de Comunicação na Universidade de Massachusetts, Amherst (EUA). Sua pesquisa trata da criação, produção e usos de tecnologias digitais em contextos transnacionais em partes da África, China e EUA.

O artigo é resultado de extensa pesquisa sobre os fluxos de capital humano e científico-tecnológico entre países. No caso do Gana, Seyram Avle se debruçou sobre uma particularidade que observou na última década: estudantes e profissionais de classe média e alta do Gana tem retornado ao país depois de estudar e trabalhar em pólos financeiros e tecnológicos do mundo, como Vale do Silício e Londres. Mas é um retorno qualificado e estratégico: são pessoas que buscam construir e avançar os mercados e indústrias de Gana.

As duas seções iniciais do artigo nos apresentam uma revisão histórica e bibliográfica sobre os fluxos de capital humano nas áreas de tecnologias digitais. Avle explica sobre a relação complexa entre recrutamento, transferência e retorno em conhecimento qualificado em indústrias estratégicas, pois países do Sul global podem perder seus talentos caso a presença de boas universidades não seja acompanhada de um mercado ativo que absorva e recompense a oferta de trabalho qualificado. As mudanças socio-econômicas e políticas no Gana nos últimos 20 anos motivaram ondas de saída e retorno de profissionais. Mas este retorno, Seyram Avle defende, não é só uma questão econômica.

Os retornantes qualificados mais velhos tendem a mencionar a construção da nação como uma motivação para o retorno, com a possibilidade de desempenhar um papel mais saliente para eles do que para a geração mais jovem (Ammassari, 2004). Embora grande parte da pesquisa mencione essa motivação em termos de compreensão do motivo pelo qual as pessoas retornam ao Sul, deixa de ver se essa e outras motivações estão associadas a atividades específicas no retorno. Isso pode estar relacionado ao fato de que o impacto do repatriado geralmente é explicado em termos estritamente econômicos. No entanto, os retornantes às vezes citam mudanças sociais e culturais como parte de suas contribuições. Em Gana, onde os retornantes tendem a ir para setor privado, indivíduos qualificados veem as mudanças no local de trabalho e na cultura pública como áreas-chave onde podem contribuir para o desenvolvimento socioeconômico geral do país

Neste artigo, Seyram Avle apresenta resultados de entrevista em profundidade com 14 retornantes entre 27 empreendedores e formuladores de políticas públicas no Gana e apresenta a complexidade das motivações para o retorno. Um “retorno contínuo” é uma tendência constante. Alguns entrevistados recusam a ideia de mudar definitivamente para outros países: a circulação global para receber e oferecer conhecimento existia, mas Gana permanece como ponto focal. H. Chinery-Hesse, da SoftTribe, por exemplo, disse que “Eu estava arrumando minha mala três dias depois de ir para a América… Nunca houve um momento em que eu nunca estivesse voltando”. Chinery-Hesse possui alguns materiais sobre suas opiniões quanto ao desenvolvimento de Gana, como:

Outra entrevistada, Sheila Bartels-Sam, CEO da tecnologia de pagamentos eletrônicos InCharge Global menciona TICs como uma área onde é possível idear, criar e inovar mesmo para profissionais que não sejam programadores. Mas esta motivação não seria apenas individual, mas “cada empresário discutiu os desafios de obter grandes lucros com seus wmpreendimentos e ressaltou o fato de que eles perseguiam esta linha de atuação porque as necessidades que estavam atendendo não são apenas baseadas no mercado, mas eram necessárias para o desenvolvimento” do país. Para ver mais sobre a postura de Bartels-Sam sobre gaps e oportunidades:

O artigo segue na discussão fundamentada dos relatos de diversos inovadores e empresários de Gana que voltaram ao país, ligando as motivações e mostrando como algumas particularidades do país convergem no desejo do retorno e construção de desenvolvimento tecnológico nas áreas urbanas.

à medida que as economias menores do Sul se juntam à sociedade da informação global, as carreiras e as oportunidades ocupacionais que a acompanham tornam possível que os emigrantes retornem para casa. Em geral, as motivações para os emigrantes qualificados que retornam do Norte foram enquadradas principalmente em termos de ciclo de vida, ou seja, como uma questão de tempo ou oportunidade para si e/ou sua família em vez de renda.

Para além da óbvia relevância do artigo aos interessados nas particularidades do empreendedorismo digital em Gana e na África, o artigo pode servir como uma janela inicial de acesso a referências bibliográficas ou de empresas do Gana. Recomendo a leitura a todos que estejam interessados em conhecer melhor realidades que são mais próximas de nós. As particularidades de Gana são mais relevantes do que tentar emular similaridades que não existem com os países do Norte Global.

Esta é a primeira tradução a português de um trabalho da professora Seyram Avle e espero que seja a primeira de muitas. Conheça mais sobre seu trabalho em https://www.seyramavle.com/ e confira vídeo abaixo:

Baixe ou compre o livro na editora LiteraRUA -> http://www.literarua.com.br/livro/olhares-afrodiasporicos

O que é blackfishing? Transracialismo parasita por dinheiro nas mídias sociais

Blackfishing é uma prática quando alguém finge ser negro, geralmente realizada por alguém branco, para buscar algum benefício financeiro, afetivo, social ou político. Os pesquisadores Ronaldo Ferreira de Araújo e Jobson da Silva Júnior descreveram como:

Na prática do blackfishing vemos pessoas não-negras que se pintam de preto, não como forma de resistência ou proteção contra as formas mais brutais de violência, mas em benefício próprio pela apropriação de elementos puramente estéticos que desrespeitam toda a cultura negra assim como toda a luta da população negra, uma evidente aproximação das práticas de racismo recreativo, agora monetizado.

Um exemplo que ganhou popularidade mundial foi a da “ativista” Rachel Dolezal, que simulou afiliação étnico-racial e cultural à negritude nos Estados Unidos para galar um posto em importante organização, a NAACP:

Nas mídias sociais, o fenômeno se intensificou. Com as conquistas econômicas das populações afrodiaspóricas no Brasil e nos EUA e a ocupação de cargos em organizações da indústria cultural mainstream, o espaço para artistas e influenciadores negros aumentou. Com isto, também houve aumento da apropriação cultural e quase epidérmica.

O texto “Blackfishing e a transformação transracial monetizada” é um capítulo escrito por Ronaldo Araújo e Jobson da Silva Júnior que explora este fenômeno a partir dos estudos de informação, em perspectiva crítica e empírica.

Eles apontam, a partir de Melissa Villa-Nicholas e Latesha Velez, que “centralizar os estudos de Ciência da Informação (CI) contextualizando-os em uma análise de como a raça e o racismo afetam nosso campo muda o que achamos que sabemos e nosso entendimento sobre os estudos de informação

Na introdução do capítulo, os autores refletem sobre a relativa ausência do debate racial nos campos da BCI (Biblioteconomia e Ciência da Informação), apresentam autoras e autores que tem buscado preencher esta lacuna. O uso da hashtag #blackfishing tem crescido nos últimos anos, o que veem como “denúncia do fenômeno e trazendo uma série de novos elementos para a discussão do processo de (re)construção da identidade negra em meio a prática do racismo e suas reinvenções como estratégia de manutenção do status quo.”

Na seção a seguir, os autores discutem identidade racial e as reinvenções dos racismos nas mídias sociais. O histórico da exploração do racismo anti-negro como prática recreativa em domínios intelectuais e sexuais é apresentado a partir de autores como Frantz Fanon e Stuart Hall. É especialmente importante a apresentação deste histórico e reflexão para lembrar que a maior parte dos fenômenos digitais, inclusive práticas racistas, não nascem de um vácuo, mas são desdobramentos e reinvenções de opressões e resistências já inscritas nas culturas em questão. No caso das narrativas das mulheres negras, autoras como Helenise da Cruz Conceição, Antonio Carlos da Conceição e Dayana Souza são interligadas na reflexão sobre identidades e blackfishing, praticado com frequência por mulheres brancas, que costumam ser as protagonistas dos conteúdos publicitários no mercado de beleza e decorrentes influenciadoras na área:

ainda que as mídias sociais possam proporcionar maior visibilidade e empoderamento da mulher negra, tendo inclusive “a questão da estética negra como agenciadora de construção de identidade” (Souza, 2018, p.109), com o blackfishing não só as narrativas digitais, mas o próprio lugar da mulher negra é negado e seus traços identitários usurpados.

Enquanto método principal, os autores realizam uma abordagem de análise de redes de conversações e sentidos com o mapeamento de 1.403 micronarrativas sobre o blackfishing no Twitter, que totalizam 18.170 termos e expressões. As disputas de narrativas são descritas em casos públicos que geraram não só revolta de pessoas negras contra o racismo e apropriação cultural, quanto tréplicas de racistas que tentam deslegitimar o discurso antiracista.

Observamos que a discussão sobre o racismo nas redes sociais como um todo, e especificamente no Twitter, tem como tendência a negação do fenômeno a partir de uma perspectiva histórica. No campo dos estudos étnicorraciais é evidente que a problemática tem raízes históricas, no Brasil podemos citar além da escravização, a falta de interesse do Estado, manifestada na ausência de políticas públicas voltadas para a população
negra no tocante aos seus direitos fundamentais.

A análise levantou termos por frequência e discorre sobre como são usados para defender pontos de vista antagônicos a depender dos emissores. As denúncias contra o blackfishing recebem numerosas respostas em discordância, mostrando esforços e motivações coletivas para deslegitimar a crítica negra e reforçar o lugar racista da apropriação cultural branca, o que levam os autores a concluir que “aduz uma resistência assustadora a esses avanços, na contemporaneidade, ao que parece, qualquer passo dado em direção a uma sociedade mais igualitária é visto como ameaça e reprimido violentamente“.

Acima temos apenas um pequenino resumo de alguns pontos e colaborações do capítulo dos autores, que merece ser lido em toda sua densidade e complexidade. Baixe a versão digital e/ou compre a versão impressa do livro em http://www.literarua.com.br/livro/olhares-afrodiasporicos

Emicida, tecnologias africanas, redes sociais e tambores

Como sabemos, Emicida é rapper, compositor, cantor, empresário e inovador de sucesso. Recentemente lançou também a antologia inspirada na mixtape “Pra quem já mordeu um cachorro por comida, até que eu cheguei longe…” reunindo textos e ilustrações de dezenas de pensadores e artistas brasileiros. Não seria surpresa, então, todo seu conhecimento sobre tecnologia e sociedade presente em suas músicas.

É o que vemos aqui também em formato de ensaio. Emicida gentilmente topou o desafio de escrever o prefácio do livro Comunidades, Algoritmos e Ativismos Digitais: olhares afrodiaspóricos que acabamos de lançar. Leia a seguir:

Há alguns anos, enquanto viajávamos por países do continente africano, fui surpreendido por uma pessoa que trabalhava em nosso projeto que após dividir algumas ideias, me questionou com a seguinte sentença: “Mas o que é que África tem a ver com tecnologia?”.

Me recordei naquele momento, das primeiras páginas de “Entre o Mundo e Eu” onde Ta-nehisi Coates discorre sobre a distância entre as realidades dele e da jornalista branca com quem dialogava na TV: ela parecia estar mais longe do que o satélite que os transmitiam ao vivo para o mundo todo.

Oras, se a essência das redes sociais é a conectividade, está para nascer uma que cumpra seu papel com mais eficácia do que um tambor. Sentar-se em círculos, ouvir histórias (principalmente) dos que vieram antes e extrair os melhores sentimentos dos participantes, ressaltando como a escuta é valiosa, me parece estar anos-luz à frente do mais promissor sonho de funcionalidades facebookianas de Mark Zuckerberg.

É importante admirar o admirável e para tal, é fundamental que nossas lentes estejam limpas e não sabotem essa característica tão poderosa da capacidade humana. Culturas são lentes, é por elas que percebemos o mundo.

Tecnologia, storytelling, minimalismo e ideias que visam ampliar a percepção do que significa ser humano, não podem ser vendidas no século XXI como “invenções do vale do silício”. Ainda mais para quem criou a Tábua de Ifá, a Ayurveda, as 5 orientações de gênero de alguns povos ameríndios ou a força das Mulheres Macuas. Como diria Paulina Chiziane, “às vezes sinto que nos oferecem algo que já era nosso antes deles chegarem”. Nootrópicos vieram milênios depois do Ginseng.

Tudo o que sabemos (ou o que o hemisfério norte e  seu confiante eurocentrismo julga saber), equivale só a 4% do universo, o resto é matéria e energia escura e, falando em Energia e Matéria Escura, esse livro compartilha muito a respeito do que tem a ver a África e a tecnologia.

Leia, baixe e/ou compre o livro em http://www.literarua.com.br/livro/olhares-afrodiasporicos