O racismo por trás dos filtros do FaceApp e de outras tecnologias

Na última semana tive o prazer de conversar com a jornalista Beatriz Sans, do R7, sobre o caso recente da controvérsia em torno do FaceApp. A jornalista escreveu matéria muito interessante sobre o aplicativo e citou outros casos que tenho mapeados na Timeline. Você pode clicar abaixo para ver a reportagem e colo, em seguida, a íntegra das minhas respostas:

Por que o FaceApp pode ser considerado racista?

Em 2017 o FaceApp viralizou pela primeira vez e jornalistas e ativistas ingleses identificaram como o aplicativo tinha um filtro chamado “Hot”, que deixaria as selfies mais atraentes, que embranqueceu rostos de todos usuários, inclusive de usuários negros e indianos de forma aberrante.

Na pesquisa desenvolvo o conceito de “racismo algorítmico” para tratar de como sistemas e práticas racistas se manifestam em aplicativos e agentes artificiais. Em minha tese mapeio dezenas de casos explícitos como o do FaceApp, mas mais do que apontar um aplicativo ou outro, é importante entender como a desigualdade resultante de séculos de exploração, ainda vigentes, se desdobra também em tecnologias do cotidiano.

 

Quais são as preocupações que o usuário precisa ter ao usar esses aplicativos? De que forma essas imagens podem ser utilizadas no futuro? Quais são os principais problemas com o reconhecimento facial?

Eu defendo que as pessoas sejam cautelosas com procedimentos e aplicativos de processamento automático de conteúdo e inteligência artificial. Individualmente podem ter impactos negativos pontuais: no caso do FaceApp, insultos à estética e beleza não-europeia, por exemplo. Mas de modo mais amplo alguns destes aplicativos somam informações para o treinamento de sistemas de aprendizado de máquina que, posteriormente, podem ter desdobramentos nocivos.

O mais recorrente deles é o uso desses dados coletivos para sistemas de reconhecimento facial que ajudem projetos opressivos em países autoritários ou em declínio democrático. Por exemplo, nos EUA funcionários da Amazon estão protestando e tentando impedir que a empresa trabalhe para órgãos como o ICE que documenta e persegue imigrantes no país.

Outro uso em crescimento é a construção dos chamados deep fakes, que são simulações de fotografias e vídeos de pessoas que não existem ou de pessoas reais, mas em situações falsas. Podem e são usados para projetos de desinformação que se multiplicam em torno do mundo em controvérsias políticas.

Mesmo o reconhecimento facial para fins de identificação cotidiana em contextos democráticos e justos é criticado em torno do mundo. Muitos juristas e ativistas defendem que o uso de reconhecimento facial como tecnologia biométrica não deveria ser disseminado. Mas, ao contrário, já está sendo usado por polícias de todo o mundo – e de forma desastrosa.

Em estudo recente, se descobriu que 81% dos casos de reconhecimento de suspeitos na região de Londres foram errados. No Brasil algumas cidades estão usando o recurso e já há casos de erros documentados no Rio de Janeiro. Estas tecnologias não deveriam ser implementadas sem amplo debate com a sociedade e organizações de direitos civis.

 

Como o racismo algorítmico impacta em outras áreas da tecnologia?

Há casos documentados não só na comunicação e em plataformas de mídias sociais, mas em diversas áreas. Diversos sistemas de inteligência artificial para recrutamento já foram analisados como falhos neste sentido e um dos casos recentes mais chocantes foi da inovação na indústria automotiva.  Pesquisadores da George Institute of Technology mostraram que alguns sistemas de visão computacional usados em carros autônomos em desenvolvimento identificariam pedestres negros com menos precisão. Ou seja, literalmente teriam mais chance de ser atropelados se estes carros já estivessem circulando.

 

Como as empresas de tecnologia colaboram para a continuação do racismo?

Há três modos principais que são parte causa e parte consequência. O mais simples é no próprio viés de contratação de desenvolvedores, engenheiros e gerentes de produto em empresas de tecnologia de mídias sociais e/ou inteligência artificial. Dados do relatório EEO-1 Comissão Governamental de Igualdade no Emprego dos EUA mostram que os profissionais do Vale do Silício não representam a multiplicidade da população americana. Isto tem impactos nas plataformas e dispositivos pois, em consequência, abarcarão menos a diversidade de usos e usuários.

O segundo é a questão da omissão, em parte, resultante do primeiro motivo. Boa parte das manifestações de racismo algorítmico documentadas nos últimos anos se tratou de sistemas que intensificam procedimentos racistas por terem sido treinados com bases de dados criadas por sistemas enviesados, com pouca representatividade racial e cultural. Mas a omissão também é um problema relevante, uma vez que nem sequer foram testados corretamente antes de ir ao ar alguns sistemas problemáticos.

Por fim, um grande desafio é que o próprio modelo de negócio dessas empresas promove a ideia de que “tecnologias são neutras” quando não o são. Nos EUA há trabalhos fantásticos de auditoria e análise dessas plataformas por pesquisadoras de universidade de ponta, como Joy Buolamwini, Safiya Noble e Ruha Benjamim. Entretanto, criar sistemas efetivamente justos gera mais custos – então as plataformas defendem que são “apenas tecnologia” e não sistemas de mídia, com responsabilidade constitucional como tais.

 

Quais medidas podem ser tomadas para que as minorias não sofram com o racismo algorítmico?

A primeira medida, e mais importante, é compreender que a concentração midiática em poucas plataformas, sobretudo de empresas de tecnologia advindas dos países de sempre, não é positiva. Uma internet plural e diversa em tecnologias, sites e ambientes remedia os potenciais nocivos dessa concentração atual.

Além disso, tecnologias e ambientes digitais do tipo devem ser regulados pela sociedade, através de representantes em instituições civis, casas legislativas e órgãos governamentais. Sociedades saudáveis e democráticas olham para a inovação e tecnologia de forma responsável, buscando o bem comum.

Por fim, a ideia de “literacia midiática e algorítmica” busca promover o conhecimento sobre como mídias e tecnologias são consumidas e produzidas. Idealmente toda a sociedade deveria entender e poder analisar as tecnologias de uma forma crítica, não apenas pesquisadores acadêmicos e jornalistas especializados. Para democracias saudáveis no futuro, é indispensável que este tipo de reflexão esteja inclusa também no ensino básico.

 

Você pode citar outros exemplos de racismo algorítmico?

Gostaria de destacar dois deles. Em 2016, grupos americanos descobriram que o Facebook possui uma opção que permite excluir afro-americanos e asiático-americanos de anúncios em sua plataforma, inclusive pra categorias como habitação. Ao mesmo tempo, não permitia excluir caucasianos. O mais grave é que infringia claramente o chamado Fair Housing Act, criado nos anos 1960 para evitar discriminação racial na compra, aluguel e venda de imóveis nos EUA. O recurso ilegal ficou anos no ar, prejudicando a equidade no mercado imobiliário.

Talvez o caso mais famoso e grave, da área da justiça, foi o do COMPAS. O sistema tem um recurso de análise de probabilidade de reincidência que dá um escore de possibilidade preditiva de ex-infratores cometerem novos delitos. Foi descoberto que as recomendações eram enviesadas negativamente contra negros e suavizavam contra brancos. Ou seja, o COMPAS destruiu famílias ao encarcerar por mais tempo injustamente pessoas que cometeram pequenos delitos (como furto) simplesmente por serem negras.

 

Há alguma forma segura para pessoas negras e outras minorias que desejam participar das redes sociais e outros apps sem que sua privacidade seja violada?

No atual ecossistema midiático extremamente concentrado a resposta pode ser um simples “não”. Ou ao menos não com nomes, imagens e identidades reais. Mas ainda mais importante do que preservar a privacidade nestes ambientes, precisamos incentivar o uso múltiplo da internet. Websites pessoais, blogs, fóruns alternativos, wikis e sites de redes sociais locais e segmentados podem ajudar a reduzir a dependência das mesmas velhas mídias sociais.

Futuros da pesquisa e das cidades: entrevista com Carolina Zaine

social analytics summit

Falta apenas 1 semana para o Social Analytics Summit! Aquecendo os motores para as palestras e mesas do evento, hoje temos mais uma entrevista. Carol Zaine, fundadora da Vert Inteligência Digital, participará do debate “Insights para Transformar as Cidades”, junto ao Douglas Oliveira da Thinking Insight.

carol zaineTarcízio: A Vert acabou de completar 5 anos focada em inteligência digital. Muita coisa mudou quanto a comportamentos e plataformas. Você acha que o crescente fechamento de dados, como as mudanças no Facebook, ameaçam nosso mercado?

Nesses 5 anos muitas coisas aconteceram. Por mais de uma vez ouvi pessoas dizendo “Agora sem poder fazer isso vai ficar difícil para vocês”. A questão primordial é que sempre existirão mudanças, porque é um jogo de interesses muito grande e que vai muito além da nossa atuação. Quando se trabalha com tecnologia, que talvez seja um dos mercados mais voláteis, devemos estar preparados para tudo, principalmente mudanças repentinas na “regra do jogo”. O mercado ficou bem receoso com o fechamento dos dados do Facebook e sabemos que eventualmente isso pode vir a acontecer em outras redes. Por isso, em paralelo ao trabalho que realizamos hoje, de análise de comportamento humano baseado em dados de redes sociais, temos que ir pensando em novas tecnologias, novos canais, novos métodos e nunca ser dependente de uma única estratégia.

T: Com formação e prática também em pesquisa de mercado, qual a sua opinião sobre as diferenças de lógicas de trabalho com informações e dados em agências em comparação a empresas de pesquisa?

C: O trabalho de análise de dados digitais, seja dados de navegação, redes sociais, entre outros…permite algumas coisas que o mercado de pesquisa tradicional não consegue entregar, ou se consegue, o custo fica altíssimo, como trabalhar com a análise de um alto volume de dados (big data), e a velocidade da analise que hoje, graças a recursos tecnológicos e mesmo com bases gigantescas, ainda é mais rápida que métodos tradicionais.

Muitos dizem que isso vai matar o mercado tradicional de pesquisa, como vem acontecendo com o jornalismo – Mídia física x Online. Mas eu não acredito nisso, acho que não só tem espaço para todos como são métodos que se complementam.

Percebo que ainda existe um receio dos mais antigos de mercado em trabalhar com dados proveniente de fontes como sites ou redes sociais, por exemplo, e percebo também uma falta de interesse dos jovens que estão entrando nesse mercado em entender o que já existe de pesquisa e métodos e saber como integrar de alguma maneira o que já existe com o que está para ser descoberto.

Tenho certeza de que se esses dois mercados, que ainda andam em paralelo de alguma maneira, ganhariam muito se interagissem mais.

T: O que é possível descobrir sobre uma cidade utilizando dados nas mídias sociais? Especialmente falando de bairros e áreas “marginalizados”, é possível entender comportamentos só a partir do social?

C: Acho que depende do que você quer descobrir, mas a princípio, os dados de redes sociais já dariam uma grande noção, por exemplo, do comportamento de consumo de uma dada região. As pessoas que frequentam o Centro da cidade, elas vão até lá em busca de que? Turismo? Compras? Restaurantes? Arte? Elas vivem no Centro e consomem no Centro? Ou elas são de outras partes da cidade mas gostam de frequentar o Centro por algum motivo especial?

Isso são só alguns exemplos básicos do que podemos descobrir monitorando o comportamento digital de quem frequenta essa parte da cidade e que já ajudariam a empresas ou até mesmo a prefeitura saber em que e como investir nessa região. Mostrando o potencial de consumo conseguimos contribuir para o desenvolvimento local, principalmente do Centro que é uma parte muito rica, em todos os aspectos, e extremamente marginalizada.

Leia mais entrevistas sobre o Social Analytics Summit aqui e no blog da Mariana Oliveira. Para saber mais sobre o evento e se inscrever, só seguir em mediaeducation.com.br/socialanalytics

Entrevista com Wesley Muniz sobre monitoramento e social insights

social analytics summit

Hoje o papo é com Wesley Muniz. Com experiência em agências como Coworkers, ID/TBWA, We Are Social e Flagcx, Wesley levou os aprendizados para dentro da organização. Hoje é Gerente de BI e Social Insights no Bradesco e contará no Social Analytics Summit sobre esta transição, em debate com o Gabriel Ishida (Pernod Ricard).

Wesley MunizTarcízio: Você começou a trabalhar com mídias sociais em um momento em que o “analista” era o faz tudo ainda. Como você vê a crescente especialização em áreas e etapas específicas?

Wesley: A especialização nas áreas permite um melhor amadurecimento entre os profissionais de BI e social analytics, principalmente porque eles possuem um foco de atuação e podem pesquisar e se atualizar com maior facilidade, já que tem definido o seu papel tanto na organização quanto como perfil profissional. Não é um profissional que faz “aquilo que dá no momento que se pedem”. O único perigo é construir um muro entre a sua área e as outras. Eu defendo que apesar de ter que ser um especialista no que faz, o profissional de analytics precisa conhecer todas as outras áreas que apoia. Como passei por praticamente todas as áreas e conheço os fluxos, o trabalho fica mais orgânico, alinhado e fluído. É importante conhecer mais do que o campo de atuação.

T: É possível gerar bons insights usando as mídias sociais para um público formado por clientes de um banco? Quais as diferenças para outros segmentos que você conhece bem como bebidas?

W: Sim, muitos. Pelas mídias sociais não apenas conhecemos melhor suas necessidades, anseios e problemas em relação às instituições bancárias (nossa e dos concorrentes), como é possível analisar grupos de redes de usuários e definir o que os interessa fora do campo “cliente x banco”. Dessa forma conseguimos descobrir qual tipo de conteúdo ele consome para poder transpor os seus interesses dentro dos nossos conteúdos e como abordá-los para se interessar tanto pela nossa cesta de serviços, como para conhecer melhor o banco. A maior diferença para outros segmentos é que os usuários de banco são mais obstinados à reclamação, então nosso trabalho é mais de proximidade e relacionamento do que de awareness e venda de um “estilo de vida”, como acontece no setor de bebidas. Além disso, é muito difícil definir qual o estilo de vida de um segmento que não possui um target tão bem definido, como é o de bebidas, então nós optamos por acreditar que trabalhamos com humanos, e nossa comunicação é dedicada a eles.

T: Que dicas e recomendações você daria aos leitores interessados em avançar seus conhecimentos em monitoramento, business intelligence e pesquisa em mídias sociais?

W: É muito importante não se interessar apenas por artigos diretamente ligados à área. Muito do que se aplica no monitoramento, BI e pesquisa é adquirido em outras áreas como antropologia, psicologia e comportamento do consumidor. Precisamos aprender a ser neutros em relação à nossa opinião e entender a opinião dos outros sem o juízo de valor. É essencial entender as pessoas, pois os números sozinhos não significam nada se não compreendemos o que há por trás deles. É interessante estudar um pouco de UX e sobre a “jornada do consumidor”, que vem sendo cada vez mais relevante para análises de grupos nas redes sociais.

Além das leituras, sair para conversar com outros profissionais e discutir bastante sobre a área é o que vai nos ajudar a conhecer novos caminhos de atualização.

Leia mais entrevistas com palestrantes do evento aqui no blog e no da Mariana Oliveira, além de conhecer mais sobre a grade em mediaeducation.com.br/socialanalytics/

Entrevista sobre TV, mídias sociais e segunda tela

masterchef - segunda telaConversei com o jornalista Reinaldo Glioche sobre TV, mídias sociais e segunda tela nesta semana em matéria para o IG e compartilho as respostas completas:

1 – A tendência de instrumentalizar as redes sociais começou nos talk shows americanos, como o de Jimmy Fallon, e começa a despontar no Brasil em programas esportivos e realities como “MasterChef”. Essa tendência é algo que as emissoras podem dominar ou é completamente alheio ao controle destas?
A comunicação, de modo geral, é sempre algo fora do controle de uma única organização. Nos meios tradicionais sempre existiu reinterpretações, desvios, críticas e engajamentos do público próprios a cada veículo ou atração. Na comunicação online nas mídias sociais, dois pontos nevrálgicos mudam: a estrutura digital em rede permite que estas opiniões e o boca a boca circulem de forma mais rápida e global; e a maior parte destas conversas, em plataformas como o Twitter, pode ser resgatada e analisada. Como muito mais fenômenos hoje são quantificados, em índices como os “Trending Topics”, os números ficam mais explícitos. E, do mesmo jeito, as opiniões emitidas e reinterpretações realizadas. O que as emissoras tem procurado fazer é alinhar alguns de seus produtos às dinâmicas do engajamento dos fãs nas mídias sociais.

2 – Na sua avaliação, bombar nas redes sociais hoje dá mais ibope do que as medições de audiência? Por quê?
Atualmente a internet representa cada vez mais a população, com mais e mais fatias etárias e socioeconômicas conectadas. Então não acredito que exista esta divisão entre o que dá mais resultado ou “ibope”, pois são complementares. Inclusive, a criação de índices como o ITTR – Ibope Twitter TV Ratings – só reforça esta noção. A parceria entre a mídia social e a empresa de pesquisa procura mensurar a repercussão do conteúdo televisivo na mídia digital através de ratings que medem quantidade de tweets, usuários engajados e impressões totais.

3- Vemos hoje jornalistas globais bastante ativos nas redes sociais. Atuar no Twitter e no Facebook é uma forma de cativar audiência?
Sim, é uma forma de cativar e aproveitar o capital social construído em outros ambientes. Nas mídias sociais, valores de autoridade, audiência e reputação podem ser construídos a partir de diversas formas, como a atuação em dinâmicas próprias das redes online e/ou na transposição e expansão da audiência televisivo na construção de uma comunidade online. Alguns jornalistas mais afeitos aos meios digitais procuram realizar esta integração, pois acaba tornando-se inclusive mais um valor a ser “vendido” em negociações com veículos. Figuras como William Bonner e Marcelo Tas possuem cada mais 8 milhões de seguidores no Twitter, tornando-se veículos eles mesmos.

4 – Muitos dos programas em exibição na TV tornam-se os assuntos mais comentados do Twitter. Existe alguma estratégia da perspectiva da produção que possa garantir a subida de uma hashtag?
No final das contas, há pouquíssimos temas ou assuntos que podem ser vistos como “garantidos” para gerar repercussão necessária a virar trending topic. Entretenimento televisivo (especialmente narrativas e reality shows), política e esporte tendem a gerar mais conversas porque lidam também com paixões, sentimentos e controvérsias. Alguns programas conseguem alinhar elementos suficientes a engajar público e influenciadores. A abertura a participação do público é essencial. Mas esta participação não deve ser vista apenas como algo reativo (tuitar e votar com determinadas hashtags definidas pelo programa), mas também na disponibilização (intencional ou não) de material remixável: uma frase que vira jargão temporário, uma imagem reinterpretada como meme, uma situação curiosa… É muito difícil realizar algo com garantia de ser sucesso em qualquer âmbito ou indústria, mas quando falamos de segunda tela, é possível analisar o que dá resultado em tempo real e redirecionar programas e narrativas para alcançar um maior sucesso.

5 – Você acha que a reação instantânea das redes sociais pode estar interferindo na maneira da TV produzir conteúdo? Por quê?
Com certeza, o que acontece nas mídias sociais interfere direta e indiretamente na produção, estilo e até narrativa de alguns problemas. Hoje atendemos clientes do segmento televisivo que observam, com nossa ajuda, não só as mais variadas reações do público aos programas, mas também a própria composição desta audiência em suas características comportamentais e sociodemográficas.

Há dois motivos principais para tal impacto. O primeiro é que a utilização das mídias sociais como “segunda tela” é algo corrente para grande parte da população, então alguns programas conseguem explorar a utilização de “fatos conversáveis”. Pode ser um plot twist na novela, a transformação física de uma atriz, a competição entre participantes, o sotaque engraçado de outro…

O segundo motivo é que as dezenas a centenas de milhares de tweets diários sobre programas como Masterchef, Malhação, Xuxa Meneghel, Pânico na Band ou Verdades Secretas, só para citar alguns, podem ser analisados em tempo real, assim como o comportamento de sua audiência. Sentimento, percepção, frases e termos mais utilizados, relação com marcas, piadas e até aspectos do cotidiano da audiência, expressos através dos tweets, podem ser coletados e interpretados por bons analistas. E tudo isto já é realizado pelas principais emissoras do país, que dedicam esforços de pesquisa a entender impacto, oportunidades e desafios nas mídias sociais.

Entrevista com Priscila Marcenes

marcenes

Continuando a série de entrevistas com palestrantes e professores do Social Analytics Summit, hoje temos a colaboração da Priscila Marcenes , coordenadora de Social Intelligente na AD. Dialeto. No #SAS2014 ela divide a curadoria comigo, abrirá o workshop falando sobre métricas de mídias sociais e participará de debate sobre pesquisa em mídias sociais.

Recomendo seguir seu blog com os excelentes guias sobre gráficos em relatórios de monitoramento de mídias sociais.

Qual o seu caminho percorrido para trabalhar com pesquisa em mídias sociais?
A carreira em pesquisa começou acidentalmente. Um acidente que foi, no final das contas, a melhor coisa que me aconteceu. Fui chamada para trabalhar em uma agência no cargo de Planner, porém, dentro do escopo da vaga, estava incluído o trabalho com monitoramento. Comecei do zero e a correr atrás de todas as informações por conta própria. Lia blogs específicos, tutoriais na internet, buscava sobre ferramentas e, assim, fui me familiarizando com a área. Eu já tinha feito uma disciplina isolada de mestrado na PUC Minas sobre Antropologia da Comunicação, além de falar sobre pesquisas em geral, me apresentou o conceito de Netnografia. Sendo assim, com as teorias de pesquisa online e a oportunidade de trabalhar com monitoramento, comecei a juntas as duas coisas e apresentar aos clientes um estudo mais aprofundado do comportamento do consumidor. Desde então, busco me especializar cada vez mais em pesquisas online.

Você acredita que as métricas em mídias sociais estão sendo bem analisadas pelo mercado?
A área de métricas ainda é bem nova dentro da comunicação digital, sendo assim, estamos em um processo de evolução. O mercado já avançou muito e conseguimos extrair bons dados com as métricas de social media. Porém, como a atuação em social media ainda é nova, inclusive para o cliente, é difícil receber dele um direcionamento, objetivo ou meta tangível para mensuração mais objetiva da atuação. Acredito que se houvesse maior consciência e estratégias mais definidas para as redes sociais, seria possível traçar KPIs que validem com mais rigor o que está sendo postado e quando será a previsão do atingimento do objetivo definido.

 

Em quê a pesquisa em mídias sociais se diferencia de outros tipos e modalidades de pesquisa?
Estamos vivendo uma era em que tudo é compartilhado nas redes sociais. As pessoas têm sentem necessidade de compartilhar com o mundo o que estão fazendo, onde estão, o que estão comendo e outas milhões de informações. Se você souber minerar bem esses dados é possível retirar excelentes insumos comportamentais e habituais. Afinal, a grande maioria daquelas ocorrências encontradas são interações espontâneas e com pouquíssimas influencias de alguma marca.

Um caso real, foi da pesquisa que realizamos pra uma rede nacional de roupas masculinas. Descobrimos que, muitos dos que compram a marca fazem parte da religião evangélica. Essa informação foi fundamental para respaldarmos tanto a comunicação estratégica inteira e, principalmente, a forma de se comunicar nas redes sociais.

 

Qual a sua expectativa com relação ao Social Analytics Summit 2014? Pra deixar o pessoal do SAS mais curioso, pode falar um pouco sobre o que você vai apresentar no debate e no workshop?
Estou super animada com o SAS 2014. Teremos palestrantes incríveis com temas atuais. Como estou duplando com o Tarcízio na curadoria do evento, posso falar em primeira mão que estamos tentando deixar as palestras bem práticas e tangíveis para que todos os convidados já saiam do evento com várias ideias aplicáveis no trabalho do dia a dia.
No debate sobre pesquisas online, vamos tentar explicar de forma bem didática alguns modelos de pesquisa e como aplica-los. Alem da explanação, teremos bastante tempo para debate e solução de dúvidas.
Para o workshop estou preparando um passo a passo bem dinâmico para você escolher bem as métricas do seu relatório deixando-o mais dinâmico, prático e eficaz. Espero que gostem!
Vejo vocês lá! Beijos J