Sistema da SPTrans impede usuária de usar foto com cabelo solto

A publicitária e professora Larissa Macêdo denunciou o sistema da SPTrans que a impediu de usar fotografia com o cabelo solto em 17 tentativas seguidas com fotos diferentes – para depois aprovar sua foto com o cabelo preso.

Ironicamente, o vídeo da SPTrans de orientação para a foto usa a ilustração de um rapaz negro como exemplo. O acúmulo de decisões discriminatórias na auto-apresentação dos indivíduos gera bases de dados que posteriormente são usadas no treinamento de sistemas automatizados e deve ser levado em conta na crítica à tecnologia.

Leia o texto da publicitária sobre o caso:

Ei, SPTRANS! Tenho uma pergunta: se todas as fotos estão dentro dos critérios técnicos de tamanho e formato designados por vcs, pq tive 17 imagens REPROVADAS (de cabelo solto) e apenas a que estou de cabelo preso APROVADA? 🧐

Pessoal, como vcs estão acompanhando, estamos desde ontem tentando subir minha foto no site da SPTRANS para que eu possa fazer o bilhete único. Sem a foto no sistema, não é possível finalizar o processo de criação do cartão.

Pois bem, os requisitos para incluir a foto no sistema da SPTRANS e listados no site do bilhete único, são:

a) Formato: 3×4;
b) Tamanho máximo do arquivo: 60kb;
c) Tipos do arquivo: jpg ou jpeg;
d) Posição do usuário: Deve estar de frente e com rosto em primeiro plano;
e) Fundo da foto: Deve ser neutro, como nas fotos utilizadas em documentos oficiais (ex: RG, Carteira de Habilitação, Passaporte), sem objetos visíveis;
IMPORTANTE: Não serão aprovadas fotos com a pessoa de perfil, fazendo selfie, ao lado de outras pessoas, usando óculos de sol, boné/chapéu ou adereços que cubram parte do rosto, e com baixa resolução ou qualidade.

Após exatas 17 tentativas (todas atendendo os requisitos de tamanho e formato da imagem) tive uma foto aprovada. A questão é: todas as fotos REPROVADAS são as que apareço de cabelo solto (black power), a foto APROVADA foi a ÚNICA em que eu estou de cabelos presos! Ela inclusive foi APROVADA DE PRIMEIRA.

Sei que muitos de vocês me deram dicas e tentaram ajudar pq tiveram e têm problemas para subir essa foto nesse sistema (que é péssimo!). Mas, infelizmente, na sociedade RACISTA que vivemos não considero esses episódios como meras coincidências.

É relevante notar o caso uma vez que as infraestruturas de transporte estão entre as principais habilitadoras do racismo algorítmico. Segundo estudo da Igarapé, a categoria “Transporte” é o tipo de aplicação mais comum de reconhecimento facial no país. Em São Paulo, a concessionária de transportes ViaQuatro foi uma das primeiras a tentar normalizar o reconhecimento facial em locais públicos para otimização de anúncios. Do consumo rapidamente o estado de São Paulo pulou para a necropolítica: as demais linhas do metrô estão investindo cerca de 70 milhões de reais em reconhecimento facial para vigilância.

Podcast Tecnopolítica: debates sobre algoritmos, vigilância e direitos

O podcast Tecnopolítica chegou ao seu terceiro ano! Um dos principais hubs de especialistas em algoritmos, vigilância e direitos humanos do país foi lançado em 2018 e é um projeto do professor e pesquisador Sérgio Amadeu da Silveira (UFABC). Veja alguns dos mais interessantes produzidos:

Já são 26 vídeos: não perca os novos se inscrevendo em https://www.youtube.com/channel/UCDy46jf2mcg8xySzrqV5pxw

Reconhecimento Facial na Bahia: mais erros policiais contra negros e pobres

A Secretaria da Segurança Pública da Bahia transformou o estado em um laboratório perverso do technochauvinismo. Governado por Rui Costa, político do PT que festeja chacinas, o estado tem acumulado casos e anti-casos de reconhecimento facial para policiamento. No carnaval de 2019 um procurado por homicídio foi preso, ponto alto da campanha a favor do uso indiscriminado de reconhecimento facial em ambientes públicos.

Entretanto, além de ser uma tecnologia que coloca a democracia e direitos humanos em risco mesmo quando tecnicamente eficiente, traz uma quantidade absurda de erros. Em Londres, capital do Reino Unido – um dos países mais ricos e avançados tecnologicamente, descobriu-se que 81% das abordagens de suspeitos na região metropolitana estavam erradas. Este tipo de tecnologia deveria ser banida do espaço público. Veja no vídeo abaixo:

 

A reportagem da Record TV Itapoan, que defende o sistema, também contou com comentários do “jornalista” Raimundo Varela, filiado ao PRB, defendendo o uso da tecnologia e minimizando o sofrimento do adolescente. Optei por não incluir estes comentários no trecho acima.

Este é mais um caso de dano tecnológico em ligação direta com o racismo – veja dúzias de casos na Timeline do Racismo Algorítmico.

Ignorância Branca e Algoritmização – Códigos Negros

No último sábado (9/11) pude participar do evento Códigos Negros no Rio de Janeiro, promovido pelo PretaLab, Cabine e Gente. Foi um prazer participar da mesa com a Silvana Bahia e a Maria Rita Casagrande.

Subi o slideshow para quem quiser explorar as referências citadas na fala:

Tecnologias Negras: ciclo no Sesc promove centenas de cursos, atividades e palestras em outubro

Durante outubro e novembro, as unidades do Sesc em São Paulo promoverão um ciclo de atividades sobre Tecnologias e Artes Negras com dezenas de cursos, palestras e oficinas. Segundo a organização, a iniciativa “objetiva articular e dar vazão à efervescente produção de artistas, pesquisadoras(es), intelectuais e mestras(es) do saber negras e negros, nos campos das Artes Visuais e Tecnologias, e, assim, estimular a difusão de práticas educativas não formais, pautadas pelo princípio da equidade. Dessa forma, visa demarcar um espaço democrático de discussão sobre campos presentes na cultura negra, tais como: Tecnologias e Ancestralidade; Tecnologias Digitais e Contemporâneas; Utopias, Distopias e Afrofuturismo; Tecnologias Invisibilizadas e de Resistência; e Estética, Crítica e História da Arte.

As atividades foram divididas em cinco grupos, ligados a adinkras específicos:

Nas mais de 30 unidades na capital e interior, as equipes dos Espaços de Tecnologias e Arte (ETA) fizeram curadoria ativa e abriram chamada para as atividades. É simplesmente gigantesca a programação e lembro que o Sesc possui fim social, então a maior parte das atividades é gratuita ou a preços acessíveis.  Sou curador e professor em uma atividade e participo de outra mesa:

Humanidades Digitais Negras – curso idealizado por mim, com aulas de Morena Mariah, Taís Oliveira, Larissa Pontes e Fernanda Sousa:

Descobrir, resgatar, conectar e visualizar produções históricas, narrativas, artísticas e epistemologias negras tem sido a missão de pesquisadoras e pesquisadores negros em todo o mundo. A atividade “Humanidades Digitais Negras” reunirá aulas e debates entre pesquisadoras/es das áreas da Comunicação, Mídia, Sociologia, Antropologia e Letras para apresentar o campo e suas práticas aos participantes.

Machine Learning, Algoritmos e Mecanismos de Discriminação. Idealizado pelo colega Rodolfo Avelino (Professor Insper, Pesquisador na UFABC e criador do Coletivo Digital), contará também com Fernanda Monteiro tecnóloga, artista digital, oraculista e pesquisadora independente, transitando de maneira “indisciplinar” entre a tecnopolítica, feminismos e transhumanismos; e comigo. Descrição:

Utilizados em larga escala atualmente pelos mais diversos serviços de internet e sistemas da informação, os algoritmos e máquinas orientadas por machine learning prometem uma maneira revolucionária de lidar com dados e criar serviços e plataformas dinâmicas que se adaptam facilmente aos desejos e necessidades de seus usuários. Mas o que acontece quando o desenvolvimento dessas ferramentas possui vieses ocultos, que incorporam e reforçam preconceitos ainda não solucionados em nossa sociedade?

Nem todas as atividades já tem as páginas com informações específicas e inscrições, mas você conferir toda a lista da programação. Difícil selecionar algumas em destaque, mas recomendo especialmente:

 

As ilustrações neste post foram retiradas da cartilha de programação do Sesc e foram criadas pelo Marcelo D’Salete, quadrinista autor de produções como Cumbe. O quadrinista também vai oferecer um curso – História em Quadrinhos.