A publicitária e professora Larissa Macêdo denunciou o sistema da SPTrans que a impediu de usar fotografia com o cabelo solto em 17 tentativas seguidas com fotos diferentes – para depois aprovar sua foto com o cabelo preso.
Ironicamente, o vídeo da SPTrans de orientação para a foto usa a ilustração de um rapaz negro como exemplo. O acúmulo de decisões discriminatórias na auto-apresentação dos indivíduos gera bases de dados que posteriormente são usadas no treinamento de sistemas automatizados e deve ser levado em conta na crítica à tecnologia.
Leia o texto da publicitária sobre o caso:
Ei, SPTRANS! Tenho uma pergunta: se todas as fotos estão dentro dos critérios técnicos de tamanho e formato designados por vcs, pq tive 17 imagens REPROVADAS (de cabelo solto) e apenas a que estou de cabelo preso APROVADA? 🧐
Pessoal, como vcs estão acompanhando, estamos desde ontem tentando subir minha foto no site da SPTRANS para que eu possa fazer o bilhete único. Sem a foto no sistema, não é possível finalizar o processo de criação do cartão.
Pois bem, os requisitos para incluir a foto no sistema da SPTRANS e listados no site do bilhete único, são:
a) Formato: 3×4;
b) Tamanho máximo do arquivo: 60kb;
c) Tipos do arquivo: jpg ou jpeg;
d) Posição do usuário: Deve estar de frente e com rosto em primeiro plano;
e) Fundo da foto: Deve ser neutro, como nas fotos utilizadas em documentos oficiais (ex: RG, Carteira de Habilitação, Passaporte), sem objetos visíveis;
IMPORTANTE: Não serão aprovadas fotos com a pessoa de perfil, fazendo selfie, ao lado de outras pessoas, usando óculos de sol, boné/chapéu ou adereços que cubram parte do rosto, e com baixa resolução ou qualidade.
Após exatas 17 tentativas (todas atendendo os requisitos de tamanho e formato da imagem) tive uma foto aprovada. A questão é: todas as fotos REPROVADAS são as que apareço de cabelo solto (black power), a foto APROVADA foi a ÚNICA em que eu estou de cabelos presos! Ela inclusive foi APROVADA DE PRIMEIRA.
Sei que muitos de vocês me deram dicas e tentaram ajudar pq tiveram e têm problemas para subir essa foto nesse sistema (que é péssimo!). Mas, infelizmente, na sociedade RACISTA que vivemos não considero esses episódios como meras coincidências.
É relevante notar o caso uma vez que as infraestruturas de transporte estão entre as principais habilitadoras do racismo algorítmico. Segundo estudo da Igarapé, a categoria “Transporte” é o tipo de aplicação mais comum de reconhecimento facial no país. Em São Paulo, a concessionária de transportes ViaQuatro foi uma das primeiras a tentar normalizar o reconhecimento facial em locais públicos para otimização de anúncios. Do consumo rapidamente o estado de São Paulo pulou para a necropolítica: as demais linhas do metrô estão investindo cerca de 70 milhões de reais em reconhecimento facial para vigilância.