{"id":12918,"date":"2023-06-12T15:25:02","date_gmt":"2023-06-12T18:25:02","guid":{"rendered":"https:\/\/tarciziosilva.com.br\/blog\/?p=12918"},"modified":"2023-06-12T15:26:15","modified_gmt":"2023-06-12T18:26:15","slug":"a-defensoria-publica-no-combate-e-mitigacao-da-discriminacao-algoritmica","status":"publish","type":"post","link":"https:\/\/tarciziosilva.com.br\/blog\/a-defensoria-publica-no-combate-e-mitigacao-da-discriminacao-algoritmica\/","title":{"rendered":"A defensoria p\u00fablica no combate e mitiga\u00e7\u00e3o da discrimina\u00e7\u00e3o algor\u00edtmica"},"content":{"rendered":"\n<div class=\"wp-block-image\"><figure class=\"aligncenter size-large\"><img loading=\"lazy\" decoding=\"async\" width=\"580\" height=\"435\" src=\"https:\/\/tarciziosilva.com.br\/blog\/wp-content\/uploads\/2023\/06\/defensoria-publica-maranhao-580x435.jpg\" alt=\"\" class=\"wp-image-12920\" srcset=\"https:\/\/tarciziosilva.com.br\/blog\/wp-content\/uploads\/2023\/06\/defensoria-publica-maranhao-580x435.jpg 580w, https:\/\/tarciziosilva.com.br\/blog\/wp-content\/uploads\/2023\/06\/defensoria-publica-maranhao-300x225.jpg 300w, https:\/\/tarciziosilva.com.br\/blog\/wp-content\/uploads\/2023\/06\/defensoria-publica-maranhao-150x113.jpg 150w, https:\/\/tarciziosilva.com.br\/blog\/wp-content\/uploads\/2023\/06\/defensoria-publica-maranhao-768x576.jpg 768w, https:\/\/tarciziosilva.com.br\/blog\/wp-content\/uploads\/2023\/06\/defensoria-publica-maranhao.jpg 800w\" sizes=\"auto, (max-width: 580px) 100vw, 580px\" \/><\/figure><\/div>\n\n\n\n<p class=\"wp-block-paragraph\">Em maio, tive a grata oportunidade de dialogar em painel sobre <em>Discrimina\u00e7\u00e3o Algor\u00edtmica <\/em>na <em><a href=\"https:\/\/www.youtube.com\/live\/y45xR4BGsu4?feature=share&amp;t=5474\" target=\"_blank\" rel=\"noreferrer noopener\">Confer\u00eancia Anual da Defensoria P\u00fablica do Maranh\u00e3o<\/a><\/em>. Fiquei especialmente satisfeito por admirar o papel da Defensoria P\u00fablica no suporte \u00e0 sociedade e defesa de um sistema judici\u00e1rio que proteja os direitos humanos, assim como a educa\u00e7\u00e3o p\u00fablica sobre direitos \u2013 miss\u00f5es que s\u00e3o chave no momento de defini\u00e7\u00e3o de consensos sobre algoritmos e intelig\u00eancia artificial.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Na abertura do painel pude trazer reflex\u00f5es sobre o car\u00e1ter elusivo \u2013 e permeado de din\u00e2micas de poder \u2013 na pr\u00f3pria defini\u00e7\u00e3o de intelig\u00eancia artificial. Relembrei defini\u00e7\u00f5es como a da OCDE que estabelece que \u201cum sistema de IA \u00e9 um sistema baseado em m\u00e1quinas que pode, para um determinado conjunto de objetivos definidos por humanos, fazer previs\u00f5es, recomenda\u00e7\u00f5es ou decis\u00f5es que influenciam ambientes reais ou virtuais\u201d. No nexo entre objetivos, inten\u00e7\u00f5es e danos no desenvolvimento e implementa\u00e7\u00e3o de sistemas algor\u00edtmicos temos possibilidades normativas mais acess\u00edveis \u00e0 sociedade do que um tecnocentrismo no c\u00f3digo.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">A abordagem de identifica\u00e7\u00e3o de vieses para combater a discrimina\u00e7\u00e3o algor\u00edtmica foi explicada pela prof. Dra. Ana Paula Cavalcanti. Entre os problemas apresentados como fontes para distor\u00e7\u00f5es no sistema est\u00e3o: dificuldade de gerir alto volume de dados; amostragem distorcida e vi\u00e9s inicial das bases; disparidades no poder computacional; disparidades no tamanho da amostra; e quest\u00f5es de desenvolvimento \u00e9tico, transpar\u00eancia e responsabilidade.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">O conceito de discrimina\u00e7\u00e3o algor\u00edtmica j\u00e1 tem sido reconhecido por estados em torno do mundo, a exemplo dos EUA \u2013 pa\u00eds-sede de boa parte das organiza\u00e7\u00f5es <em>big tech<\/em> \u2013 que definiu-a como \u201cDiscrimina\u00e7\u00e3o algor\u00edtmica ocorre quando sistemas automatizados contribuem para tratamento diferencial injustificado ou impactos desfavor\u00e1veis a pessoas baseados em sua ra\u00e7a, cor, etnia, sexo, defici\u00eancia, status de veterano, informa\u00e7\u00e3o gen\u00e9tica ou qualquer outra categoria protegida por lei. Dependendo das condi\u00e7\u00f5es espec\u00edficas, tais discrimina\u00e7\u00f5es algor\u00edtmicas podem violar prote\u00e7\u00f5es legais\u201d.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">A partir da discrimina\u00e7\u00e3o algor\u00edtmica, apresentei caracter\u00edsticas do que chamo de racismo algor\u00edtmico. Problemas comumente citados sobre discrimina\u00e7\u00e3o algor\u00edtmica, como o loop de retroalimenta\u00e7\u00e3o e a opacidade dos sistemas, se conecta com vulnerabilidades impostas \u00e0 popula\u00e7\u00f5es negras como acesso limitado a direitos, colonialidade de campo e visibilidade diferencial. Os hiatos digitais que&nbsp; geram dificuldades de v\u00e1rios n\u00edveis no acesso digital tamb\u00e9m foi abordado, mas indo al\u00e9m do conceito de \u201cexclus\u00e3o digital\u201d.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Thales Dias Pereira, Mestre em Direito e Defensor P\u00fablico, abriu sua fala lembrando do contexto de \u201csubintegra\u00e7\u00e3o\u201d na medida em que ningu\u00e9m \u00e9 realmente exclu\u00eddo da sociedade e seus aspectos. Essa observa\u00e7\u00e3o abriu caminho para a lembran\u00e7a de que \u00e9 basicamente imposs\u00edvel ser exclu\u00eddo dos processos algor\u00edtmico, uma vez que os direitos fundamentais dos cidad\u00e3os podem ficar sujeitos a decis\u00f5es algor\u00edtmicas ainda que eles n\u00e3o saibam.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">O defensor p\u00fablico conclama a observa\u00e7\u00e3o do conceito de hipervulnerabilidade algor\u00edtmica, uma condi\u00e7\u00e3o que converge em indiv\u00edduos e grupos que n\u00e3o s\u00e3o capazes de contestar ou mesmo entender os par\u00e2metros utilizados pelos sistemas algor\u00edtmicos e tamb\u00e9m vivenciam desigualdades interseccionais.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Para o dr. Thales Pereira, a regula\u00e7\u00e3o legal n\u00e3o deve prejudicar aspectos positivos do desenvolvimento de sistemas algor\u00edtmicos, mas precisa observar as peculiaridades de indiv\u00edduos e grupos hipervulner\u00e1vel.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Em conex\u00e3o com a considera\u00e7\u00e3o do defensor que \u00e9 necess\u00e1rio di\u00e1logo entre regula\u00e7\u00e3o da IA e teorias dos direitos fundamentais, fechei minha apresenta\u00e7\u00e3o relembrando que j\u00e1 temos pesquisa e maturidade para regular a intelig\u00eancia artificial.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Quanto ao papel do Estado, o relat\u00f3rio \u201cRacial discrimination and emerging digital technologies: a human rights analysis\u201d da relatora da ONU e prof. Dra. de Direito Tendayi Achiume se desdobra sobre o impacto poss\u00edvel de compromissos como \u201ctornar avalia\u00e7\u00f5es de impactos em direitos humanos, igualdade racial e n\u00e3o-discrimina\u00e7\u00e3o um pr\u00e9-requisito para a ado\u00e7\u00e3o de sistemas baseados em tais tecnologias por autoridades p\u00fablicas\u201d e que \u201cestados devem garantir transpar\u00eancia e presta\u00e7\u00e3o de contas sobre o uso de tecnologias digitais emergentes pelo setor p\u00fablico e permitir an\u00e1lise e supervis\u00e3o independente, incluindo atrav\u00e9s do uso apenas de sistemas que sejam audit\u00e1veis\u201d.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">No setor privado, a no\u00e7\u00e3o de \u201cTrustworthy AI\u201d (IA Confi\u00e1vel) nas lentes da Funda\u00e7\u00e3o Mozilla inclui a constru\u00e7\u00e3o de ambientes saud\u00e1veis para que os profissionais possam exercer seu papel na produ\u00e7\u00e3o de tecnologias confi\u00e1veis, transparentes e justas. Entre as sugest\u00f5es da funda\u00e7\u00e3o est\u00e3o:<\/p>\n\n\n\n<ul class=\"wp-block-list\"><li>precisa haver uma grande mudan\u00e7a na cultura corporativa para que os <strong>funcion\u00e1rios que&nbsp; defendem pr\u00e1ticas de IA respons\u00e1vel sintam-se apoiados e fortalecido<\/strong>s. Evid\u00eancias sugerem que as a\u00e7\u00f5es dos advogados internos n\u00e3o ter\u00e3o impacto, a menos que seu trabalho esteja alinhado com as pr\u00e1ticas organizacionais.<\/li><li>As equipes de engenharia devem se esfor\u00e7ar para <strong>refletir a diversidade das pessoas que usam a tecnologia<\/strong>, em linhas raciais, de g\u00eanero, geogr\u00e1ficas, socioecon\u00f4micas e de acessibilidade<\/li><\/ul>\n\n\n\n<p class=\"wp-block-paragraph\">Por fim, citei algumas propostas presentes em colabora\u00e7\u00f5es escritas \u00e0 Comiss\u00e3o de Juristas respons\u00e1vel por subsidiar elabora\u00e7\u00e3o de substitutivo sobre integ\u00eancia artificial no Brasil:<\/p>\n\n\n\n<ul class=\"wp-block-list\"><li>Juristas Negras enfatizaram que \u201c\u00e9 imprescind\u00edvel que sejam realizados debates, estudos e colabora\u00e7\u00f5es no campo das teorias raciais para incorpora\u00e7\u00e3o ao projeto de lei de dispositivos que protejam a popula\u00e7\u00e3o negra, como grupo social de maior vulnerabilidade frente a tais tecnologias\u201d<\/li><li>A Rede Mulheres na Privacidade, em artigo assinado por Elo\u00e1 Caixeta e Karolyne Utomi recomendou \u201cque sejam estudados casos pr\u00e1ticos ao redor do mundo com rela\u00e7\u00e3o aos preju\u00edzos causados pela IA quando mal empregada, como, por exemplo, o banimento do uso de tecnologias de reconhecimento facial para fins policiais pelo governo de S\u00e3o Francisco, nos Estados Unidos, onde entendeu-se que a utiliza\u00e7\u00e3o do reconhecimento facial pode exacerbar a injusti\u00e7a racial, sendo a tecnologia apresenta pequenos benef\u00edcios frente aos riscos e preju\u00edzos que ela pode gerar\u201d<\/li><li>Pesquisadoras como Natane Santos propuseram que \u201ca preponder\u00e2ncia da obrigatoriedade de revis\u00e3o humana de decis\u00f5es automatizadas pressup\u00f5e a garantia efetiva dos direitos:(i) autodetermina\u00e7\u00e3o informativa; (ii) n\u00e3o discrimina\u00e7\u00e3o e transpar\u00eancia; (iii) direito de informa\u00e7\u00e3o sobre crit\u00e9rios e par\u00e2metros de decis\u00f5es, revis\u00e3o, explica\u00e7\u00e3o e oposi\u00e7\u00e3o as decis\u00f5es automatizadas\u201d<\/li><\/ul>\n\n\n\n<p class=\"wp-block-paragraph\">Em resumo, a multiplica\u00e7\u00e3o de atores engajados no desafio da regula\u00e7\u00e3o de IA \u00e9 uma tend\u00eancia nos tr\u00eas setores do poder. As defensorias p\u00fablicas atuam e dever\u00e3o atuar cada vez mais em imbr\u00f3glios complexos sobre IA e sistemas algor\u00edtmicos na defesa dos cidad\u00e3os. Compromissos multissetoriais podem estabelecer redes de trocas que assegurem que as tecnologias digitais emergentes sirvam aos prop\u00f3sitos e potenciais da vida humana e social, e n\u00e3o apenas lucro e concentra\u00e7\u00e3o de poder.<\/p>\n","protected":false},"excerpt":{"rendered":"<p>Em maio, tive a grata oportunidade de dialogar em painel sobre Discrimina\u00e7\u00e3o Algor\u00edtmica na Confer\u00eancia Anual da Defensoria P\u00fablica do Maranh\u00e3o. Fiquei especialmente satisfeito por admirar o papel da Defensoria P\u00fablica no suporte \u00e0 sociedade e defesa de um sistema judici\u00e1rio que proteja os direitos humanos, assim como a educa\u00e7\u00e3o p\u00fablica sobre direitos \u2013 miss\u00f5es [&hellip;]<\/p>\n","protected":false},"author":6,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[2549],"tags":[2786,2785,2787,2603,2788],"class_list":["post-12918","post","type-post","status-publish","format-standard","hentry","category-inteligencia-artificial-e-algoritmos","tag-defensor-publico","tag-defensoria-publica","tag-maranhao","tag-racismo-algoritmico","tag-sao-luis"],"_links":{"self":[{"href":"https:\/\/tarciziosilva.com.br\/blog\/wp-json\/wp\/v2\/posts\/12918","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/tarciziosilva.com.br\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/tarciziosilva.com.br\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/tarciziosilva.com.br\/blog\/wp-json\/wp\/v2\/users\/6"}],"replies":[{"embeddable":true,"href":"https:\/\/tarciziosilva.com.br\/blog\/wp-json\/wp\/v2\/comments?post=12918"}],"version-history":[{"count":3,"href":"https:\/\/tarciziosilva.com.br\/blog\/wp-json\/wp\/v2\/posts\/12918\/revisions"}],"predecessor-version":[{"id":12922,"href":"https:\/\/tarciziosilva.com.br\/blog\/wp-json\/wp\/v2\/posts\/12918\/revisions\/12922"}],"wp:attachment":[{"href":"https:\/\/tarciziosilva.com.br\/blog\/wp-json\/wp\/v2\/media?parent=12918"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/tarciziosilva.com.br\/blog\/wp-json\/wp\/v2\/categories?post=12918"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/tarciziosilva.com.br\/blog\/wp-json\/wp\/v2\/tags?post=12918"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}