{"id":12913,"date":"2023-06-01T09:46:06","date_gmt":"2023-06-01T12:46:06","guid":{"rendered":"https:\/\/tarciziosilva.com.br\/blog\/?p=12913"},"modified":"2023-06-01T09:46:14","modified_gmt":"2023-06-01T12:46:14","slug":"como-circular-informacoes-sobre-ia-riscos-e-governanca","status":"publish","type":"post","link":"https:\/\/tarciziosilva.com.br\/blog\/como-circular-informacoes-sobre-ia-riscos-e-governanca\/","title":{"rendered":"Como circular informa\u00e7\u00f5es sobre IA, riscos e governan\u00e7a?"},"content":{"rendered":"\n

Em Maio pude participar do encontro Closing Knowledge Gaps, Fostering Participatory AI Governance: The Role of Civil Society<\/em><\/strong>, organizado em Buenos Aires pelo National Endowment for Democracy, International Forum for Democractic Studies e Chequeado. Transcrevo aqui parte de minha fala de abertura para sess\u00e3o sobre Communicating About AI Governance: Fairness, Accountability.<\/em><\/p>\n\n\n\n

Respondendo uma das quest\u00f5es de abertura para a fala, gostaria de colaborar com a pergunta sobre “What strategies might be effective for raising the baseline level of knowledge and awareness in this area?<\/em>\u201d. Um primeiro esfor\u00e7o coletivo me parece reconhecer que os modos de rela\u00e7\u00e3o com tecnologias digitais emergentes v\u00e3o ser diferentes a partir das caracter\u00edsticas interseccionais das comunidades, seus problemas e vulnerabilidades.<\/p>\n\n\n\n

Em pesquisa que realizamos, com apoio da Tecla (A\u00e7\u00e3o Educativa – Assessoria, Pesquisa e Informa\u00e7\u00e3o<\/a>) e Mozilla<\/a>, perguntamos a mais de 100 experts afrobrasileiros quais eram suas principais preocupa\u00e7\u00f5es sobre tecnologias digitais emergentes. Minha hip\u00f3tese era que reconhecimento facial e tecnologias biom\u00e9tricas seriam o tema mais mencionados. N\u00e3o foi o caso: o principal problema apontado pelos especialistas foi o \u201cApagamento do Conhecimento e Racismo Epist\u00eamico”. O apagamento intencional de abordagens cr\u00edticas e antirracistas sobre tecnologia penaliza a justi\u00e7a racial e atrasa a supera\u00e7\u00e3o dos impactos de s\u00e9culos de racismo.<\/p>\n\n\n\n

\"No<\/a>
Fonte: Prioridades Antirracistas sobre Tecnologia e Sociedade<\/figcaption><\/figure>\n\n\n\n

Experts t\u00e9cnicos, cient\u00edficos e humanistas de grupos minorizados n\u00e3o s\u00e3o ouvidos sobre danos algor\u00edtmicos, mas \u00e9 poss\u00edvel ir ainda al\u00e9m. O papel do \u201cconhecimento experiencial\u201d ou \u201cexperi\u00eancias vividas\u201d \u00e9 essencial como pilar do pensamento feminista negro, como Patricia Hill Collins que afirma que \u201cExperience as a criterion of meaning with practical images as its symbolic vehicles is a fundamental epistemological tenet\u201d para transformar a realidade.<\/p>\n\n\n\n

Assim acredito que a manuten\u00e7\u00e3o do discurso da \u201ccaixa-preta\u201d sobre os algoritmos digitais \u00e9 um problema que limita n\u00e3o s\u00f3 a compreens\u00e3o efetiva dos problemas relacionados a bias, discrimina\u00e7\u00e3o e racismo nos algoritmos mas tamb\u00e9m poda o potencial de imagin\u00e1rios sociot\u00e9cnicos alternativos.<\/p>\n\n\n\n

Prefiro particularmente o termo \u201csistemas algor\u00edtmicos\u201d a intelig\u00eancia artificial por esta raz\u00e3o. O que chamamos de AI n\u00e3o \u00e9 inteligente nem artificial, ent\u00e3o usar este termo pode tanto subestimar a complexidade da intelig\u00eancia humana quanto apagar todas as camadas de apropria\u00e7\u00e3o de trabalho incorporada em sistemas algor\u00edtmicos.<\/p>\n\n\n\n

\"No
Modelo proposto pela OECD inclui contexto, mas podemos ir ainda al\u00e9m<\/figcaption><\/figure>\n\n\n\n

A comum descri\u00e7\u00e3o de sistemas algor\u00edtmicos como uma caixa preta entre input, model e output limita o entendimento de seus efeitos, impactos e possibilidades. Quando inclu\u00edmos na defini\u00e7\u00e3o ou debate, de forma expl\u00edcita, camadas como Contexto, Objetivos, Atores Beneficiados e Comunidades Impactadas podemos incluir mais pessoas no debate.<\/p>\n\n\n\n

Recomendaria, ent\u00e3o, cinco compromissos sobre o tema: <\/p>\n\n\n\n

a.        Inclus\u00e3o de comunidades impactadas no debate. Mas n\u00e3o \u00e9 uma quest\u00e3o necessariamente de \u201cknowledge gap\u201d, mas sim uma quest\u00e3o de superar o racismo epist\u00eamico em todas institui\u00e7\u00f5es;<\/p>\n\n\n\n

b.        Compromisso de que mecanismos de governan\u00e7a em constru\u00e7\u00e3o, como a supervis\u00e3o como relat\u00f3rios de impactos algor\u00edtmicos, se transformem em mecanismos p\u00fablicos e participativos;<\/p>\n\n\n\n

c.         Constru\u00e7\u00e3o de mecanismos de apoio a comunidades vulnerabilizadas, inclusive no oferecimento de recursos, que superem os gatekeepers tradicionais;<\/p>\n\n\n\n

d.        Inclus\u00e3o de stakeholders no campo da educa\u00e7\u00e3o,como professores de ensino m\u00e9dio, que possam engajar mais pessoas;<\/p>\n\n\n\n

e.        Finalmente centrar objetivos e impactos no debate p\u00fablico sobre intelig\u00eancia artificial. Termos como vi\u00e9s, inten\u00e7\u00e3o ou \u00e9tica s\u00e3o importantes mas n\u00e3o s\u00e3o suficientes, precisamos avan\u00e7ar \u00e0 justi\u00e7a algor\u00edtmica. E em alguns casos essa justi\u00e7a significa n\u00e3o implementar o sistema, como \u00e9 o caso de vigil\u00e2ncia biom\u00e9trica, policiamento preditivo ou reconhecimento de emo\u00e7\u00f5es.<\/p>\n","protected":false},"excerpt":{"rendered":"

Em Maio pude participar do encontro Closing Knowledge Gaps, Fostering Participatory AI Governance: The Role of Civil Society, organizado em Buenos Aires pelo National Endowment for Democracy, International Forum for Democractic Studies e Chequeado. Transcrevo aqui parte de minha fala de abertura para sess\u00e3o sobre Communicating About AI Governance: Fairness, Accountability. Respondendo uma das quest\u00f5es […]<\/p>\n","protected":false},"author":6,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[2549],"tags":[2117,2603],"class_list":["post-12913","post","type-post","status-publish","format-standard","hentry","category-inteligencia-artificial-e-algoritmos","tag-inteligencia-artificial","tag-racismo-algoritmico"],"_links":{"self":[{"href":"https:\/\/tarciziosilva.com.br\/blog\/wp-json\/wp\/v2\/posts\/12913","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/tarciziosilva.com.br\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/tarciziosilva.com.br\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/tarciziosilva.com.br\/blog\/wp-json\/wp\/v2\/users\/6"}],"replies":[{"embeddable":true,"href":"https:\/\/tarciziosilva.com.br\/blog\/wp-json\/wp\/v2\/comments?post=12913"}],"version-history":[{"count":2,"href":"https:\/\/tarciziosilva.com.br\/blog\/wp-json\/wp\/v2\/posts\/12913\/revisions"}],"predecessor-version":[{"id":12915,"href":"https:\/\/tarciziosilva.com.br\/blog\/wp-json\/wp\/v2\/posts\/12913\/revisions\/12915"}],"wp:attachment":[{"href":"https:\/\/tarciziosilva.com.br\/blog\/wp-json\/wp\/v2\/media?parent=12913"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/tarciziosilva.com.br\/blog\/wp-json\/wp\/v2\/categories?post=12913"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/tarciziosilva.com.br\/blog\/wp-json\/wp\/v2\/tags?post=12913"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}