{"id":10651,"date":"2018-11-18T14:07:44","date_gmt":"2018-11-18T16:07:44","guid":{"rendered":"https:\/\/tarciziosilva.com.br\/blog\/?p=10651"},"modified":"2018-11-18T14:07:44","modified_gmt":"2018-11-18T16:07:44","slug":"como-prevenir-resultados-discriminatorios-com-machine-learning","status":"publish","type":"post","link":"https:\/\/tarciziosilva.com.br\/blog\/como-prevenir-resultados-discriminatorios-com-machine-learning\/","title":{"rendered":"Como prevenir resultados discriminat\u00f3rios com machine learning?"},"content":{"rendered":"

\"\"<\/a>Lan\u00e7ado em mar\u00e7o de 2018, o relat\u00f3rio\u00a0How to Prevent Discriminatory Outcomes in Machine Learning<\/strong><\/a> \u00e9 resultado de um\u00a0de trabalho em andamento do Global Future Council on Human Rights do World Economic Forum, que re\u00fane acad\u00eamicos, sociedade civil e experts do mercado para discutir os principais temas do futuro quanto a direitos humanos.<\/p>\n

Um destes temas, \u00e9 claro, \u00e9 a intelig\u00eancia artificial e t\u00e9cnicas como aprendizado de m\u00e1quina (machine learning) que, cada vez mais, automatizam decis\u00f5es em \u00e1reas como neg\u00f3cios, seguran\u00e7a,<\/p>\n

Com 30 p\u00e1ginas, o documento \u00e9 bastante direto em quatro se\u00e7\u00f5es. A primeira trata de desafios sobre machine learning quanto a problemas relacionados a dados e relacionados ao design dos algoritmos em si. O vi\u00e9s dos dados que servem de input nos sistemas de aprendizado de m\u00e1quina podem gerar a intensifica\u00e7\u00e3o dos vieses devido a (falta de) disponibilidade dos dados de uma determinada popula\u00e7\u00e3o ou devido a dados que j\u00e1 est\u00e3o repletos de vieses. Vimos aqui no blog um bom exemplo de dataset de treinamento pobre com o caso dos rob\u00f4s identificados pela Joy Boulamwini<\/a> e um exemplo de datasets de treinamento ruins com o algoritmo de vigil\u00e2ncia preditiva<\/a>.<\/p>\n

Ao tratar dos problemas resultantes do desenho dos algoritmos, os autores falam das seguintes possibilidades: escolha de modelo errado; constru\u00e7\u00e3o de modelo com recursos discriminat\u00f3rios acidentais; aus\u00eancia de supervis\u00e3o e envolvimento humanos; sistemas imprevis\u00edveis e inescrut\u00e1veis; e discrimina\u00e7\u00e3o intencional. O documento, que busca ser o mais neutro poss\u00edvel, traz apenas casos “hipot\u00e9ticos” para exemplificar os problemas e remedia\u00e7\u00f5es. Acredito ser importante enfatizar os problemas relacionados \u00e0 aus\u00eancia dos humanos no loop de forma cont\u00ednua, como no caso das prescri\u00e7\u00f5es erradas oferecidas pela IBM Watson \u00e0 pacientes com c\u00e2ncer<\/a>.<\/p>\n

Para combate aos problemas, s\u00e3o propostos quatro princ\u00edpios: inclus\u00e3o ativa;\u00a0 equidade; direito \u00e0 compreens\u00e3o; e acesso a remedia\u00e7\u00e3o.<\/p>\n

\"\"<\/p>\n

A terceira parte chama \u00e0 responsabilidade as empresas e, por fim, a quarta se\u00e7\u00e3o traz\u00a0checklists<\/em> sobre o que as empresas, governo, academia e cidad\u00e3o podem fazer em prol do combate \u00e0 discrimina\u00e7\u00e3o ligada \u00e0 intelig\u00eancia artificial.<\/p>\n","protected":false},"excerpt":{"rendered":"

Lan\u00e7ado em mar\u00e7o de 2018, o relat\u00f3rio\u00a0How to Prevent Discriminatory Outcomes in Machine Learning \u00e9 resultado de um\u00a0de trabalho em andamento do Global Future Council on Human Rights do World Economic Forum, que re\u00fane acad\u00eamicos, sociedade civil e experts do mercado para discutir os principais temas do futuro quanto a direitos humanos. Um destes temas, […]<\/p>\n","protected":false},"author":6,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[2549],"tags":[2519,2300,2553,2381],"class_list":["post-10651","post","type-post","status-publish","format-standard","hentry","category-inteligencia-artificial-e-algoritmos","tag-algoritmos","tag-aprendizado-de-maquina","tag-direitos-humanos","tag-machine-learning"],"_links":{"self":[{"href":"https:\/\/tarciziosilva.com.br\/blog\/wp-json\/wp\/v2\/posts\/10651","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/tarciziosilva.com.br\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/tarciziosilva.com.br\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/tarciziosilva.com.br\/blog\/wp-json\/wp\/v2\/users\/6"}],"replies":[{"embeddable":true,"href":"https:\/\/tarciziosilva.com.br\/blog\/wp-json\/wp\/v2\/comments?post=10651"}],"version-history":[{"count":7,"href":"https:\/\/tarciziosilva.com.br\/blog\/wp-json\/wp\/v2\/posts\/10651\/revisions"}],"predecessor-version":[{"id":10669,"href":"https:\/\/tarciziosilva.com.br\/blog\/wp-json\/wp\/v2\/posts\/10651\/revisions\/10669"}],"wp:attachment":[{"href":"https:\/\/tarciziosilva.com.br\/blog\/wp-json\/wp\/v2\/media?parent=10651"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/tarciziosilva.com.br\/blog\/wp-json\/wp\/v2\/categories?post=10651"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/tarciziosilva.com.br\/blog\/wp-json\/wp\/v2\/tags?post=10651"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}