Carta aberta de educadores que recusam o apelo por uso da I.A. generativa na educação

Somos uma comunidade global de profissionais da educação que recusa o apelo pela adoção de I.A. generativa (I.A. Gen) em escolas e universidades, e que rejeita a narrativa de sua inevitabilidade.

Em seu núcleo, a educação é um projeto de orientação ao aprendizado para pessoas exercitarem sua própria agência no mundo. Através da educação, estudantes podem se empoderar a participar de forma significativa na sociedade, no trabalho e no planeta. Mas em seu estado atual, I.A. Gen é corrosiva à agência dos estudantes, educadores e profissionais.

Tecnologias contemporâneas de I.A. Gen representam danos legais, éticos e ambientais inaceitáveis, incluindo trabalho explorativo, apropriação da produção de incontáveis criadores e artistas, vieses nocivos, produção massiva de desinformação e a erosão da trajetória global de redução de emissões.

I.A. Gen é uma ameaça ao aprendizado e bem-estar de estudantes. Há evidências insuficientes que o uso da I.A. Gen apoie ganhos genuínos no aprendizado, mas há uma ofensiva massiva de marketing para posicionar tais produtos como essenciais para a subsistência dos estudantes. Jovens que usam chatbots antropomorfizados estão vulneráveis à dependência psicológica e emocional. “Relacionamentos” com I.A. Gen continuam a gerar crises de saúde mental, conflitos de relacionamento humano e, nos piores casos, tentativas e realizações de suicídio.

Adicionalmente, a adoção de I.A. Gen no mercado é fortemente direcionada a automatizar e substituir esforço humano, geralmente com a expectativa que a futura “AGI” vai tornar obsoleto o trabalho humano criativo e intelectual. Essa é uma narrativa na qual não participaremos.

Nós não apoiamos o uso de I.A. Gen na educação. Nós assinamos os seguintes compromissos em nosso trabalho educacional e convidamos instituições educacionais, líderes em escolas e formuladores de políticas públicas a honrar nosso direito de

1 – Não usaremos I.A. Gen para avaliar ou oferecer feedback sobre o trabalho de estudantes nem para desenhar qualquer parte de nossos cursos.

2 – Nós não promoveremos produtos de I.A. generativa construídos em modelos desenvolvidos de forma antiética como ChatGPT, Claude, Copilot, Gemini, Grok ou Llama. Não permitiremos parcerias corporativas-institucionais que comprometem nossa liberdade acadêmica.

3 – Nós não aceitaremos sem evidência a agenda de venda por pessoas que não são educadoras nem compartilharemos o hype às custas do aprendizado dos estudantes e da pedagogia viva.

4 – Nós não treinaremos nossos estudantes a usar ferramentas de I.A. generativa para substituir seu próprio esforço e desenvolvimento intelectual. Nós não apoiamos a automação e exploração do trabalho intelectual e criativo.

5 – Nós não pediremos a estudantes ou colegas que violem o espírito de integridade acadêmica ao promover o uso de produtos antiéticos.

6 – Nós não reescreveremos currículos para inserir I.A. Gen com os propósitos de “construir literacia em I.A.”

7 – Nós não contribuiremos com a erosão da liberdade acadêmica e agência do educador ao forçar educadores a se conformarem a tecnologias que consideram antiéticas.

8 – Nós também honraremos o direito dos estudantes de resistir e recusar.

Assine em openletter.earth/an-open-letter-from-educators-who-refuse-the-call-to-adopt-genai-in-education-cb4aee75

Racismo Algorítmico e Regulação de Inteligência Artificial: o contrato racial na produção do PL 2338/2023

Compartilho aqui minha tese de doutorado Racismo Algorítmico e Regulação de Inteligência Artificial: o contrato racial na produção do PL 2338/2023. Com orientação do prof. Sergio Amadeu, tive a honra de ter nas bancas as colaborações interdisciplinares de Claudio Penteado, Regimeire Maciel, Denise Carvalho, Ronaldo Araújo e Marcos Queiroz. Parte dos resultados serão expandidos em vindouro livro, mas gostaria de já compartilhar a público a tese.

O projeto investigou o fenômeno do racismo algorítmico e os embates políticos e discursivos sobre o seu reconhecimento e mitigação nas esferas de disputa sobre aspectos técnicos do controle social da tecnologia. Inicialmente, parte de diálogos com a literatura científica sobre discriminação algorítmica, em especial a relação entre racismo, discriminação racial e modos tecnocêntricos de desenvolvimento de sistemas algorítmicos, notadamente os atribuídos direta ou indiretamente à inteligência artificial. Pilares da Teoria Crítica da Raça são apresentados e discutidos junto à literatura científica sobre discriminação e sistemas algorítmicos e ilustrados com estudos de caso paradigmáticos. As categorias de percepção da ordinariedade do racismo, construção social da raça, interseccionalidade, valorização do conhecimento experiencial, convergência de interesses no capitalismo racializado, abordagem decolonial e o compromisso com a justiça social são debatidos frente ao contexto material do racismo estrutural brasileiro.

Na segunda parte da tese são analisei sentidos e discursos em torno da Comissão de Juristas responsável por subsidiar elaboração de substitutivo sobre inteligência artificial no Brasil. As 85 contribuições escritas enviadas à comissão foram estudadas enquanto espaço de disputa discursiva sobre os lugares e significados do combate ao racismo frente a danos dos sistemas algorítmicos e consensos normativos constitucionais. Concluiu-se que a produção de invisibilidades e rejeições sobre o combate à discriminação racial foi um componente da rede expandida de atores na regulação de inteligência artificial.

Download:

O que é racismo algorítmico e quais seus impactos para influenciadores?

O programa Estação Livre da Estação Cultura se debruçou sobre o mercado de influenciadores, discutindo tendências, empreendedorismo, potenciais e controvérsias, incluindo dificuldades ligadas ao racismo algorítmico. O excelente programa liderado por Cris Guterres cobriu também o lançamento da versão impressa do meu livro, onde pude falar um pouco sobre o que é racismo algorítmico e suas relações como tema do mercado de influenciadores e criadores em plataformas. Veja abaixo:

Audiolivro Racismo Algorítmico: inteligência artificial e discriminação nas redes digitais

Acaba de ser lançada na Everand a versão audiolivro de minha obra Racismo Algorítmico: inteligência artificial e discriminação nas redes digitais. A obra discute reconhecimento facial, filtros para selfies, moderação de conteúdo, chatbots, policiamento preditivo e escore de crédito e outras aplicações que usam sistemas de inteligência artificial na atualidade. O que acontece quando as máquinas e programas apresentam resultados discriminatórios? Seriam os algoritmos racistas? Ou trata-se apenas de erros inevitáveis? De quem é a responsabilidade entre humanos e máquinas? E o que podemos fazer para combater os impactos tóxicos e racistas de tecnologias que automatizam o preconceito?

Neste audiolivro, estudamos a incorporação de hierarquias raciais nas tecnologias digitais de comunicação e informação. O racismo algorítmico se tornou um conceito relevante para entender como a implementação acelerada de tecnologias digitais emergentes, que priorizam ideais de lucro e de escala, impactam negativamente minorias raciais em torno do mundo. Quando algoritmos recebem o poder de decidir – a partir dos critérios de seus criadores – o que é risco, o que é belo, o que é tóxico ou o que é mérito, os potenciais discriminatórios se multiplicam. Investigamos de forma interdisciplinar o fenômeno do racismo algorítmico em tecnologias como mídias sociais, buscadores, visão computacional e reconhecimento facial.

Com narração de Matias Erisson, o audiobook soma mais de 5 horas de conteúdo e pode ser ouvido no aplicativo ou navegador. Ouça um trecho na Everand.

Livro Griots e Tecnologias Digitais referencia e referencia nossas mais velhas

Griots em algumas culturas africanas se refere às pessoas mais velhas que contam histórias e consequentemente propagam ensinamentos e é a partir desta perspectiva que o livro Griots e Tecnologias Digitais foi concebido! Organizado por Thiane Neves Barros (UFPA) e por mim, a obra tem como objetivo contribuir com o resgate de ensinamentos ancestrais nos debates contemporâneos emergentes. Para tanto, os vários artigos que compõem o livro dialogam com as e os intelectuais negros: Lélia Gonzalez, Beatriz Nascimento, Clóvis Moura, Milton Santos, Cida Bento, Zélia Amador de Deus, Sueli Carneiro, Abdias Nascimento, Nilma Lino Gomes e Antônio Bispo dos Santos.  

O livro, que conta a contribuição de pesquisadoras e pesquisadores dos campos da comunicação, ciências sociais, direito e da educação, tem no prefácio a assinatura de Zelinda Barros (UNILAB) e no posfácio Paulo Victor Melo (IADE/Universidade Europeia), dois pesquisadores referências no campo do conhecimento brasileiro. Veja o sumário completo:

  • Prefácio, por Zelinda Barros
  • Do Pretuguês Tecnológico à Blogagem Coletiva: A reconstrução de um caminhar tecnológico diante da virtualização da vida, por Viviane Rodrigues Gomes, Charô Nunes e Larissa Santiago
  • O exercício do sujeito posicionado de Beatriz Nascimento por feministas negras nas redes sociais, por Dulcilei da Conceição Lima
  • Ciberquilombismo – o quilombismo de Abdias Nascimento e sua atualização na cibercultura, por Nelza Jaqueline Siqueira Franco 
  • Ciência, Tecnologia e Interdisciplinaridade: as críticas visionárias de Abdias Nascimento, por Taís Oliveira
  • Entre aparelhos de repressão e a quilombagem: Vigilância e contra-vigilância negra a partir do olhar de Clóvis Moura, por Elizandra Salomão e Pedro Diogo Carvalho Monteiro
  • Cida Bento e Iray Carone: Entre os Pactos e os Silêncios das Performances da Branquitude nas Redes Sociais, por Catharinna Marques
  • Zélia Amador de Deus e o legado científico-tecnológico de Anase para a luta de mulheres negras na Amazônia paraêense, por Thiane de Nazaré Monteiro Neves Barros
  • Aprendendo com Sueli Caneiro: estratégias de hackeamento do dispositivo de racialidade, por Pâmela Guimarães-Silva
  • A experiência transformadora da Academia Preta Decolonial: Tessituras de um diálogo com Nilma Lino Gomes e os “Saberes Emancipatórios”, por Michelly Santos de Carvalho e Leila Lima de Sousa
  • Tecnologias Emergentes: reflexões a partir da Intelectualidade de Milton Santos, por Taís Oliveira e Tarcízio Silva
  • Antônio Bispo e o legado da contra-colonização: possibilidades para a governança da internet, por Mariana Gomes da Silva Soares
  • Posfácio: Seguir caminhando (presente), olhando para trás (passado) e projetando o que virá (futuro), por Paulo Victor Melo

A coletânea Griots e Tecnologias Digitais tem como editora a LiteraRUA, produção da Desvelar, revisão e estratégia de comunicação pelo Instituto Sumaúma e a arte de capa e diagramação são assinadas pela designer Juliana Vieira.

Griots e Tecnologias Digitais pode ser adquirido no no site da LiteraRUA. Acesse e baixe a versão gratuita em PDF: