Ce diaporama a bien été signalé.
Nous utilisons votre profil LinkedIn et vos données d’activité pour vous proposer des publicités personnalisées et pertinentes. Vous pouvez changer vos préférences de publicités à tout moment.

Racismo algorítmico: pontos essenciais para as empresas

Palestra realizada na Conferência Ethos 360

  • Soyez le premier à commenter

  • Soyez le premier à aimer ceci

Racismo algorítmico: pontos essenciais para as empresas

  1. 1. RACISMO ALGORÍTMICO: PONTOS ESSENCIAIS PARA AS EMPRESAS RESPONSÁVEIS TARCÍZIO SILVA
  2. 2. Algoritmos – e problemas decorrentes – estão em todas esferas da vida TARCÍZIO SILVA tarciziosilva.com.br LINGUAGEM JUDICIAMENTORECONHECIMENTO TRÂNSITOEMPREGO
  3. 3. Tecnologias discriminatórias não são novas Há um amplo histórico na sociedade sobre uso de tecnologias – intencional ou não intencionalmente – para promover discriminação e segregação. Entender esta história permite não cair na armadilha de achar que tudo é novo ou que os problemas são passageiros. Maconha e encarceramento Pontes, urbanismo e segregação Espirômetro Fotografia
  4. 4. Racismo algorítmico não é uma questão de matemática Mais do que entender quando são “algoritmos racistas” em si, é essencial pensar o “racismo algorítmico”. Isto significa observar os modos pelos quais processos discriminatórios e excludentes podem ser replicados e ocultos em novas tecnologias. TARCÍZIO SILVA tarciziosilva.com.br TAY – CHATBOT DESASTROSO
  5. 5. Espelhar a sociedade não é uma boa ideia TARCÍZIO SILVA tarciziosilva.com.br Parte relevante dos problemas descobertos em aplicações de sistemas automatizados é uma questão de “garbage in, garbage out”. Datasets de treinamento criados naturalmente em um mundo extremamente desigual não devem ser a base para aprendizado de máquina.
  6. 6. PERFIL SOCIAL, RACIAL E DE GÊNERO DAS 500 MAIORES EMPRESAS DO BRASIL E SUAS AÇÕES AFIRMATIVAS
  7. 7. Não é apenas uma questão de “viés inconsciente” O discurso do “viés inconsciente” não é suficiente pra discutir o papel dos algoritmos na sociedade. É preciso entender as tecnologias, quem as usa e para quais fins as usam. Um algoritmo pode ser tecnicamente preciso, sem “viés”, mas usado por ideologias opressoras.
  8. 8. Esforço multidisciplinar: ativistas, jornalistas e sociedade Modelos e sistemas de “inteligência artificial” são criados em velocidade muito maior do que são analisados. O gap cresce e boa parte dos problemas são descobertos apenas depois que vão pro mercado ou aplicados em políticas públicas. As pessoas possivelmente impactadas devem ser envolvidas em todo o processo. TARCÍZIO SILVA tarciziosilva.com.br
  9. 9. Número cumulativo de papers no NIPS criando e estudando modelos por ano
  10. 10. Empresas, sociedade e governo Órgãos internacionais de promoção de desenvolvimento econômico já tomam a iniciativa por regulação, atitude louvável. Mas apenas a auto-regulação não é suficiente, e a sociedade civil deve participar diretamente e com seus representantes (como a Lei Geral de Proteção de Dados no Brasil, Regulamento Geral sobre a Proteção de Dados na União Europeia).
  11. 11. Pra ler mais TARCÍZIO SILVA tarciziosilva.com.br EM PORTUGUÊS • Timeline do Racismo Algorítmico • Visão Computacional e Branquitude • Microagressões e Racismo Codificado • Democracia e os Códigos Invisíveis • Tudo Sobre Tod@s • Modulação Algorítmica • Bancos de Imagens e Mulheres Negras • Pesquisa Pretalab EM INGLÊS • Algorithms of Oppression • Race After Technology • Dark Matters • Technicolor • Gender Shades • Artificial (Un)Intelligence • Automating Inequality • Interrogating Vision APIs • Captivating Technology • Five Principles for AI in Society • Neurons Spike Back • The Risks of Bias and Errors in Artificial Intelligence • AI’s social sciences deficit

×