Ce diaporama a bien été signalé.
Nous utilisons votre profil LinkedIn et vos données d’activité pour vous proposer des publicités personnalisées et pertinentes. Vous pouvez changer vos préférences de publicités à tout moment.
Ignorância Branca e
Racismo Algorítmico
Tarcízio Silva
Racismo Algorítmico e Dupla Opacidade
“O racismo é um crime perfeito. É um
crime perfeito, porque ao mesmo tempo
em que te...
Epistemologia da Ignorância Branca
Charles Wade Mills
Miscognição branca como um fenômeno estrutural e não
como uma questã...
Epistemologia da Ignorância Branca
Charles Wade Mills
Miscognição branca como um fenômeno estrutural e não
como uma questã...
Raça, genocídio e esquecimento
O ponto de vista da América Nativa, África negra e Ásia
colonial sempre esteve consciente q...
Algoritmos e Inteligência Artificial
Algoritmos são "uma sequência
finita de instruções precisas
implementáveis em sistema...
Danos Potenciais da
Decisão Automatizada
por Algoritmos/IA
DANOS INDIVIDUAIS DANOS COLETIVOS
SOCIAISDISCRIMINAÇÃO ILEGAL P...
A vulgaridade do “viés” algorítmico e a ignorância branca
A vulgaridade do “viés” algorítmico e a ignorância branca
A vulgaridade do “viés” algorítmico e a ignorância branca
A vulgaridade do “viés” algorítmico e a ignorância branca
A vulgaridade do “viés” algorítmico e a ignorância branca
A vulgaridade do “viés” algorítmico e a ignorância branca
A vulgaridade do “viés” algorítmico e a ignorância branca
A vulgaridade do “viés” algorítmico e a ignorância branca
A moralidade codificada por cor do Contrato
Racial restring a po...
Abordagem simbólica e abordagem conexionista
(Cardon et al, 2018)
Modelo Hipotético-
Dedutivo
Simbólico
Modelo Indutivo
Co...
Abordagem simbólica e abordagem conexionista
(Cardon et al, 2018)
Modelo Hipotético-
Dedutivo
Simbólico
Modelo Indutivo
Co...
Inteligência Artificial: inescrutável?
Gap no conhecimento sobre AI
Papers propondo
novos modelos
!
Paper estudando
modelos existentes
!
(Epstein, 2018) tarcizio...
A injustiça é multifacetada e não
tem apenas uma única fonte ou
solução. É necessário uma virada
reflexiva no debate sobre...
A “Anti-Caixa Preta” em estudos de tecnologia e sociedade
"Resgato o termo "caixa preta" para
chamar atenção à anti-negrit...
Algoritmos Racistas ou Racismo Algorítmico?
“Feedback Loop”: aprendizado de máquina usa dados
desiguais, intensificando se...
Contra-
Narrativas e
outros mundos
possíveis
Auditorias
Públicas
Regulação
Pesquisa
Pressão
Legislativa
Contra-projetos
O ...
Afirmação humana, étnica e cultural,
a um tempo integrando uma prática
de libertação e assumindo o
comando da própria hist...
Auditorias
Públicas
Regulação
Pesquisa
Consciência
Pública
Arte
Pressão
Legislativa
Educação
Computacional
Contra-projetos...
Referências
BATTLE-BAPTISTE, Witney; RUSERT, Britt (Ed.). WEB Du Bois's Data Portraits: Visualizing Black America. Chronic...
Prochain SlideShare
Chargement dans…5
×

Ignorância Branca e o Racismo Algorítmico

CÓDIGOS NEGROS/ linguagens para cotidianos antirracistas

  • Soyez le premier à commenter

Ignorância Branca e o Racismo Algorítmico

  1. 1. Ignorância Branca e Racismo Algorítmico Tarcízio Silva
  2. 2. Racismo Algorítmico e Dupla Opacidade “O racismo é um crime perfeito. É um crime perfeito, porque ao mesmo tempo em que temos uma sociedade extremamente racista, as pessoas dizem que não são racistas. Ou seja, é uma sociedade de racistas sem racistas” – Kabengele Munanga Dupla opacidade: modo pelo qual os discursos hegemônicos invisibilizam tanto os aspectos sociais da tecnologia quanto os debates sobre a primazia de questões raciais nas diversas esferas da sociedade – incluindo a tecnologia, recursivamente “Technochauvinismo é a crença de que “mais tecnologia” é sempre a solução. Geralmente vem acompanhada por crenças como meritocracia a la Ayn Rand; valores tecnolibertários; e a noção de que computadores são mais "objetivos" ou "sem viés" porque eles transformam questões e respostas em avaliação matemática” – Meredith Broussard tarciziosilva.com.br
  3. 3. Epistemologia da Ignorância Branca Charles Wade Mills Miscognição branca como um fenômeno estrutural e não como uma questão de miopias brancas individuais. É o resultado (não inevitável, mas como uma forte tendência psicológica) da localização racial. Por causa do privilégio racial, um conjunto herdado de conceitos e crenças racializados, experiência e interesse do grupo racial, a branquitude compreende mal certos tipos de coisas. tarciziosilva.com.br
  4. 4. Epistemologia da Ignorância Branca Charles Wade Mills Miscognição branca como um fenômeno estrutural e não como uma questão de miopias brancas individuais. É o resultado (não inevitável, mas como uma forte tendência psicológica) da localização racial. Por causa do privilégio racial, um conjunto herdado de conceitos e crenças racializados, experiência e interesse do grupo racial, a branquitude compreende mal certos tipos de coisas. democracia racial color blindness “só há um feminismo” tecnologias são neutras somos todos iguais meritocraciaracismo = xingamento “racismo em 2019, nossa!” “não tem branco no Brasil” “raça é biológica” tarciziosilva.com.br
  5. 5. Raça, genocídio e esquecimento O ponto de vista da América Nativa, África negra e Ásia colonial sempre esteve consciente que a civilização Europeia se baseia em barbarismo extra-Europeu, de modo que o holocausto Judeu não é de modo algum algo incomum, uma anomalia no desenvolvimento do Ocidente, mas apenas particular no uso do Contrato Racial contra europeus. Charles Mills
  6. 6. Algoritmos e Inteligência Artificial Algoritmos são "uma sequência finita de instruções precisas implementáveis em sistemas computacionais (incluindo mas não limitadas a cérebros humanos)” (Osoba & Welser IV, 2018) Inteligência Artificial Geral Inteligência Artificial Estreita Modalidade que poderia ser imitar escopo, fluidez e autonomia da inteligência humana Modalidade efetiva da inteligência artificial em sistemas automatizados cotidianos, focados em tarefas relativamente simples (ainda que enormes em termos quantitativos) em domínios específicos tarciziosilva.com.br
  7. 7. Danos Potenciais da Decisão Automatizada por Algoritmos/IA DANOS INDIVIDUAIS DANOS COLETIVOS SOCIAISDISCRIMINAÇÃO ILEGAL PRÁTICAS INJUSTAS CONTRATAÇÃO PERDA DE OPORTUNIDADES EMPREGO SEGURIDADE & BENEFÍCIOS SOCIAIS HABITAÇÃO EDUCAÇÃO ACESSO A CRÉDITO PERDA FINANCEIRA PRECIFICAÇÃO DIFERENCIAL AUMENTO DA VIGILÂNCIA ESTIGMATIZAÇÃO SOCIAL REFORÇO DE ESTEREÓTIPOS DANOS MORAIS ACESSO DIFERENCIAL À SAÚDE NECROPOLÍTICAS PRIVAÇÃO DE LIBERDADE (Adap. de Megan Smith e Joy Buolamwini)
  8. 8. A vulgaridade do “viés” algorítmico e a ignorância branca
  9. 9. A vulgaridade do “viés” algorítmico e a ignorância branca
  10. 10. A vulgaridade do “viés” algorítmico e a ignorância branca
  11. 11. A vulgaridade do “viés” algorítmico e a ignorância branca
  12. 12. A vulgaridade do “viés” algorítmico e a ignorância branca
  13. 13. A vulgaridade do “viés” algorítmico e a ignorância branca
  14. 14. A vulgaridade do “viés” algorítmico e a ignorância branca
  15. 15. A vulgaridade do “viés” algorítmico e a ignorância branca A moralidade codificada por cor do Contrato Racial restring a posse da liberdade natural e igualdade a homens brancos. Através de seu completa não reconhecimento ou, no máximo, reconhecimento inadequado, míope, pelos deveres da lei, Não-brancos são relegados a degraus inferiores da escada moral Charles W Mills tarciziosilva.com.br
  16. 16. Abordagem simbólica e abordagem conexionista (Cardon et al, 2018) Modelo Hipotético- Dedutivo Simbólico Modelo Indutivo Conexionista
  17. 17. Abordagem simbólica e abordagem conexionista (Cardon et al, 2018) Modelo Hipotético- Dedutivo Simbólico Modelo Indutivo Conexionista
  18. 18. Inteligência Artificial: inescrutável?
  19. 19. Gap no conhecimento sobre AI Papers propondo novos modelos ! Paper estudando modelos existentes ! (Epstein, 2018) tarciziosilva.com.br
  20. 20. A injustiça é multifacetada e não tem apenas uma única fonte ou solução. É necessário uma virada reflexiva no debate sobre discriminação baseada em dados. O QUÊ? QUEM COMO Gangadharan & Niklas Racismo Algorítmico não é questão apenas de matemática Racismo algorítmico (Ali) Technochauvinismo (Broussard) New Jim Code (Benjamin) Digital Poorhouse (Eubanks) Math Destruction (O’Neill) tarciziosilva.com.br
  21. 21. A “Anti-Caixa Preta” em estudos de tecnologia e sociedade "Resgato o termo "caixa preta" para chamar atenção à anti-negritude rotineira que impregna muito desenvolvimento de tecnologia. O que chamo de ‘Anti-Caixa Preta’ liga as tecnologias supostamente neutras a desigualdades na lei e políticas públicas que servem como ferramentas para a supremacia branca“ Ruha Benjamin tarciziosilva.com.br
  22. 22. Algoritmos Racistas ou Racismo Algorítmico? “Feedback Loop”: aprendizado de máquina usa dados desiguais, intensificando seu impacto negativo Humanidade Diferencial: instrumentos legais e afetivos não são aplicados de modo egualitário Visibilidade/Invisibilidade Diferencial: populações minorizadas, esp., são sujeitos a diferentes regimes escópicos Divisão de Trabalho: trabalho operacional de treinamento é outsourced pra países periféricos Colonialidade no Negócio da Tecnologia: concentração de decisões e produção em poucos núcleos Colonialidade de Campo: áreas da chamada “STEM” engolem práticas das demais, simplificando e sintetizando dinâmicas Racismo algorítmico como termo que dá conta dos modos pelas quais as práticas de discriminação étnico-raciais – estruturais, econômicas, políticas e afetivas – são impulsionadas por tecnologias digitais e de automação, tornando ainda mais difícil sua identificação. tarciziosilva.com.br
  23. 23. Contra- Narrativas e outros mundos possíveis Auditorias Públicas Regulação Pesquisa Pressão Legislativa Contra-projetos O termo “teoria perspectivista” pode ser usado para entender os sistemas de opressão, uma perspectiva de “baixo a cima” (bottom up) é mais capaz de ser precisa do que uma de “cima a baixo” (top down).
  24. 24. Afirmação humana, étnica e cultural, a um tempo integrando uma prática de libertação e assumindo o comando da própria história. A este complexo de significações, a esta praxis afro-brasileira, eu denomino de quilombismo. – Abdias Nascimento Auditorias Públicas Regulação Pesquisa Mobilização Civil Pressão Legislativa Educação Computacional Contra-projetos Contra- Narrativas e outros mundos possíveis
  25. 25. Auditorias Públicas Regulação Pesquisa Consciência Pública Arte Pressão Legislativa Educação Computacional Contra-projetos Moda Afetos Contra- Narrativas e outros mundos possíveis Fatalismo é uma ferramenta colonial. Mobilização Civil
  26. 26. Referências BATTLE-BAPTISTE, Witney; RUSERT, Britt (Ed.). WEB Du Bois's Data Portraits: Visualizing Black America. Chronicle Books, 2018. BENJAMIN, Ruha. Race after technology: Abolitionist tools for the new jim code. John Wiley & Sons, 2019. BENJAMIN, Ruha (Ed.). Captivating Technology: Race, Carceral Technoscience, and Liberatory Imagination in Everyday Life. Duke University Press, 2019. BROUSSARD, Meredith. Artificial unintelligence: how computers misunderstand the world. MIT Press, 2018. BUOLAMWINI, Joy; GEBRU, Timnit. Gender shades: Intersectional accuracy disparities in commercial gender classification. In: Conference on Fairness, Accountability and Transparency. 2018. p. 77-91. DANIELS, Jessie; NKONDE, Mutale; MIR, Darakhshan. Advancing Racial Literacy in Tech. Relatório do Data & Society Fellowship Program, 2019. EPSTEIN, Ziv et al. Closing the AI Knowledge Gap. arXiv preprint arXiv:1803.07233, 2018. ESLAMI, Motahhare et al. I always assumed that I wasn't really that close to [her]: Reasoning about Invisible Algorithms in News Feeds. In: Proceedings of the 33rd annual ACM conference on human factors in computing systems. ACM, 2015. p. 153-162. LAPA, Raphael Santos. O fatalismo como estratégia colonial. Revista Epistemologias do Sul, v. 2, n. 2, p. 144-161, 2019. MILLS, Charles W. The racial contract. Cornell University Press, 2014. MILLS, Charles W. Black rights/white wrongs: The critique of racial liberalism. Oxford University Press, 2017. MILLS, Charles W. Ignorância branca. Griot: Revista de Filosofia, v. 17, n. 1, p. 413-438, 2018. NOBLE, Safiya Umoja. Algorithms of Oppression: How search engines reinforce racism. NYU Press, 2018. OSOBA, Osonde A.; WELSER IV, William. An intelligence in our image: The risks of bias and errors in artificial intelligence. Rand Corporation, 2017. RAJI, Inioluwa Deborah; BUOLAMWINI, Joy. Actionable auditing: Investigating the impact of publicly naming biased performance results of commercial ai products. In: AAAI/ACM Conf. on AI Ethics and Society. 2019. SILVA, Tarcízio. Teoria Racial Crítica e Comunicação Digital: conexões contra a dupla opacidade. Anais do 42º Congresso Brasileiro de Ciências da Comunicação – Intercom, Belém, 2019a. SILVA, Tarcízio. Visão Computacional e Vieses Racializados: branquitude como padrão no aprendizado de máquina. Anais do Congresso de Pesquisadoras/es Negras/os do Nordeste, João Pessoa, 2019b. SILVA, Tarcízio. Racismo Algorítmico em Plataformas Digitais: microagressões e discriminação em código. In: Anais do IV Simpósio Internacional LAVITS – Assimetrias e (In)visibilidades: Vigilância, Gênero e Raça. Salvador, Bahia, Brasil, 2019. SILVEIRA, Sérgio Amadeu da. Tudo sobre Tod@s: redes digitais, privacidade e venda de dados pessoais. São Paulo: Edições Sesc, 2017a. SILVEIRA, Sérgio. Democracia e os códigos invisíveis: Como os algoritmos estão modulando comportamentos e escolhas políticas. Edições SESCP SP, 2019. tarciziosilva.com.br

×