O documento discute os conceitos de racismo algorítmico, ignorância branca e como as tecnologias digitais podem perpetuar discriminações raciais de forma invisível. Apresenta autores que analisam como algoritmos são influenciados por vieses sociais e podem reforçar estereótipos, bem como abordagens para lidar com esses problemas.

1. Ignorância Branca e
Racismo Algorítmico
Tarcízio Silva

2. Racismo Algorítmico e Dupla Opacidade
“O racismo é um crime perfeito. É um
crime perfeito, porque ao mesmo tempo
em que temos uma sociedade
extremamente racista, as pessoas dizem
que não são racistas. Ou seja, é uma
sociedade de racistas sem racistas” –
Kabengele Munanga
Dupla opacidade: modo pelo qual os discursos
hegemônicos invisibilizam tanto os aspectos
sociais da tecnologia quanto os debates sobre a
primazia de questões raciais nas diversas esferas
da sociedade – incluindo a tecnologia,
recursivamente
“Technochauvinismo é a crença de que
“mais tecnologia” é sempre a solução.
Geralmente vem acompanhada por crenças
como meritocracia a la Ayn Rand; valores
tecnolibertários; e a noção de que
computadores são mais "objetivos" ou "sem
viés" porque eles transformam questões e
respostas em avaliação matemática” –
Meredith Broussard
tarciziosilva.com.br

3. Epistemologia da Ignorância Branca
Charles Wade Mills
Miscognição branca como um fenômeno estrutural e não
como uma questão de miopias brancas individuais. É o
resultado (não inevitável, mas como uma forte tendência
psicológica) da localização racial. Por causa do privilégio
racial, um conjunto herdado de conceitos e crenças
racializados, experiência e interesse do grupo racial, a
branquitude compreende mal certos tipos de coisas.
tarciziosilva.com.br

4. Epistemologia da Ignorância Branca
Charles Wade Mills
Miscognição branca como um fenômeno estrutural e não
como uma questão de miopias brancas individuais. É o
resultado (não inevitável, mas como uma forte tendência
psicológica) da localização racial. Por causa do privilégio
racial, um conjunto herdado de conceitos e crenças
racializados, experiência e interesse do grupo racial, a
branquitude compreende mal certos tipos de coisas.
democracia racial
color blindness
“só há um feminismo”
tecnologias são neutras somos todos iguais
meritocraciaracismo = xingamento
“racismo em 2019, nossa!”
“não tem branco no Brasil”
“raça é biológica”
tarciziosilva.com.br

5. Raça, genocídio e esquecimento
O ponto de vista da América Nativa, África negra e Ásia
colonial sempre esteve consciente que a civilização Europeia
se baseia em barbarismo extra-Europeu, de modo que o
holocausto Judeu não é de modo algum algo incomum, uma
anomalia no desenvolvimento do Ocidente, mas apenas
particular no uso do Contrato Racial contra europeus.
Charles Mills

6. Algoritmos e Inteligência Artificial
Algoritmos são "uma sequência
finita de instruções precisas
implementáveis em sistemas
computacionais (incluindo mas
não limitadas a cérebros
humanos)”
(Osoba & Welser IV, 2018)
Inteligência Artificial Geral
Inteligência Artificial Estreita
Modalidade que poderia ser imitar escopo,
fluidez e autonomia da inteligência humana
Modalidade efetiva da inteligência artificial em
sistemas automatizados cotidianos, focados
em tarefas relativamente simples (ainda que
enormes em termos quantitativos) em
domínios específicos
tarciziosilva.com.br

7. Danos Potenciais da
Decisão Automatizada
por Algoritmos/IA
DANOS INDIVIDUAIS DANOS COLETIVOS
SOCIAISDISCRIMINAÇÃO ILEGAL PRÁTICAS INJUSTAS
CONTRATAÇÃO
PERDA DE
OPORTUNIDADES
EMPREGO
SEGURIDADE & BENEFÍCIOS SOCIAIS
HABITAÇÃO
EDUCAÇÃO
ACESSO A CRÉDITO
PERDA FINANCEIRA
PRECIFICAÇÃO DIFERENCIAL
AUMENTO DA VIGILÂNCIA
ESTIGMATIZAÇÃO
SOCIAL
REFORÇO DE ESTEREÓTIPOS
DANOS MORAIS
ACESSO DIFERENCIAL À SAÚDE
NECROPOLÍTICAS
PRIVAÇÃO DE LIBERDADE
(Adap. de Megan Smith
e Joy Buolamwini)

8. A vulgaridade do “viés” algorítmico e a ignorância branca

9. A vulgaridade do “viés” algorítmico e a ignorância branca

10. A vulgaridade do “viés” algorítmico e a ignorância branca

11. A vulgaridade do “viés” algorítmico e a ignorância branca

12. A vulgaridade do “viés” algorítmico e a ignorância branca

13. A vulgaridade do “viés” algorítmico e a ignorância branca

14. A vulgaridade do “viés” algorítmico e a ignorância branca

15. A vulgaridade do “viés” algorítmico e a ignorância branca
A moralidade codificada por cor do Contrato
Racial restring a posse da liberdade natural e
igualdade a homens brancos. Através de seu
completa não reconhecimento ou, no máximo,
reconhecimento inadequado, míope, pelos
deveres da lei, Não-brancos são relegados a
degraus inferiores da escada moral
Charles W Mills
tarciziosilva.com.br

16. Abordagem simbólica e abordagem conexionista
(Cardon et al, 2018)
Modelo Hipotético-
Dedutivo
Simbólico
Modelo Indutivo
Conexionista

17. Abordagem simbólica e abordagem conexionista
(Cardon et al, 2018)
Modelo Hipotético-
Dedutivo
Simbólico
Modelo Indutivo
Conexionista

18. Inteligência Artificial: inescrutável?

19. Gap no conhecimento sobre AI
Papers propondo
novos modelos
!
Paper estudando
modelos existentes
!
(Epstein, 2018) tarciziosilva.com.br

20. A injustiça é multifacetada e não
tem apenas uma única fonte ou
solução. É necessário uma virada
reflexiva no debate sobre
discriminação baseada em dados.
O QUÊ?
QUEM
COMO Gangadharan & Niklas
Racismo Algorítmico não é questão apenas de matemática
Racismo algorítmico (Ali)
Technochauvinismo (Broussard)
New Jim Code (Benjamin)
Digital Poorhouse (Eubanks)
Math Destruction (O’Neill)
tarciziosilva.com.br

21. A “Anti-Caixa Preta” em estudos de tecnologia e sociedade
"Resgato o termo "caixa preta" para
chamar atenção à anti-negritude
rotineira que impregna muito
desenvolvimento de tecnologia. O que
chamo de ‘Anti-Caixa Preta’ liga as
tecnologias supostamente neutras a
desigualdades na lei e políticas públicas
que servem como ferramentas para a
supremacia branca“
Ruha Benjamin
tarciziosilva.com.br

22. Algoritmos Racistas ou Racismo Algorítmico?
“Feedback Loop”: aprendizado de máquina usa dados
desiguais, intensificando seu impacto negativo
Humanidade Diferencial: instrumentos legais e afetivos não
são aplicados de modo egualitário
Visibilidade/Invisibilidade Diferencial: populações minorizadas,
esp., são sujeitos a diferentes regimes escópicos
Divisão de Trabalho: trabalho operacional de treinamento é
outsourced pra países periféricos
Colonialidade no Negócio da Tecnologia: concentração de
decisões e produção em poucos núcleos
Colonialidade de Campo: áreas da chamada “STEM” engolem
práticas das demais, simplificando e sintetizando dinâmicas
Racismo algorítmico como termo que
dá conta dos modos pelas quais as
práticas de discriminação étnico-raciais
– estruturais, econômicas, políticas e
afetivas – são impulsionadas por
tecnologias digitais e de automação,
tornando ainda mais difícil sua
identificação.
tarciziosilva.com.br

23. Contra-
Narrativas e
outros mundos
possíveis
Auditorias
Públicas
Regulação
Pesquisa
Pressão
Legislativa
Contra-projetos
O termo “teoria perspectivista”
pode ser usado para entender os
sistemas de opressão, uma
perspectiva de “baixo a cima”
(bottom up) é mais capaz de ser
precisa do que uma de “cima a
baixo” (top down).

24. Afirmação humana, étnica e cultural,
a um tempo integrando uma prática
de libertação e assumindo o
comando da própria história. A este
complexo de significações, a esta
praxis afro-brasileira, eu denomino
de quilombismo. – Abdias
Nascimento
Auditorias
Públicas
Regulação
Pesquisa
Mobilização
Civil
Pressão
Legislativa
Educação
Computacional
Contra-projetos
Contra-
Narrativas e
outros mundos
possíveis

25. Auditorias
Públicas
Regulação
Pesquisa
Consciência
Pública
Arte
Pressão
Legislativa
Educação
Computacional
Contra-projetos
Moda
Afetos
Contra-
Narrativas e
outros mundos
possíveis
Fatalismo é uma
ferramenta colonial.
Mobilização
Civil

26. Referências
BATTLE-BAPTISTE, Witney; RUSERT, Britt (Ed.). WEB Du Bois's Data Portraits: Visualizing Black America. Chronicle Books, 2018.
BENJAMIN, Ruha. Race after technology: Abolitionist tools for the new jim code. John Wiley & Sons, 2019.
BENJAMIN, Ruha (Ed.). Captivating Technology: Race, Carceral Technoscience, and Liberatory Imagination in Everyday Life. Duke University Press, 2019.
BROUSSARD, Meredith. Artificial unintelligence: how computers misunderstand the world. MIT Press, 2018.
BUOLAMWINI, Joy; GEBRU, Timnit. Gender shades: Intersectional accuracy disparities in commercial gender classification. In: Conference on Fairness, Accountability and Transparency. 2018. p. 77-91.
DANIELS, Jessie; NKONDE, Mutale; MIR, Darakhshan. Advancing Racial Literacy in Tech. Relatório do Data & Society Fellowship Program, 2019.
EPSTEIN, Ziv et al. Closing the AI Knowledge Gap. arXiv preprint arXiv:1803.07233, 2018.
ESLAMI, Motahhare et al. I always assumed that I wasn't really that close to [her]: Reasoning about Invisible Algorithms in News Feeds. In: Proceedings of the 33rd annual ACM conference on human factors in computing
systems. ACM, 2015. p. 153-162.
LAPA, Raphael Santos. O fatalismo como estratégia colonial. Revista Epistemologias do Sul, v. 2, n. 2, p. 144-161, 2019.
MILLS, Charles W. The racial contract. Cornell University Press, 2014.
MILLS, Charles W. Black rights/white wrongs: The critique of racial liberalism. Oxford University Press, 2017.
MILLS, Charles W. Ignorância branca. Griot: Revista de Filosofia, v. 17, n. 1, p. 413-438, 2018.
NOBLE, Safiya Umoja. Algorithms of Oppression: How search engines reinforce racism. NYU Press, 2018.
OSOBA, Osonde A.; WELSER IV, William. An intelligence in our image: The risks of bias and errors in artificial intelligence. Rand Corporation, 2017.
RAJI, Inioluwa Deborah; BUOLAMWINI, Joy. Actionable auditing: Investigating the impact of publicly naming biased performance results of commercial ai products. In: AAAI/ACM Conf. on AI Ethics and Society. 2019.
SILVA, Tarcízio. Teoria Racial Crítica e Comunicação Digital: conexões contra a dupla opacidade. Anais do 42º Congresso Brasileiro de Ciências da Comunicação – Intercom, Belém, 2019a.
SILVA, Tarcízio. Visão Computacional e Vieses Racializados: branquitude como padrão no aprendizado de máquina. Anais do Congresso de Pesquisadoras/es Negras/os do Nordeste, João Pessoa, 2019b.
SILVA, Tarcízio. Racismo Algorítmico em Plataformas Digitais: microagressões e discriminação em código. In: Anais do IV Simpósio Internacional LAVITS – Assimetrias e (In)visibilidades: Vigilância, Gênero e Raça. Salvador, Bahia,
Brasil, 2019.
SILVEIRA, Sérgio Amadeu da. Tudo sobre Tod@s: redes digitais, privacidade e venda de dados pessoais. São Paulo: Edições Sesc, 2017a.
SILVEIRA, Sérgio. Democracia e os códigos invisíveis: Como os algoritmos estão modulando comportamentos e escolhas políticas. Edições SESCP SP, 2019.
tarciziosilva.com.br