Palestra realizada na Conferência Ethos 360

1. RACISMO ALGORÍTMICO:
PONTOS ESSENCIAIS PARA AS
EMPRESAS RESPONSÁVEIS
TARCÍZIO SILVA

2. Algoritmos – e problemas decorrentes – estão em todas esferas da vida
TARCÍZIO SILVA
tarciziosilva.com.br
LINGUAGEM JUDICIAMENTORECONHECIMENTO TRÂNSITOEMPREGO

3. Tecnologias discriminatórias não são novas
Há um amplo histórico na sociedade sobre uso de
tecnologias – intencional ou não intencionalmente – para
promover discriminação e segregação.
Entender esta história permite não cair na armadilha de
achar que tudo é novo ou que os problemas são
passageiros.
Maconha e
encarceramento
Pontes, urbanismo e
segregação
Espirômetro
Fotografia

4. Racismo algorítmico não é uma questão de matemática
Mais do que entender quando são “algoritmos racistas” em si, é
essencial pensar o “racismo algorítmico”.
Isto significa observar os modos pelos quais processos
discriminatórios e excludentes podem ser replicados e ocultos em
novas tecnologias.
TARCÍZIO SILVA
tarciziosilva.com.br
TAY – CHATBOT
DESASTROSO

6. Espelhar a sociedade não é uma boa ideia
TARCÍZIO SILVA
tarciziosilva.com.br
Parte relevante dos problemas descobertos em aplicações
de sistemas automatizados é uma questão de “garbage in,
garbage out”.
Datasets de treinamento criados naturalmente em um
mundo extremamente desigual não devem ser a base para
aprendizado de máquina.

7. PERFIL SOCIAL, RACIAL E DE GÊNERO DAS 500 MAIORES
EMPRESAS DO BRASIL E SUAS AÇÕES AFIRMATIVAS

8. Não é apenas uma questão de “viés inconsciente”
O discurso do “viés inconsciente” não é suficiente pra
discutir o papel dos algoritmos na sociedade.
É preciso entender as tecnologias, quem as usa e para quais
fins as usam. Um algoritmo pode ser tecnicamente preciso,
sem “viés”, mas usado por ideologias opressoras.

10. Esforço multidisciplinar: ativistas, jornalistas e sociedade
Modelos e sistemas de “inteligência artificial” são criados em
velocidade muito maior do que são analisados.
O gap cresce e boa parte dos problemas são descobertos apenas
depois que vão pro mercado ou aplicados em políticas públicas.
As pessoas possivelmente impactadas devem ser envolvidas em
todo o processo.
TARCÍZIO SILVA
tarciziosilva.com.br

11. Número cumulativo de papers no NIPS
criando e estudando modelos por ano

12. Empresas, sociedade e governo
Órgãos internacionais de promoção de desenvolvimento
econômico já tomam a iniciativa por regulação, atitude
louvável.
Mas apenas a auto-regulação não é suficiente, e a sociedade
civil deve participar diretamente e com seus representantes
(como a Lei Geral de Proteção de Dados no Brasil, Regulamento Geral
sobre a Proteção de Dados na União Europeia).

14. Pra ler mais
TARCÍZIO SILVA
tarciziosilva.com.br
EM PORTUGUÊS
• Timeline do Racismo Algorítmico
• Visão Computacional e Branquitude
• Microagressões e Racismo Codificado
• Democracia e os Códigos Invisíveis
• Tudo Sobre Tod@s
• Modulação Algorítmica
• Bancos de Imagens e Mulheres Negras
• Pesquisa Pretalab
EM INGLÊS
• Algorithms of Oppression
• Race After Technology
• Dark Matters
• Technicolor
• Gender Shades
• Artificial (Un)Intelligence
• Automating Inequality
• Interrogating Vision APIs
• Captivating Technology
• Five Principles for AI in Society
• Neurons Spike Back
• The Risks of Bias and Errors in Artificial Intelligence
• AI’s social sciences deficit