Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
Algoritmos Racistas
Search
Ruan Brandão
May 24, 2024
Technology
0
84
Algoritmos Racistas
Ruan Brandão
May 24, 2024
Tweet
Share
More Decks by Ruan Brandão
See All by Ruan Brandão
Desenvolvimento de jogos com Elixir
ruanbrandao
0
29
Software Ethics
ruanbrandao
2
320
Narrativas no Desenvolvimento de Software
ruanbrandao
0
220
Web Vulnerabilities: A Field Guide
ruanbrandao
0
120
Ética no Desenvolvimento de Software
ruanbrandao
4
870
Aplicando o Método Científico no Desenvolvimento de Software
ruanbrandao
2
250
Internet Personalizada
ruanbrandao
0
52
Other Decks in Technology
See All in Technology
大手企業のAIツール導入の壁を越えて:サイバーエージェントのCursor活用戦略
gunta
6
760
AIコードエディタは開発を変えるか?Cursorをチームに導入して1ヶ月経った本音
ota1022
1
690
他チームへ越境したら、生データ提供ソリューションのクエリ費用95%削減へ繋がった話 / Cross-Team Impact: 95% Off Raw Data Query Costs
yamamotoyuta
0
230
積み上げられた技術資産と向き合いながら、プロダクトの信頼性をどう守るか
plaidtech
PRO
0
850
それでもぼくらは貢献をつづけるのだ(たぶん) @FOSS4GLT会#002
furukawayasuto
1
270
Redmineの意外と知らない便利機能 (Redmine 6.0対応版)
vividtone
0
1.1k
やさしいClaude Code入門
minorun365
PRO
31
23k
金融システムをモダナイズするためのAmazon Elastic Kubernetes Service(EKS)ノウハウ大全
daitak
0
120
Devin&Cursor、それぞれの「本質」から導く最適ユースケース戦略
empitsu
8
2.4k
AIの電力問題を概観する
rmaruy
1
210
【5分でわかる】セーフィー エンジニア向け会社紹介
safie_recruit
0
24k
FastMCPでSQLをチェックしてくれるMCPサーバーを自作してCursorから動かしてみた
nayuts
1
200
Featured
See All Featured
The Psychology of Web Performance [Beyond Tellerrand 2023]
tammyeverts
47
2.8k
Understanding Cognitive Biases in Performance Measurement
bluesmoon
29
1.7k
RailsConf & Balkan Ruby 2019: The Past, Present, and Future of Rails at GitHub
eileencodes
137
34k
Evolution of real-time – Irina Nazarova, EuRuKo, 2024
irinanazarova
8
750
Side Projects
sachag
454
42k
Optimizing for Happiness
mojombo
378
70k
XXLCSS - How to scale CSS and keep your sanity
sugarenia
248
1.3M
Adopting Sorbet at Scale
ufuk
76
9.4k
Java REST API Framework Comparison - PWX 2021
mraible
31
8.6k
Raft: Consensus for Rubyists
vanstee
137
7k
Done Done
chrislema
184
16k
Build The Right Thing And Hit Your Dates
maggiecrowley
35
2.7k
Transcript
Algoritmos Racistas O que fazer? Ruan Brandão
RUAN BRANDÃO Engenheiro de Software Palestrante Estudante de Filosofia e
sua relação com a tecnologia
ALGORITMOS
"Um conjunto de regras ou instruções matemáticas que, especialmente se
dadas a um computador, ajudarão a calcular a resposta para um problema" Dicionário Cambridge
Pode ser simples "Checar se um número é par" Dado
número N Divida N por 2 e pegue o resto da divisão Se o resto for = 0 Se o resto for ≠ 0 O número é par O número não é par
Pode ser complexo "Prever como vai estar o tempo daqui
alguns dias"
Leva em consideração dezenas de variáveis como: Imagens de satélite
Medição de rios e lagos Temperatura atual Velocidade e direção do vento Faz vários cálculos para chegar ao resultado
Algoritmos decidem muita coisa na nossa vida atual
Quando você vai atravessar ou quando um carro vai passar
Se você terá crédito e qual o seu score O valor que você vai pagar pelo plano de saúde O que aparece no seu buscador e nas suas redes sociais
Essas decisões algorítmicas podem ter viés racista
56% Da população brasileira é negra (IBGE, 2022) Esse é
o tamanho do impacto de uma decisão feita com um viés racista no Brasil
None
"Dispensers de sabonete são ativados quando a luz é refletida
por uma superfície em seu caminho. Como a pele negra absorve mais luz (e reflete menos) eles podem falhar." Leslie Champman
Algoritmos de detecção de pedestres são até 7,5% mais preciso
com pessoas de pele clara. Predictive Inequity in Object Detection, Cornell University, 2019
Google Photos, 2015
Facebook, 2020
Na maior parte dos casos, os bancos de dados usados
para treinar estes algoritmos de reconhecimento são formados majoritariamente por imagens de pessoas da mesma raça.
80% das prisões injustas por reconhecimento facial aconteceram com pessoas
negras Relatório Defensoria Pública do Rio de Janeiro - 2020
Mas por que esses algoritmos são racistas?
Tecnologia ainda é um ambiente majoritariamente branco
Trabalhadores de tecnologia no Brasil Relatório Quem Coda BR, PretaLAB
(2019)
Trabalhadores de tecnologia no Brasil Relatório Quem Coda BR, PretaLAB
(2019)
4,7% dos cargos de liderança são ocupados por pessoas negras
nas 500 maiores empresas do Brasil (Instituto Ethos)
Tecnologia nunca é neutra
A tecnologia produzida em um ambiente racista carrega esse racismo
dentro de si
O que fazer?
Mais pessoas negras em tecnologia e em cargos de liderança
Open Source para conhecer os algoritmos que afetam a nossa
vida
Para um algoritmo racista eu posso ser um criminoso, um
primata, alguém que não merece direitos e acessos
Mas a verdade é que eu sou o Ruan Filho
da Nilza e do Márcio Irmão do Cleber e da Tati Tio do Miguel, Raul e Dandara Marido da Carol Programador Estudante Fã de basquete Uma pessoa como você
Se o racismo está na estrutura, é preciso mudar a
estrutura. Obrigado