Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
Algoritmos Racistas
Search
Ruan Brandão
May 24, 2024
Technology
110
0
Share
Embed
Copy iframe code
Copy JS code
Copy link
Start on current slide
Algoritmos Racistas
Ruan Brandão
May 24, 2024
More Decks by Ruan Brandão
See All by Ruan Brandão
Top 10 OWASP: As maiores ameaças para sua aplicação web
ruanbrandao
0
37
Desenvolvimento de jogos com Elixir
ruanbrandao
0
45
Software Ethics
ruanbrandao
2
380
Narrativas no Desenvolvimento de Software
ruanbrandao
0
300
Web Vulnerabilities: A Field Guide
ruanbrandao
0
160
Ética no Desenvolvimento de Software
ruanbrandao
4
940
Aplicando o Método Científico no Desenvolvimento de Software
ruanbrandao
2
300
Internet Personalizada
ruanbrandao
0
75
Other Decks in Technology
See All in Technology
Claude code Orchestra
ozakiomumkj
3
980
ブロックチェーン / Blockchain
ks91
PRO
0
110
Dario Amodi『Policy on the AI Exponential』を理解する
nagatsu
0
190
Building applications in the Gemini API family.
line_developers_tw
PRO
0
1.9k
PHP と TypeScript の型システム比較:AI 時代の「型」は誰のためにあるのか? #frontend_phpcon_do / frontend_phpcon_do_2026
shogogg
1
250
AI Adaptable なテストを整える工夫 / Ways to Make Your Tests AI-Adaptable
bitkey
PRO
3
220
「嘘をつくテスト」の失敗例から学ぶ 良いテストコード #frontend_phpcon_do
asumikam
0
500
Chart.js が簡単に使えるようになっていたので OGP 画像生成に使った話
kamekyame
0
170
2026.06.13_AI時代に事業会社が「SIer出身エンジニア」を求める理由 / Why Businesses Seek Engineers with a System Integrator Background in the AI Era
jumtech
0
560
Rancherの紹介&Update情報(RancherJP Online Meetup #09)
yoshiyuki_kono
0
120
「速く作る」から「正しく作る」へ ─ 生成AI時代の開発フロー改革の ロードマップと実行 ─
starfish719
0
8.2k
地元にいないローカルオーガナイザーの立ち回り
uvb_76
1
870
Featured
See All Featured
WCS-LA-2024
lcolladotor
0
620
Building an army of robots
kneath
306
46k
Producing Creativity
orderedlist
PRO
348
40k
What the history of the web can teach us about the future of AI
inesmontani
PRO
1
600
How People are Using Generative and Agentic AI to Supercharge Their Products, Projects, Services and Value Streams Today
helenjbeal
1
200
Beyond borders and beyond the search box: How to win the global "messy middle" with AI-driven SEO
davidcarrasco
3
150
Between Models and Reality
mayunak
4
330
Typedesign – Prime Four
hannesfritz
42
3.1k
The World Runs on Bad Software
bkeepers
PRO
72
12k
Why Mistakes Are the Best Teachers: Turning Failure into a Pathway for Growth
auna
0
150
エンジニアに許された特別な時間の終わり
watany
107
250k
Thoughts on Productivity
jonyablonski
76
5.2k
Transcript
Algoritmos Racistas O que fazer? Ruan Brandão
RUAN BRANDÃO Engenheiro de Software Palestrante Estudante de Filosofia e
sua relação com a tecnologia
ALGORITMOS
"Um conjunto de regras ou instruções matemáticas que, especialmente se
dadas a um computador, ajudarão a calcular a resposta para um problema" Dicionário Cambridge
Pode ser simples "Checar se um número é par" Dado
número N Divida N por 2 e pegue o resto da divisão Se o resto for = 0 Se o resto for ≠ 0 O número é par O número não é par
Pode ser complexo "Prever como vai estar o tempo daqui
alguns dias"
Leva em consideração dezenas de variáveis como: Imagens de satélite
Medição de rios e lagos Temperatura atual Velocidade e direção do vento Faz vários cálculos para chegar ao resultado
Algoritmos decidem muita coisa na nossa vida atual
Quando você vai atravessar ou quando um carro vai passar
Se você terá crédito e qual o seu score O valor que você vai pagar pelo plano de saúde O que aparece no seu buscador e nas suas redes sociais
Essas decisões algorítmicas podem ter viés racista
56% Da população brasileira é negra (IBGE, 2022) Esse é
o tamanho do impacto de uma decisão feita com um viés racista no Brasil
None
"Dispensers de sabonete são ativados quando a luz é refletida
por uma superfície em seu caminho. Como a pele negra absorve mais luz (e reflete menos) eles podem falhar." Leslie Champman
Algoritmos de detecção de pedestres são até 7,5% mais preciso
com pessoas de pele clara. Predictive Inequity in Object Detection, Cornell University, 2019
Google Photos, 2015
Facebook, 2020
Na maior parte dos casos, os bancos de dados usados
para treinar estes algoritmos de reconhecimento são formados majoritariamente por imagens de pessoas da mesma raça.
80% das prisões injustas por reconhecimento facial aconteceram com pessoas
negras Relatório Defensoria Pública do Rio de Janeiro - 2020
Mas por que esses algoritmos são racistas?
Tecnologia ainda é um ambiente majoritariamente branco
Trabalhadores de tecnologia no Brasil Relatório Quem Coda BR, PretaLAB
(2019)
Trabalhadores de tecnologia no Brasil Relatório Quem Coda BR, PretaLAB
(2019)
4,7% dos cargos de liderança são ocupados por pessoas negras
nas 500 maiores empresas do Brasil (Instituto Ethos)
Tecnologia nunca é neutra
A tecnologia produzida em um ambiente racista carrega esse racismo
dentro de si
O que fazer?
Mais pessoas negras em tecnologia e em cargos de liderança
Open Source para conhecer os algoritmos que afetam a nossa
vida
Para um algoritmo racista eu posso ser um criminoso, um
primata, alguém que não merece direitos e acessos
Mas a verdade é que eu sou o Ruan Filho
da Nilza e do Márcio Irmão do Cleber e da Tati Tio do Miguel, Raul e Dandara Marido da Carol Programador Estudante Fã de basquete Uma pessoa como você
Se o racismo está na estrutura, é preciso mudar a
estrutura. Obrigado