Upgrade to Pro — share decks privately, control downloads, hide ads and more …

[She's Tech] A caixa preta da Inteligência Arti...

Carla Vieira
November 22, 2019

[She's Tech] A caixa preta da Inteligência Artificial

Carla Vieira

November 22, 2019
Tweet

More Decks by Carla Vieira

Other Decks in Technology

Transcript

  1. 2 1 a 2 3 N O V E M

    B R O 2 0 1 9
  2. “A culpa não é do algoritmo, os dados é que

    estão enviesados” SIM gênio! E você viu isso e fez o que? Normalizou!? Balanceou!? Não né, só continuou reproduzindo... (Diego – Professor de Deep Learning na UnB)
  3. Precisamos falar menos sobre o hype da Inteligência Artificial… …

    e mais sobre como estamos usando a tecnologia.
  4. “Qualquer tecnologia que criamos reflete tanto nossas aspirações quanto nossas

    limitações. Se formos limitados na hora de pensar em inclusão, isso vai ser refletido e incorporado na tecnologia que criamos”. Joy Buolamwini
  5. Quem está desenvolvendo Inteligência Artificial? “Only 22% of AI professionals

    globally are female, compared to 78% who are male.” (The Global Gender Gap Report 2018 - p.28)
  6. A inteligência artificial precisa aprender com o mundo real. Não

    basta criar um computador inteligente, é preciso ensinar a ele as coisas certas. https://about.google/stories/gender-balance-diversity-important-to- machine-learning/?hl=pt-BR
  7. Estes casos ilustram um problema maior: os algoritmos de I.A.

    são uma caixa-preta, opaca e cheia de segredos.
  8. MODELOS CAIXA BRANCA EXPLICAÇÃO DE MODELOS CAIXA PRETA EXPLICAÇÃO DAS

    SAÍDAS EXPLICAÇÃO DO MODELO INSPEÇÃO DO MODELO ABRIR A CAIXA PRETA Métodos para explicabilidade
  9. 1) Explicação do Modelo O problema de explicação da caixa

    preta consiste em fornecer uma explicação global do modelo caixa preta por meio de um modelo interpretável e transparente. Esse modelo deve ser capaz de imitar o comportamento da caixa preta e também deve ser compreensível pelos seres humanos
  10. 2) Explicação das saídas Dado um modelo caixa preta e

    uma instância de entrada, o problema da explicação das saídas consiste em fornecer uma explicação para o resultado do modelo nessa instância.
  11. 2) Inspeção do Modelo O problema de inspeção do modelo

    consiste em fornecer uma representação (visual ou textual) para entender algumas propriedades específicas do modelo de caixa preta ou de suas previsões.
  12. “O sucesso na criação da IA será o maior acontecimento

    na história da humanidade. Infelizmente, também poderá ser o último, a menos que aprendamos como evitar os riscos.” - Stephen Hawking
  13. Referências − Racismo Algorítmico em Plataformas Digitais: microagressões e discriminação

    em código − Metrics for Explainable AI: Challenges and Prospects − The Mythos of Model Interpretability − Towards Robust Interpretability with Self-Explaining Neural Networks − The How of Explainable AI: Post-modelling Explainability − Lista de artigos sobre ética e IA
  14. Referências − Relatórios do AI NOW − Notícias sobre reconhecimento

    facial no Brasil − Racial and Gender bias in Amazon Rekognition − Diversity in faces (IBM) − Google video – Machine Learning and Human Bias − Visão Computacional e Vieses Racializados − Estudo Machine Bias on Compas − Machine Learning Explainability Kaggle − Predictive modeling: striking a balance between accuracy and interpretability