IA Responsável: Aplicando Princípios de IA com a GCP

IA Responsável: Aplicando Princípios de IA com a GCP, sessão apresentada no DevFest Luanda 2024, aonde pudemos apresentar os conceitos e prática de desenvolver e usar IA de forma ética, transparente, e segura, considerando os impactos sociais e os direitos humanos.

Transcript

1. IA Responsável: Aplicando Princípios de IA com a GCP. Luanda Manuel Ernesto
2. IA Responsável 🧐 Luanda
3. IA Responsável 🧐 Luanda Desenvolvimento, implementação e uso de sistemas de IA que são éticos, transparentes e alinhados aos valores humanos e ao bem-estar da sociedade.
4. IA Responsável - Importancia Luanda • Minimizar impactos negativos (como viés e discriminação). • Garantir que a IA beneficie a sociedade como um todo.
5. IA Responsável - Desafios Luanda 1. Viés: Modelos podem reforçar preconceitos nos dados.
6. IA Responsável - Desafios Luanda Viés, refere-se a desvios sistemáticos nos dados ou nos modelos que levam a decisões ou previsões injustas, imprecisas ou não representativas.
7. IA Responsável - Desafios Luanda 1. Viés: Modelos podem reforçar preconceitos nos dados. 2. Transparência: Muitas decisões de IA são difíceis de explicar.
8. IA Responsável - Desafios Luanda 1. Viés: Modelos podem reforçar preconceitos nos dados. 2. Transparência: Muitas decisões de IA são difíceis de explicar. 3. Segurança e privacidade: Proteção de dados sensíveis.
9. IA Responsável - Responsabilidade Social Luanda Para que a IA seja amplamente adotada, as pessoas precisam confiar que ela é usada de forma justa e ética.
10. IA Responsável - Impactos Positivos Luanda 1. Equidade: Modelos justos promovem inclusão social e evitam discriminação.
11. IA Responsável - Impactos Positivos Luanda 2. Transparência: Decisões mais explicáveis aumentam a confiança dos usuários.
12. IA Responsável - Impactos Positivos Luanda 3. Segurança: Sistemas robustos evitam o uso indevido e protegem dados sensíveis.
13. IA Responsável - Impactos Positivos Luanda 4. Conformidade Legal: Atende a regulamentações, e evita sanções.
14. IA Responsável & GCP Luanda Como líder em tecnologia, a Google tem o compromisso de criar soluções de IA que sejam confiáveis, éticas e seguras.
15. Princípios de IA Responsável da GCP ☁ Luanda
16. Luanda A IA deve contribuir para o bem-estar da sociedade e enfrentar desafios globais, como, saúde, sustentabilidade e inclusão social. 1. Ser socialmente benéfica
17. Luanda Desenvolver modelos que sejam justos para todas as populações, independentemente de gênero, raça ou origem. 2. Evitar a criação ou reforço de viés injusto
18. Luanda Garantir que os sistemas de IA sejam seguros e robustos, com monitoramento constante para evitar falhas e danos. 3. Ser construída e testado para segurança
19. Luanda Fornecer explicações claras para decisões tomadas por sistemas de IA. 4. Ser responsável por seus impactos
20. Luanda Implementar medidas de proteção para dados sensíveis e garantir conformidade com regulamentações. 5. Privacidade e segurança de dados
21. Luanda Garantir que os sistemas sejam desenvolvidos com base em metodologias sólidas e robustas. 6. Manter padrões de excelência científica
22. Luanda Restringir aplicações nocivas, como armas autônomas ou vigilância abusiva. 7. Ser projetada para usos que estejam alinhados com valores humanos
23. Práticas Associadas aos Princípios Luanda 1. Auditorias Regulares: Revisões internas para garantir a conformidade dos projetos com os princípios.
24. Práticas Associadas aos Princípios Luanda 2. Ferramentas de Mitigação de Viés: Usadas em todo o ciclo de vida do modelo para evitar preconceitos.
25. Práticas Associadas aos Princípios Luanda 3. Monitoramento Contínuo: Sistemas de IA passam por monitoramento em tempo real para detectar falhas ou desvios.
26. Práticas Associadas aos Princípios Luanda 4. Colaboração com a Comunidade: Trabalhar com pesquisadores, ONGs e governos para promover o uso ético da IA.
27. Ferramentas e Práticas da GCP para IA Responsável Luanda
28. Luanda AI Explanations: • Mostra quais características dos dados influenciaram mais na decisão do modelo. • Ajuda a garantir transparência e identificar possíveis viés. 1. Explainable AI (Explicabilidade de IA)
29. Luanda Um modelo preditivo que aprova empréstimos: Com AI Explanations, é possível saber se a renda ou a idade de um cliente teve mais impacto na decisão. 1. Explainable AI (Explicabilidade de IA)
30. Luanda • Ferramenta para medir e visualizar possíveis viés em modelos de machine learning. • Garante que modelos sejam testados com diferentes segmentos de dados. 2. Fairness Indicators
31. Luanda Avaliar se um modelo de recomendação de empregos trata igualmente homens e mulheres. 2. Fairness Indicators
32. Luanda Técnica que adiciona ruído aos dados para evitar a identificação de indivíduos. 3. Differential Privacy (Privacidade Diferencial)
33. Luanda Permite realizar análises estatísticas sem expor informações pessoais. 3. Differential Privacy (Privacidade Diferencial)
34. Luanda Análise de dados de localização de usuários para entender padrões de tráfego sem revelar detalhes individuais. 3. Differential Privacy (Privacidade Diferencial)
35. Luanda Detecta, classifica e mascara informações sensíveis em conjuntos de dados. 4. Data Loss Prevention API (DLP API)
36. Luanda Identifica dados confidenciais, como números de cartão de crédito, endereços ou identificações pessoais. 4. Data Loss Prevention API (DLP API)
37. Luanda Substitui essas informações por pseudônimos ou outros métodos de anonimização. 4. Data Loss Prevention API (DLP API)
38. Luanda Monitora modelos de IA após o lançamento para identificar problemas, como derivação de dados ou redução de desempenho. 5. Model Monitoring no Vertex AI
39. Luanda Detecta mudanças nos padrões de dados que possam impactar a precisão do modelo. 5. Model Monitoring no Vertex AI
40. Luanda Gera alertas para que ajustes possam ser feitos rapidamente. 5. Model Monitoring no Vertex AI
41. Luanda Orienta desenvolvedores e equipes de projeto a avaliar e alinhar seus sistemas de IA com os princípios de IA responsável. 6. AI Principles Checklist
42. Luanda Inclui etapas para verificar impactos sociais, segurança, privacidade e transparência do modelo. 6. AI Principles Checklist
43. Impacto Prático: Exemplo de Uso de Ferramentas Luanda Cenário: Uma fintech usa IA para avaliar candidatos a crédito.
44. Impacto Prático: Exemplo de Uso de Ferramentas Luanda Fairness Indicators: Avalia se o modelo está rejeitando candidatos de forma desproporcional com base em gênero ou etnia.
45. Impacto Prático: Exemplo de Uso de Ferramentas Luanda Explainable AI: Explica aos clientes por que um pedido foi aprovado ou negado.
46. Impacto Prático: Exemplo de Uso de Ferramentas Luanda DLP API: Garante que informações sensíveis dos clientes sejam protegidas durante o processamento de dados.
47. Impacto Prático: Exemplo de Uso de Ferramentas Luanda Model Monitoring: Detecta mudanças nos padrões de comportamento financeiro para ajustar o modelo.
48. Dicas Práticas para Implementar IA Responsável com GCP. Luanda
49. 1. Comece pelo planejamento ético Luanda • Antes de iniciar o desenvolvimento, identifique possíveis impactos sociais e éticos do seu modelo de IA. • Use a AI Principles Checklist do Google Cloud para garantir alinhamento com os princípios de IA responsável.
50. 2. Garanta a qualidade dos dados Luanda • Dados de baixa qualidade levam a modelos ineficazes. Use ferramentas como Dataflow ou BigQuery para limpar e preparar os dados. • Certifique-se de que os dados representem adequadamente todas as populações afetadas pelo modelo.
51. 3. Implemente explicabilidade desde o início Luanda • Use Explainable AI para aumentar a transparência e permitir que os usuários entendam as decisões. • Disponibilize explicações de forma amigável ao usuário, como visualizações simples ou relatórios textuais.
52. 4. Proteja a privacidade dos usuários Luanda • Sempre pseudônimo para os dados sensíveis usando ferramentas como a DLP API. • Em um sistema de saúde, substitua nomes de pacientes por identificadores genéricos antes do processamento.
53. 5. Monitore continuamente os modelos após o lançamento Luanda • Configure Vertex AI Model Monitoring para detectar deriva de dados, erros ou redução de desempenho. • Defina alertas automáticos para mudanças que possam impactar negativamente o desempenho.
54. 6. Envolva equipes diversas no desenvolvimento Luanda • Reúna perspectivas variadas (gênero, etnia, cultura) para reduzir o viés inconsciente durante o design e o treinamento do modelo. • Se o modelo será usado globalmente, envolva pessoas de diferentes contextos regionais para avaliar o impacto.
55. 7. Teste continuamente para vieses Luanda • Use ferramentas como Fairness Indicators em todas as etapas do ciclo de vida do modelo. • Avalie as previsões em diferentes cenários e subgrupos para identificar desigualdades.
56. Luanda A implementação de IA responsável não é apenas uma obrigação ética, mas também uma vantagem competitiva. Ferramentas como Fairness Indicators, Explainable AI, DLP API e Vertex AI Model Monitoring ajudam a construir confiança e a garantir o sucesso sustentável dos sistemas de IA.
57. Obrigado