Architect (Red Hat) • 13 anos • Professor (MBA Impacta) • +-20 anos de experiência (EDS, Tata) • Data Processing (FATEC) • MBA Business Administration (FGV) • Pós Graduação Distributed Software Architecture (PUC/MG) • MBA Data Science e Analytics (USP/ESALQ) • Linkedin • Twitter • Github
Usability & Adoption | Guidance | Virtual Assistant | Code Generation Models RHEL AI Base Model | Alignment Tuning | Methodology & Tools | Platform Optimization & Acceleration AI platform OpenShift AI Development | Serving | Monitoring & Lifecycle | Resource Management AI enabled apps App & Developer services Developer Productivity | App Connectivity | Secure Supply Chain LLM Capabilities Enable Large Language Model serving in OpenShift AI RHEL Image Mode Define your RHEL OS as a Containerfile and create a bootable image Podman AI Extension for Podman Desktop to streamline AI Model development InstructLab Open source community project for GenAI model development Ansible + Terraform Enhance Infrastructure-as-code with Ansible Automation Platform Ansible Policy as Code Extend AAP directly into the realms of governance, risk and compliance (GRC) Konveyor AI Improve the economics of replatforming and refactoring applications using Generative AI Connectivity Link Connect applications across multi cluster and multi cloud environments
dado essa questão, não existem questões adicionais ? > Qual a origem dos dados ? > Podemos assegurar que os dados da minha empresa/órgão estão seguros ? > Quais/quantos dados foram utilizados no treinamento desse modelo ? > Vieses (Bias) Governança, Inovação com Ética e Responsabilidade Inteligência Artificial e Seus Desafios no Brasil
Artificial(Pbia) ▸ Apresentado em 30 de julho de 2024 (em aprovação) ▸ Desenvolvido pelo Conselho Nacional de Ciência e Tecnologia, o Pbia tem como principais objetivos desenvolver uma "nuvem soberana" onde os dados do governo brasileiro devem ser integrados e os LLMs portugueses desenvolvidos, respeitando e abraçando nossa diversidade cultural, social e linguística; Governança, Inovação com Ética e Responsabilidade Inteligência Artificial e Seus Desafios no Brasil CDE IA ▸ Prioridade para agenda de 2024 ▸ 15 de Agosto de 2024 ▸ Centro de Excelência de Ciência de Dados e Inteligência Artificial do Banco Central do Brasil ▸ "..as diretrizes de governança para o uso e o desenvolvimento seguros e éticos, no âmbito do Banco Central do Brasil, de serviços de software que utilizam ciência de dados e IA;"
Everywhere AI = Open Source Colaboração Transparência Problemas compartilhados são resolvidos mais rápidos Trabalho em conjunto cria propósitos comuns Mais de 1 Milhão de Projetos Open Source AI
Strategy Open Hybrid Cloud Platforms Red Hat Enterprise Linux | Red Hat OpenShift | Red Hat Ansible Platform Acceleration | Performance | Scale | Automation | Observability | Security | Developer Productivity | App Connectivity | Secure Supply Chain Partner Ecosystem Hardware | Accelerators | Delivery AI enabled portfolio AI models AI platform AI workload support Trust Choice Consistency
16 IBM Granite Code models Base Granite-34B-Code-Base Granite-20B-Code-Base Granite-8B-Code-Base Granite-3B-Code-Base Instruction-tuned Granite-34B-Code-Instruct Granite-20B-Code-Instruct Granite-8B-Code-Instruct Granite-3B-Code-Instruct IBM Granite Language models English Base Granite-7B-Base English Instruction-tuned Granite-7B-Instruct Granite
methodology designed to overcome the scalability challenges in the instruction-tuning phase of large language model (LLM) training. Leveraging a taxonomy-guided synthetic data generation process and a multi-phase tuning framework, LAB significantly reduces reliance on expensive human annotations and proprietary models like GPT-4. " Optional section marker or title InstructLab Project 17
open source para Podman Desktop que oferece aos desenvolvedores a capacidade de construir, testar e executar aplicativos generativos alimentados por inteligência artificial (GenAI) em contêineres usando uma interface gráfica intuitiva executada em sua estação de trabalho local • O Podman AI Lab permite que os desenvolvedores tragam IA facilmente para seus aplicativos, sem depender de infraestrutura além de um laptop • O Podman AI Lab baseia-se na no Podman Desktop, um projeto open source fundado na Red Hat que agora tem mais de um milhão de downloads
Desenvolva, teste e execute perfeitamente LLMs da família Granite para aplicativos empresariais. Plataforma Modelos Fundacionais InstructLab model alignment tools Solução escalável e econômica para aprimorar os recursos do LLM e tornar o desenvolvimento de modelos de IA aberto e acessível a todos os usuários. Optimized bootable model runtime instances Modelos Granite e ferramentas InstructLab distribuídos como uma imagem RHEL inicializável, incluindo bibliotecas Pytorch/runtime e otimização de hardware (NVIDIA, Intel e AMD). Enterprise support, lifecycle & indemnification Plataforma empresarial confiável, suporte de produção 24 horas por dia, 7 dias por semana, ciclo de vida do modelo estendido e indenização de propriedade intelectual do modelo pela Red Hat. Granite LLMs open-source, distribuídos sob a licença Apache-2.0, com total transparência nos conjuntos de dados de treinamento.
tuning | Command-line interface (CLI) | Model training infrastructure Pytorch| Runtime libraries | GPU support | vLLM | Deepspeed Granite family models O Sistema Operativo Inteligente
engineer Data scientist ML engineer Business leadership Objetivos Coleta e Preparo de Dados Desenvolvimento de Modelo Gestão, Governança e Monitoramento Integração de modelos no ciclo de desenvolvimento Todos desempenham um papel crucial em um processo complexo
JupyterLab com acesso às principais bibliotecas e estruturas de AI/ML, incluindo TensorFlow e PyTorch, usando nossas imagens de notebook ou as suas próprias. Deployment e monitoramento de modelos Implante modelos em qualquer nuvem, espaço OpenShift totalmente gerenciado e autogerenciado e monitore centralmente seu desempenho. Gerenciamento de Ciclo de Vida Crie pipelines de ciência de dados repetíveis para treinamento e validação de modelos e integre-os a pipelines Devops para entrega de modelos em toda a sua empresa. Maiores capacidades/colaboração Crie projetos e compartilhe-os entre as equipes. Combine componentes Red Hat, software de código aberto e software certificado por ISV. Hybrid MLOps platform Colabore em uma plataforma comum para reunir equipes de TI, Data Science e desenvolvimento de aplicativos.
Ansible content creation VS Code extension Ansible content tools Best practices anonymize post processing Customize model Prompt Sugestão Prompt Suggestion Utilize datasets próprios para customizações Experiência Integrada do Desenvolvedor
ᐩ Chat guiado para aumentar produtividade do desenvolvedor ᐩ Explicação do Playbook para acelerar o aprendizado da estrutura, sintaxe e seu funcionamento ᐩ WCA 20B Granite Playbook generation Guided chat Prompt refinement
ᐩ Chat guiado para aumentar produtividade do desenvolvedor ᐩ Explicação do Playbook para acelerar o aprendizado da estrutura, sintaxe e seu funcionamento ᐩ WCA 20B Granite
tuning ᐩ Permite que usuários do Ansible Lightspeed façam uso de seu conteúdo para treinar o modelo. ᐩ Recomendações são baseadas de acordo com parametrizações e características da organização e identificação de padrões.
da documentação do OpenShift Troubleshoot, investigue e aprenda mais Prove suporte e orientações para atividades de troubleshooting Suporte onde voce precisar Integrado diretamente no Console da Ferramenta OpenShift Lightspeed
durante execuções de ações Policy as Code for Red Hat Ansible Automation Platform Solução para Governança, Risco e Compliance (GRC) em ambientes Complexos Valide o enforce de políticas durante ciclos de desenvolvimento Acelere validações de políticas em tempo de desenvolvimento Relatórios de verificaç e controle Policy compliance e relatóri de auditoria para maior gest e controle > Create Manage Scale
RUN dnf install -y [system agents] [dependencies] && dnf clean all COPY [unpackaged application] COPY [configuration files] RUN [config scripts] # Derive database server from SOE FROM corp-repo/corp-soe:latest RUN dnf install -y [database] [dependencies] && dnf clean all COPY [configuration files] RUN [config scripts]
OpenShift Container Platform Red Hat Enterprise Linux Physical machine VMs Containers ▸ Totalmente Integrado Com o Red Hat OpenShift ▸ Baseado no KubeVirt Top 10 projetos mais ativos da CNCF ▸ Plataforma Unificada Gerenciamento e ferramental unificados, com ecossistema completo ▸ Performance e Estabilidade Baseado no Hypervisor KVM que é padrão da indústria ▸ Inclui Subscrição do RHEL ''Guests" baseados no Red Hat Enterprise Linux já contemplados na subscrição ▸ Suporte à Guests Microsoft Windows Microsoft Server Virtualization Validation Program (SVVP) Abordagem Cloud Native para Virtualização Tradicional
leading provider of enterprise open source software solutions. Award-winning support, training, and consulting services make Red Hat a trusted adviser to the Fortune 500. Thank you
vinnymartinez
mikit
oracle4engineer
abemii
minorun365
kazushi_ohata
msato
uhyo
salaboy
niwatakeru
chanyou0311
miu_crescent
smt7174
morganepeng
chrislema
sferik
paigeccino
smashingmag
kevinliebholz
tammyeverts
3n
philnash
zakiyama
rocio
addyosmani
