Multi‑LLM, Multi‑IA, Multi‑Agents Reprendre le contrôle de l’IA

Multi LLM, Multi IA, Multi Agents ‑ ‑ ‑ Reprendre
le contrôle de l’IA I.A AGENTS VIBE CODING Édition 2026 28_05_2026 DEVCON#27 Christophe Villeneuve

Atos open source - afup – lemug.fr – mariadb –
drupal – mozilla - firefox – lemugfr - sumo – webextensions – VR – AR – XR - Cause commune 93.1 FM - TechSpeaker - Lizard - eyrolles – editions eni – programmez – linux pratique – webriver – elephpant - CommonVoice – Sécurité - Cybersécurité Christophe Villeneuve • Consultant Open Source • Dresseur animaux

@hellosct1 – DEVCON#27 - 2026 Aujourd’hui • IA ? Agent
? LLM ? Oui mais… • Casse-têtes / Solution • Code technique

@hellosct1 – DEVCON#27 - 2026 • IA ? Agent ?
LLM ? Oui mais… • Casse-têtes / Solution • Code technique

@hellosct1 – DEVCON#27 - 2026 Le problème Utiliser plusieurs fournisseurs
de modèles de langage à grande échelle (LLM) Gérer plusieurs : - Clés API - SDK - Tableaux de bord de facturation Dépendance vis-à-vis d'un fournisseur : Changer de fournisseur ? - Implique de réécrire le code d'intégration Qui détient les clés ? Qui dépense trop ? Quel modèle est réellement utilisé ? Il n'existe pas de méthode uniforme pour faire : - Respecter les budgets - Suivre l'utilisation chez les différents fournisseurs

@hellosct1 – DEVCON#27 - 2026 Fonctionnement Agent

@hellosct1 – DEVCON#27 - 2026 Imaginez !!! 2. Donnez à
un agent l'accès à n'importe quelle application/outil que vous souhaitez utiliser MCP 1. Construire un agent dans des agents différents avec un framework Agent (cadre d'agent super simple) Solution ? 3. Servez cet agent et faites-le écouter via A2A Agent réutilisable . !!;???;;??.. !!!..

@hellosct1 – DEVCON#27 - 2026 Protocole MCP / A2A (1/2)
• Agent2Agent (A2A) – But : • Servir avec A2A n’importe lequel des frameworks d’agents : – Agno, Google ADK, LangChain, LlamaIndex, SDK OpenAI Agents, Hugging Face smolagents et tinyagent ! • MCP – Le protocole MCP (Model Context Protocol) – Norme aux agents IA → et aux grands modèles de langage (LLM) • de se connecter à des outils externes • d'accéder à de nouvelles informations → au-delà de leurs données d'entraînement d'origine.

@hellosct1 – DEVCON#27 - 2026 Protocole MCP / A2A (2/2)

@hellosct1 – DEVCON#27 - 2026 Plateforme Agentic Usine d’agents Multi
Agent Multi LLM Serveur d’ingérence Modèle Plateforme Agentique : Tout Agent, Tout Modèle Agentic Platform Agent Factory Any Agent Any llm Ingerence server Modèle

@hellosct1 – DEVCON#27 - 2026 Mozilla IA • Vision –
Fournir une pile Intelligence Artificielle (IA) • open source modulaire et interopérable – Permettre aux développeurs de choisir librement : • Modèles • Frameworks • Outils (éviter le lock‑in) • Principe clé : « Premier choix » (Choice‑First) – Abstraction des couches techniques → changer de fournisseur/modèle sans réécrire le code – Architecture plug‑and‑play centrée sur les cas d’usage • https://www.mozilla.ai/

Plateforme Agentic Usine d’agents Multi Agent Multi LLM Serveur d’ingérence
Modèle Plateforme Agentique : Tout Agent, Tout Modèle Agentic Platform Agent Factory Any Agent Any llm Ingerence server Modèle Interface Interface Déploiement Deploy Contrôle centralisé Centralized control Assistant IA AI Assitant

@hellosct1 – DEVCON#27 - 2026 Plateforme Agentic • Système d'intelligence
artificielle – Relevant de l'intelligence artificielle distribuée • Intérêt : Executer une tâche définie, souvent limitée et dans un cadre contrôlé, sans supervision humaine constante → Appartient à la classe des « systèmes multi-agents » • Les architectures multi‑agents reposent sur un « moteur de planification et de gestion des objectifs», – construite sur une plateforme d'exécution autonome (éventuellement située dans le Cloud) – Permettre une action continue, pour améliorer les performances

@hellosct1 – DEVCON#27 - 2026 Octonous (1/2) • Cessez de
passer votre temps à gérer vos outils, jour après jour. → Octonous s'en charger ! • Intérêt – Connectez-vous directement à vos applications et à vos données • Octonous se connecte directement à vos applications, sans passer par des fournisseurs d'authentification tiers qui ajouteraient des couches supplémentaires. L'historique des discussions, les instructions et les exécutions sont cryptés individuellement au repos. – Transparence par défaut • Visualisez chaque action et instruction utilisée par l'agent, ainsi que les résultats obtenus, afin de pouvoir ajuster le flux de travail si nécessaire. – Validations avant toute modification • Octonous demande votre validation avant d'envoyer, de publier, de mettre à jour ou de créer quoi que ce soit. Ceci est particulièrement important pour les tâches sensibles...

@hellosct1 – DEVCON#27 - 2026 Octonous (2/2) • Intérêt (suite)
: – Journaux consultables • Chaque tâche fait l'objet d'un enregistrement détaillant les actions effectuées, les outils utilisés et les résultats obtenus. Utile pour le dépannage et la traçabilité. – Commencez par le chat, puis automatisez • Utilisez le chat pour définir et affiner le flux de travail, puis automatisez ce qui a fait ses preuves. – Définissez clairement le périmètre et les autorisations • Octonous ne fonctionne que dans les applications et pour les actions que vous avez autorisées. Si une action n'est pas autorisée, elle ne peut pas être utilisée. – Accès Web facultatif • Octonous peut parcourir des sites Web publics ou surveiller les pages que vous spécifiez, selon un calendrier ou un déclencheur. Utile pour les flux de travail qui nécessitent des données à jour. • Site officiel : https://octonous.com/

@hellosct1 – DEVCON#27 - 2026 Agent Factory • Créer vos
propres agents IA personnalisés – Travaillent avec vous – Mais aussi pour vous. • Créez une main-d'œuvre numérique • Peut être personnalisés – pour gérer des processus de travail complexes. • L’Agent est associé à un modèle

@hellosct1 – DEVCON#27 - 2026 Agent factory (1/2) • Outil
puissant pour générer – des agents et des flux de travail d'IA à l'aide du protocole de contexte modèle (MCP). – Transforme les descriptions de langage naturel en code Python exécutable pour les flux de travail agentiques – Alimenté par la bibliothèque any-agent. • Github : https://github.com/mozilla-ai/agent-factory • Doc : https://mozilla-ai.github.io/agent-factory/

@hellosct1 – DEVCON#27 - 2026 Agent factory (2/2)

@hellosct1 – DEVCON#27 - 2026 Fonctionnalités clés • Conversion du
langage naturel en code – Transformez directement les requêtes en langage naturel en code Python exécutable. • Flux de travail multi-tours et ponctuels – Prise en charge des conversations multi-tours et des tâches ponctuelles, pour une grande flexibilité d’interaction. • Compatibilité avec tous les fournisseurs de modèles – Grâce à la bibliothèque any-agent, il est très facile de passer d’un framework ou d’un modèle d’agent à un autre. • Outils et intégration intelligents – Identification automatique des outils et serveurs MCP les plus pertinents pour votre agent. • Agents déployables – Créez des agents prêts à l’emploi, avec leurs instructions d’utilisation et leurs fichiers de dépendances. • Évaluation des agents – Évaluez les agents générés selon des critères définis automatiquement ou manuellement afin de garantir qu’ils atteignent les performances attendues.

@hellosct1 – DEVCON#27 - 2026 Agent • C’est une entité
– caractérisée par le fait qu'elle est → Au moins partiellement, autonome • ce qui exclut un pilotage centralisé du système global. • Un système multi-agent (SMA) est – un système composé d'un ensemble d'agents • un processus, un agent intelligent, un robot, un être humain, une fourmi, etc. – actifs dans un certain environnement et interagissant selon certaines règles.

@hellosct1 – DEVCON#27 - 2026 Any-agent & tinyagent • Interface
unique pour plusieurs frameworks d’agents (LangChain, OpenAI, etc.) • Capacités intégrées : – Interopérabilité (framework agnostic) – Tracing unifié (OpenTelemetry) – Évaluation des agents (LLM-as-a-judge) – Déploiement multi-protocole (A2A, MCP) [mozilla-ai.github.io] • Bénéfices – Réduction de la complexité et du couplage technique – Meilleure observabilité, évaluation et gouvernance des agents – Alignement avec une IA ouverte, transparente et contrôlable [mozilla.org] • Point d’attention – Les frameworks d’agents ajoutent complexité, coûts et enjeux de sécurité → à utiliser à bon escient

@hellosct1 – DEVCON#27 - 2026 cq • Norme ouverte pour
l'apprentissage par les agents partagés – Stack overflow pour les agents IA • Base de connaissances collective où – les agents IA lisent, contribuent et notent les entrées – Un Wikipedia collaboratif du tooling, en somme • Sauf que les contributeurs sont des LLMs → et que les LLMs ont tendance à considérer les faits comme des suggestions • Une norme ouverte : – pour l'apprentissage par les agents partagé – Connaissances structurées • qui empêchent les agents d'IA de répéter les erreurs de chacun • Source : https://docs.mozilla.ai/cq • Doc : https://docs.mozilla.ai/cq

@hellosct1 – DEVCON#27 - 2026 LLM • LLM : Un
grand modèle de langage – Modèle de langage possédant un grand nombre de paramètres (généralement plus d'un milliard)

@hellosct1 – DEVCON#27 - 2026 Any-llm • Bibliothèque qui fournit
une interface unique – à divers fournisseurs de modèles de grand langage (LLM) • Permez de vous adapter – à l'évolution des besoins, des marchés ou des coûts • Construisiez – des agents ou toute autre application alimentée par LLM. • Changez de fournisseur en quelques secondes sans réécrire votre code. • Un interrupteur qui vous permet – de changer de fournisseur d'IA (par exemple, OpenAI vers local) – via la configuration, pas le code • GitHub : https://github.com/mozilla-ai/any-llm • Doc : https://docs.mozilla.ai/any-llm

@hellosct1 – DEVCON#27 - 2026 MCPD • Un gestionnaire –
pour les "serveurs MCP" (Model Context Protocol) pour gérer les Déploiements. • Fonctionnalités : – Chaîne d'outils et la couche d'exécution derrière la plateforme Mozilla.ai Agent Platform – Donne à vos agents les ressources de serveur MCP isolés • dont ils ont besoin, • de manière sécurisée, • Évolutive • Sans codage rigide infra dans la logique d'application. • GitHub : https://github.com/mozilla-ai/mcpd

@hellosct1 – DEVCON#27 - 2026 Llamafile • Regroupe un LLM
complet en un seul exécutable • Combinant – des poids de modèle – un moteur d'inférence – un temps d'exécution dans un seul fichier. • Exécute des modèles de langage volumineux localement sous forme d'un seul fichier exécutable • GitHub : https://github.com/mozilla-ai/llamafile • Doc : https://docs.mozilla.ai/llamafile Téléchargez-le une fois; exécutez-le n'importe où. Différent des outils comme Ollama ou LocalAI, LM Studio → Obligation installation séparée avec une configuration client-serveur

@hellosct1 – DEVCON#27 - 2026 Modèle IA • Programme capable
de détecter des schémas spécifiques – à partir d’une collection de jeux de données • Système qui peut recevoir des données et tirer des conclusions • Une fois entraîné, un modèle IA – Permet de faire des prédictions – Agir sur des données qui n’ont pas été observées auparavant • Utilisation pour des activités très variées

@hellosct1 – DEVCON#27 - 2026 Modèle • N/A A suivre

@hellosct1 – DEVCON#27 - 2026 Guardrail • Contrôleur (souvent automatisé)
qui vise – A détecter – Bloquer – Corriger → un comportement à risque d'un modèle

@hellosct1 – DEVCON#27 - 2026 Any-guardrail • Fournit une interface
commune – pour les modèles de guardial • Permet aux chercheurs et aux praticiens de changer rapidement – entre différents modèles en fonction de leurs besoins. • Une interface standard – pour échanger des modèles de sécurité/filtrage • GitHub : https://github.com/mozilla-ai/any-guardrail • Doc : https://docs.mozilla.ai/any-guardrail

@hellosct1 – DEVCON#27 - 2026 Encoderfile • Construire un package
en un seul fichier exécutable autonome. • Pas de dépendance de langage, pas de frais d’exécution • Intérêt – Utilisez encoderfile • lorsque vous avez besoin d'une inférance fiable → déduire ce qui n’est pas écrit clairement • rapide et sans dépendance pour les tâches basées sur le codeur • en particulier – Dans des environnements sensibles – Sensibles à la conformité. • GitHub : https://github.com/mozilla-ai/encoderfile • Doc : https://docs.mozilla.ai/encoderfile

@hellosct1 – DEVCON#27 - 2026 ClawdBolt • Assistant IA Devenu
OpenClaw • OpenClaw est une – IA agentique autonome distribuée open source – S'exécute localement • sur les appareils des utilisateurs • s'intègre aux plateformes de messagerie • Permet d’exécuter de façon autonome – des actions sur les appareils personnels des utilisateurs (gestion d'e‑mails, calendrier, achats, messageries) – A partir d'instructions générales • plutôt que de simples échanges conversationnels. • Différents noms : – ClawdBot→ Moltbot → OpenClaw

@hellosct1 – DEVCON#27 - 2026 clawbolt • A destination du
métier du bureau – Assistant de direction et d’entreprise. • Fonctionnalités : – Mémoire : mémorise vos tarifs, vos clients et vos préférences. – Photos : analyse et organise les photos de chantier. – Devis : dictez une description de travail et obtenez un devis QuickBooks. – Calendrier : consultez vos disponibilités, planifiez vos interventions et recevez des rappels. – Suivi : suivis proactifs. – Intégrations : Google Agenda, QuickBooks et bien plus encore via la messagerie instantanée. • Site officiel : https://clawbolt.ai/ • GitHub : https://github.com/mozilla-ai/clawbolt • Doc : https://clawbolt.ai/docs

@hellosct1 – DEVCON#27 - 2026 Contrôle Centralisé IA • Le
contrôle des capacités de l'IA vise à accroître notre capacité à surveiller et à contrôler le comportement des systèmes d'IA – en particulier pour les intelligences générales artificielles ou les super-intelligences artificielles. • But est de réduire le risque posé par l'IA si elle est mal alignée. – Mais le contrôle des capacités devient moins efficace • à mesure que les agents deviennent plus intelligents et que leur capacité à exploiter des failles augmente, → ce qui peut entraîner un risque existentiel.

@hellosct1 – DEVCON#27 - 2026 Otari • Compatible et se
construit sur n'importe quel llm, • Offre un plan de contrôle centralisé pour les opérations LLM • Construire votre propre passerelle • But : – Un plan de contrôle centralisé pour les opérations LLM • Un seul endroit pour tout gérer – Une seule passerelle, tous les fournisseurs • OpenAI, Anthropic, Google, Mistral, Meta, HuggingFace, Perplexity... – Analyse de l'utilisation et observabilité • Suivez l'utilisation, les erreurs et obtenez des informations pertinentes – Contrôle budgétaire à plusieurs niveaux • La granularité est essentielle. Budgets par fournisseur, organisation, espace de travail, etc. • Site officiel : https://otari.ai/ Release 29 mai 2026

@hellosct1 – DEVCON#27 - 2026 Gateway • Passerelle entre vos
applications et les fournisseur de LLM • Intérêt – Contrôler l'accès – Le coût – L'observabilité en un seul endroit. • Fonctionnalités : – Points de terminaison compatibles OpenAI (/v1/chat/completions, /v1/embeddings, /v1/models) – Gestion des clés d'API virtuelles (/v1/keys) pour un accès client sûr – Contrôles des utilisateurs et du budget (/v1/users, /v1/budgets) – Suivi de l'utilisation et des prix (/v1/messages, /v1/pricing) – Paramètres de santé et métriques (/health, optionnel /metrics) – Outils intégrés envoyés côté serveur • GitHub : https://github.com/mozilla-ai/otari

@hellosct1 – DEVCON#27 - 2026 Intérêt Otari • Confidentialité et
confiance – Les requêtes et les réponses ne transitent jamais par les serveurs d'Otari – Seules les métadonnées sont enregistrées : nombre de jetons, noms des modèles, horodatages, coûts – Soutenu par Mozilla.ai, une initiative axée sur la mission et non sur le profit • Fonctionnalités : – Mécanismes de sécurité hébergés pour la sécurité et le contrôle des modèles de langage de grande envergure (LLM). – Routage fédéré : sélection du meilleur modèle – Exécution du code directement sur otari.ai – Recommandations de modèles basées sur les tendances observées – Solutions de secours

@hellosct1 – DEVCON#27 - 2026 Contrôle centralisé (1/2) • Tutorial
– https://www.mozilla.ai/product/otari

@hellosct1 – DEVCON#27 - 2026 Contrôle centralisé (2/2)

@hellosct1 – DEVCON#27 - 2026 RAG local • Un système
RAG (Retrieval-Augmented Generation) entièrement local. • Utilisation : – Donnez-lui n'importe quel fichier texte, posez-lui des questions. Tout reste local. • Outils : – Encoderfile : Gère l'intégration locale. – Llamafile : Exécute le LLM localement. – NumPy : Gère la recherche de similarité dans la mémoire. • Intérêt – Aux environnements hors ligne – Aux documents sensibles – A tout endroit où vous avez besoin d'un système de réponse aux questions simple et autonome sans dépendances dans le cloud. • Github – https://github.com/mozilla-ai/encoderfile/tree/main/examples/local-rag

@hellosct1 – DEVCON#27 - 2026 ANY-LLM comme un Guardial •
Install dependencies • Create the guardrail • Try it with different models / policies / inputs • Tutorial – https://docs.mozilla.ai/any-guardrail/cookbook/any_llm_as_a_guardrail import os from getpass import getpass if "OPENAI_API_KEY" not in os.environ: print("OPENAI_API_KEY not found in environment!") api_key = getpass("Please enter your OPENAI_API_KEY: ") os.environ["OPENAI_API_KEY"] = api_key print("OPENAI_API_KEY set for this session!") else: print("OPENAI_API_KEY found in environment.") from any_guardrail import AnyGuardrail, GuardrailName guardrail = AnyGuardrail.create(GuardrailName.ANYLLM) MODEL_ID = "openai/gpt-5-nano" POLICY = """ You hate Mondays. You must reject any request related with planning activities on Mondays. """ guardrail.validate("Can you suggest me some restaurants for lunch on Monday?", policy=POLICY, model_id=MODEL_ID)

@hellosct1 – DEVCON#27 - 2026 Executez un LLM Local •
Télécharger le llamafile (pré-construit) – https://docs.mozilla.ai/llamafile/getting-started/pre-built-llamafil es • Exécuter • Running llamafile in CLI mode • Tutorial – https://docs.mozilla.ai/llamafile/using-llamafile/running_llamafi le ./Apertus-8B-Instruct-2509.llamafile --cli -p 'Write a story about llamas' llamafile -ngl 9999 --temp 0 \ --cli --image ~/Pictures/lemurs.jpg \ -m llava-v1.6-mistral-7b.Q4_K_M.gguf \ --mmproj mmproj-model-f16.gguf \ -p 'Describe this picture' llamafile -m Apertus-8B-Instruct-2509.gguf --temp … ./Apertus-8B-Instruct-2509.llamafile --temp ...

@hellosct1 – DEVCON#27 - 2026 Llamafile • Exécutez Votre Premier
LLM Local • Quickstart – https://docs.mozilla.ai/llamafile/getting-started/quic kstart # 1. Download the executable wget https://huggingface.co/Mozilla/Llama-3.2-3B-Instruct- llamafile/resolve/main/Llama-3.2-3B-Instruct.Q6_K.llamafile # 2. Make it executable chmod +x Llama-3.2-3B-Instruct.Q6_K.llamafile # 3. Run the local AI server ./Llama-3.2-3B-Instruct.Q6_K.llamafile --server --nobrowser ./llama3.2-3b.llamafile -p "What is Mozilla.ai?"

@hellosct1 – DEVCON#27 - 2026 ANY-LLM • Une interface pour
tous les LLM • Quickstart – https://docs.mozilla.ai/cookbooks/any-llm-getting-started from any_llm import acompletion # Easily switch between OpenAI, Anthropic, or local llamafile model = "openai:gpt-4o-mini" # model = "anthropic:claude-sonnet-4-20250514" # model = "llamafile:local-model" response = await acompletion( model=model, messages=[{"role": "user", "content": "Write a Haiku on the solar system."}], ) print(f"[{response.model}]:\n{response.choices[0].message.content}")

@hellosct1 – DEVCON#27 - 2026 CQ • Connaissances partagées pour
les agents de codage de l'IA • Les agents apprennent des erreurs de l'autre • Quickstart – https://github.com/mozilla-ai/cq claude plugin marketplace add mozilla-ai/cq claude plugin install cq

@hellosct1 – DEVCON#27 - 2026 MCPD • Connecter des bases
de données • Gérer les serveurs MCP avec une configuration • Quickstart – https://github.com/mozilla-ai/mcpd/tree/main/docs mcpd init mcpd add time mcpd daemon --dev

@hellosct1 – DEVCON#27 - 2026 encoderfile • Encodeurs de transformateur
compact • Exécutez des modèles d'intégration localement → Un seul fichier. • Quickstart – https://docs.mozilla.ai/encoderfile/getting-started # Install curl -fsSL https://raw.githubusercontent.com/mozilla-ai/encoderfile/main/in stall.sh | sh # Run ./sentiment-analyzer.encoderfile serve

@hellosct1 – DEVCON#27 - 2026 Any-guardial • Bloquer les entrées
toxiques • Ajoutez une couche de sécurité pour détecter l'injection rapide de Pi avec une ligne de code. • Quickstart https://docs.mozilla.ai/any-guardrail/quickstart from any_guardrail import AnyGuardrail, GuardrailName, GuardrailOutput guardrail = AnyGuardrail.create(GuardrailName.DEEPSET) result: GuardrailOutput = guardrail.validate("All smiles from me!") assert result.valid

Modèle A retenir Agentic Platform Agent Factory Any Agent Any llm Ingerence server Modèle Interface Interface Déploiement Deploy Contrôle centralisé Centralized control Assistant IA AI Assitant • ANYxxx • Mozilla AI

DEVCON#27 : MERCI AUX PARTENAIRES DE LA DEVCON

Merci SÉCURITÉ HACKING POST- QUANTIQUE Christophe Villeneuve @hellosct1.bsky.social @hellosct1 @[email protected]
I.A AGENTS VIBE CODING Édition 2026 Thomas Bille Slide : https://speakerdeck.com/hellosct1

Multi‑LLM, Multi‑IA, Multi‑Agents Reprendre le ...

Multi‑LLM, Multi‑IA, Multi‑Agents Reprendre le contrôle de l’IA

More Decks by hellosct1

Featured

Transcript