生成AI活用基盤による改革推進 ～LangChain Meetup Tokyo #6～

7/3開催　LangChain Meetup Tokyo #6で登壇発表させていただいた資料です。

イベント詳細ページ
https://langchain.connpass.com/event/358275/

Transcript

1. ©Mitsubishi Electric Corporation 生成AI活用基盤による改革推進 ～LangChain Meetup Tokyo #6～ 三菱電機株式会社 AI戦略プロジェクトグループ 塚田真規
2. ©Mitsubishi Electric Corporation スピーカー紹介 2 塚田 真規 Masaki Tsukada AI戦略プロジェクトグループ基盤整備部 組込開発、クラウドサービス開発、インフラストラクチャ整備 まで担当。業務、事業改革プロジェクト向けに生成AI活用 基盤の構築、整備を担当。 2013年 三菱電機入社 三田製作所(兵庫県三田市) 20２1年 自動車機器開発センター(兵庫県姫路市) 2023年 :三田製作所(兵庫県三田市) 2024年 : AI戦略プロジェクトグループ(神奈川県横浜市） カーマルチメディア機器のシステムアーキテクチャ設計 • 車載電子プラットフォーム向け開発基盤の構築、運用 • MaaSに向けたAWS利活用の検証開発に参画 AWS×モビリティによるDXプロジェクトの開発、運用 • 生成AI活用基盤の構築、運用 • 生成AIを活用した改革プロジェクトに参画
3. ©Mitsubishi Electric Corporation AI CoE 3 生成AI技術をグローバルで活用できる基盤を提供し、 業務効率化・高度化、事業での顧客価値向上に貢献する Center of Excellence 組織 分散投資・重複投資を回避 するために、AI活用基盤・ 開発基盤を整備 各国規制や法案に対応する た め に 、 AI ガ バ ナ ン ス の 体制を構築・推進 知識・ノウハウのサイロ化を 防ぎ全社の利用を促進する ために、情報共有コミュニ ティやプロジェクトを推進 基盤 推進 ガバナンス
4. ©Mitsubishi Electric Corporation 生成AI活用基盤で目指す姿 4 1 AIエージェントを 簡単/爆速に開発・利用 生成AI活用基盤 必要なアセット を再利用 AIエージェント ツール データ コネクタ ナレッジ MCP サーバ 2 AIエージェントの 開発効率性、安全性を向上 性能評価基盤 デバック/ トレーシング ガードレール ナレッジ 3 “Agentic AI”を基盤と したAgent Meshにより、 高価値なアウトプットを生成 Agent Mesh
5. ©Mitsubishi Electric Corporation AIエージェントを簡単/爆速に開発・利用 5 1 生成AI活用基盤のアセットを活用し、AIエージェントを爆速で構築・利用 AIエージェント AIエージェントツール MCPサーバ SNS連携ツール Web検索ツール 性能評価基盤 社内アセットを 取り込んだSaaS データコネクタ (認証/認可) データコネクタ (認証/認可) SaaS データ 社内データ サーバ
6. ©Mitsubishi Electric Corporation AIエージェントの開発効率性や安全性を高める 6 2 デバッグ/トレーシング 性能評価基盤 安全性検証 Amazon Bedrock Guardrails ガードレールによる 入出力データの検証 評価基盤をMCPサーバ化し、 評価をより簡単に実行 「MCP Server as a Judge」 AWS Certificate Manager Amazon Elastic File System AWS Fargate Amazon Aurora Amazon ElastiCache Application Load Balancer Amazon Simple Storage Service AWS Fargate AWS Fargate AWS Cloud MCPサーバ 評価基盤 LLMOpsによる継続的改善を実現
7. ©Mitsubishi Electric Corporation “Agentic AI”を基盤とするAgent Meshにより、高価値なアウトプットを生成する 7 3 “Agentic AI”の相互活用により、高度な課題を解決 “Agentic AI”による オーケストレーション 様々な“Agentic AI”が連携可能な Agent Mesh ナレッジ ベース AIエージェントツール /MCPサーバ Agentic AIカタログ どんなAIエージェントが利用可能か? AIエージェントが持つスキルは? *Agentic AI : 目標を持ち、自律的に行動を選択・実行し、環境に働きかけるAI
8. ©Mitsubishi Electric Corporation 生成AI活用基盤の事例 「戦略立案エージェント」 8 「AIエージェント×AIエージェント」 による戦略立案レポート生成 • 個々のAIエージェントは、 流用性を高めるために、特定タスクを担う • 高度なユーザーニーズに応じて、 動作するAIエージェントの種類や連携を切り替え AIエージェント ユーザーが求める フォーマットで レポートを作成 AIエージェント Web情報から レポートを作成 AIエージェント 社内データから レポートを作成 今後は、より多くのエージェント を協調させ、高度化を目指す
9. ©Mitsubishi Electric Corporation AIエージェントの協調による課題の解決 9 単一のAIエージェントの場合 問題点 • AIエージェントへ指示が伝わらない • AIエージェントが処理する情報量が多くなり、 内容が薄くなる • 外部情報検索の際に、 意図せず社内情報を 漏洩するリスク • 計画の立案 • 情報収集 • 情報分析 … 担当者 データサーバ 情報収集ツール SaaS 情報収集ツール 「AIエージェント×AIエージェント」により 複雑な課題を分割し、全体の解決を目指す 担当者 データサーバ 情報収集ツール SaaS 情報収集ツール 実行計画立案 エージェント 社内情報分析 ミクロ視点・主観視点 Web情報分析 マクロ視点・客観視点 分析結果統合 担当者 戦略提案 現時点での構築範囲
10. ©Mitsubishi Electric Corporation Amazon Bedrockの活用構成 10 社内情報分析 ミクロ視点・主観視点 Amazon Cognito Amazon API Gateway Amazon OpenSearch Service Amazon ECS （計画立案) Amazon DynamoDB Amazon Bedrock Amazon Simple Queue Service AWS Lambda (Backend for Frontend) Amazon Simple Queue Service Amazon ECS （調査/分析) Amazon Bedrock Amazon S3 (生成ファイル保存) 社内データ サーバ Amazon Bedrock AWS Lambda 実行計画立案 エージェント ユーザーが求める 社内データを検索し、 必要な情報をまとめる 課題解決に向けた 具体的な行動を 自律的に計画
11. ©Mitsubishi Electric Corporation なぜLangChain/LangGraphを利用するのか？ 11 2 様々なフレームワークとの 連携容易性 3 ドキュメント、リファレンスコード、 コミュニティの充実さ 多様なLLMモデルへの 切り替えが容易 1
12. ©Mitsubishi Electric Corporation 12 1 クラウドベンダ、モデルプロパイダーに依存しない実装が容易 AIエージェント Google Cloud SDK AWS SDK Anthropic SDK Meta SDK … AIエージェント ベンダ/プロンプトごとに環境構築、 関連コードの変更が必要 パラメータ変更のみで切り替え可能 (provider, model)
13. ©Mitsubishi Electric Corporation 13 LangChain/LangGraph統合により、 簡単な実装で、詳細なトレースが取得可能 様々なフレームワークとの連携容易性 2 langfuse_handler = CallbackHandler() config={"callbacks": [langfuse_handler]} response = llm.invoke(“横浜の人口は？", config=config) LangchainLLMWrapper 評価アプリケーション LangChainラッパークラスにより、 多様なモデルによるLLM as a Judgeが可能
14. ©Mitsubishi Electric Corporation 14 ドキュメント、リファレンスコード、コミュニティの充実さ 3 LangChain/LangGraphを利用した 豊富なサンプルがGitHubや技術ブログに LangChain.aiが参考になる アプリケーションを公開
15. ©Mitsubishi Electric Corporation 今後に向けて 15 生成AI活用基盤のツール、エージェントを組み合わせることで “誰でも”、”簡単に”AIエージェントを構築できるプラットフォームの提供を目指す Open Agent Platformのリファレンスに！ 生成AI活用基盤 AIエージェント ツール データ コネクタ ナレッジ MCP サーバ AIエージェントプール 生成AI活用基盤 専用UI