ローカルで稼働する AI エージェントを超えて / beyond-local-ai-agents

Transcript

1. © 2025, Amazon Web Services, Inc. or its affiliates. All rights reserved. Amazon Confidential and Trademark. 1 © 2025, Amazon Web Services, Inc. or its affiliates. All rights reserved. Amazon Confidential and Trademark. ローカルで稼働する AI エージェントを超えて Daisuke Awaji Snr. Solutions Architect Amazon Web Services Japan G.K. 出 版 記 念 イ ベ ン ト I N 東 京 『 A W S で は じ め る M C P 実 践 ガ イ ド 』
2. © 2025, Amazon Web Services, Inc. or its affiliates. All rights reserved. Amazon Confidential and Trademark. 2 Daisuke Awaji Amazon Web Services Japan Solutions Architect 2 @gee0awa Serverless, Genera,ve AI, Frontend ❤
3. © 2025, Amazon Web Services, Inc. or its affiliates. All rights reserved. Amazon Confidential and Trademark. 3 Bedrock Engineer オープンソースとして公開している AI エージェントアプリケーション ファイルシステムの操作、ウェブ検索など 20 以上のツールを搭載しており、 多様な業務に特化したエージェントのカスタマイズが可能 h4ps://github.com/aws-samples/bedrock-engineer
4. © 2025, Amazon Web Services, Inc. or its affiliates. All rights reserved. Amazon Confidential and Trademark. 4 AWSではじめるMCP実践ガイド 出版おめでとうございます！！ Bedrock Engineer と GenU も紹介いただき、 ありがとうございます。 MCP サーバーと繋げて いろんな業務特化のAIエージェントが作れる
5. © 2025, Amazon Web Services, Inc. or its affiliates. All rights reserved. Amazon Confidential and Trademark. 5 最初のコミットは 2024年07月02日 数百⾏程度のコーディングエージェントを実装し、このエージェントを使って GUI を備えた Bedrock Engineer を開発してきました。 h4ps://github.com/aws-samples/bedrock-engineer 数百⾏のコーディングエージェント （ファイルの読み書きツールのみ） Bedrock Engineer （カスタマイズ可能な複数のエージェント） ▶▶▶ 約１年 ⾃⾝のコード を実装させる
6. © 2025, Amazon Web Services, Inc. or its affiliates. All rights reserved. Amazon Confidential and Trademark. 6 社内システムに繋いで「スケジュール調整」「会議の予約」 「Wiki や共有フォルダの検索」まで、あらゆることをお願いする秘書を作ってみる MCP サーバーを活用したエージェントの例 ネイティブアプリ (Bedrock Engineer) MCP スケジュール調整 会議室の予約 Wiki 検索 フォルダの検索
7. © 2025, Amazon Web Services, Inc. or its affiliates. All rights reserved. Amazon Confidential and Trademark. 7 社内の Outlook や OneDrive、Wikiなど のシステムと接続する MCP サーバーを 登録して利用しています MCP サーバーを活用したエージェントの例 MCPサーバーを登録します （具体的な内容は秘密） システムプロンプトや 標準ツールを登録します
8. © 2025, Amazon Web Services, Inc. or its affiliates. All rights reserved. Amazon Confidential and Trademark. 8 こんな感じで使います MCP サーバーを活用したエージェントの例
9. © 2025, Amazon Web Services, Inc. or its affiliates. All rights reserved. Amazon Confidential and Trademark. 9 Bedrock Engineer のアーキテクチャ クラウドリソースの構築は不要 推論処理に Amazon Bedrock を活⽤し、AI エージェントはローカル環境で実⾏される h4ps://github.com/aws-samples/bedrock-engineer Amazon Bedrock ネイティブアプリ Prompt, ToolSpec Message, ToolUse Electron, Node.js, TypeScript サーバーレスに推論処理を実⾏
10. © 2025, Amazon Web Services, Inc. or its affiliates. All rights reserved. 10 ローカルで動くだけで良い︖ 本番稼働を⾒据えて⼤規模にデプロイが必要
11. © 2025, Amazon Web Services, Inc. or its affiliates. All rights reserved. プロトタイプから本番への “キャズム” パフォーマンス セキュリティ ガバナンス POC AI production agents スケーラビリティ 製品化への道のりの課題 意味のあるビジネス的価値
12. © 2025, Amazon Web Services, Inc. or its affiliates. All rights reserved. Amazon Bedrock AgentCore エージェントを本番環境で稼働するために必要なエージェントプラットフォーム Runtime Memory Identity Gateway Code Interpreter Browser Policy Evaluations Observability
13. © 2025, Amazon Web Services, Inc. or its affiliates. All rights reserved. 13 エージェントを動かす。さてどこで︖
14. © 2025, Amazon Web Services, Inc. or its affiliates. All rights reserved. 14 ⻑い時間かかる Lambda では タイムアウト してしまうのでは︖ ユーザーごと セッションごとに ファイル分けるの ⼤変そう
15. © 2025, Amazon Web Services, Inc. or its affiliates. All rights reserved. 本番環境でのセキュアなデプロイ・エージェント実⾏のためのフルマネージドなエージェントランタイム 15 AgentCore Runtime • OSSフレームワーク: LangGraph, CrewAI, etc. • 様々なモデル: Amazon Bedrock, SageMaker, OpenAI, Gemini, etc. • プロトコル: MCP, A2A • Github, Salesforce, Google など サードパーティー リソースへの アクセスのための 組み込みの 認証情報管理機能 Memory, Gateway, Observability 等 他サービスとの統合 • テキスト, 画像, ⾳声, 動画を制限なく 双⽅向 ストリーミング • ペイロードサイズは 最⼤100MBまで対応 • ⾼速な初期化 (~200ms) • ⻑期間動作可能な ⾮同期ワークロード (最⼤8時間) • 持続的な 専⽤実⾏環境による 完全なセッション分離
16. © 2025, Amazon Web Services, Inc. or its affiliates. All rights reserved. Framework AI エージェントのソースコード Models AgentCore Runtime decorator + configure Docker file AgentCore Runtime AgentCore Runtime Endpoint Amazon ECR Repository launch Application invoke User AgentCore Observability config AgentCore Identity config AgentCore Runtime Agent Code-zip upload Amazon S3 Bucket launch AgentCore Runtime エージェントはここで動く 8 時間の⻑時間実⾏も可能 セッションごとに実⾏環境が分離される
17. © 2025, Amazon Web Services, Inc. or its affiliates. All rights reserved. 17 AI エージェントが⻑時間実⾏し、 VMが分離された環境で動作させることで 実現できるユースケース
18. © 2025, Amazon Web Services, Inc. or its affiliates. All rights reserved. 18 DEMO: ユーザーマニュアルの作成 作成されたユーザーマニュアル ユーザーからの指⽰（プロンプト）
19. © 2025, Amazon Web Services, Inc. or its affiliates. All rights reserved. 19 DEMO: Excel や CSV データを分析 ユーザーからの指⽰（プロンプト） 成果物
20. © 2025, Amazon Web Services, Inc. or its affiliates. All rights reserved. 20 DEMO: 研修動画も ユーザーからの指⽰（プロンプト） 成果物
21. © 2025, Amazon Web Services, Inc. or its affiliates. All rights reserved. 21 分離された環境で⻑時間動作することで実現できる使い⽅ ユースケースの例 実⾏時間の⽬安 ウェブサイトを操作しユーザー向けマニュアルの作成とウェブサイトの公開 20 分 〜 30分 簡単なウェブ検索・調査・レポート作成 0.5分 〜 10分 ソフトウェア開発、コーディング （GitHub issue の要件からコードを実装し、テストを実⾏して Pull Request を起票する） 5 分 〜 30分 パワーポイントから研修動画の作成 10分 〜 30分 書類審査 0.5分 〜 10分 私の⼿元で簡単に実装して検証してみた⼀例を共有します ※実⾏時間はコンテンツの量や規模に依存して変化します。
22. © 2025, Amazon Web Services, Inc. or its affiliates. All rights reserved. 22 エージェントのできることを 広げるには︖
23. © 2025, Amazon Web Services, Inc. or its affiliates. All rights reserved. 23 M365 を操作するエージェント
24. © 2025, Amazon Web Services, Inc. or its affiliates. All rights reserved. AgentCore Gateway 既存の API、Lambda 関数、Remote MCPサーバーを束ねて単⼀の MCP サーバーとして利⽤可能。 ⼤量のツールの管理、各ツールの認証認可を⼀元的に⾏え、社内展開も容易に。 Agent MCP クライアント AgentCore Gateway OpenAPI 仕様の API AWS Lambda Amazon API Gateway MCP サーバー Smithy モデルによる API AgentCore Identity アイデンティティプロバイダー (Amazon Cognito, Okta, Microsoft Entra ID...) Inbound 認証 Outbound 認証 OAuth Authorization server (AS) 認可サーバーが公開 する JWK を⽤いて JWT を検証 Inbound OAuthトークン(JWT) Outbound • OAuthトークン • API キー • IAM ユーザーの代理 で認証トークン を発⾏
25. © 2025, Amazon Web Services, Inc. or its affiliates. All rights reserved. 25 チャットをこえて
26. © 2025, Amazon Web Services, Inc. or its affiliates. All rights reserved. ユーザーの指⽰を待つことなく、イベントを監視して 必要に応じて通知や質問を⾏う⾃律型エージェントのアプローチ • イベントストリームをトリガーに⾃律的に⾏動する • 複数タスクを同時並⾏で処理 • Human-in-the-loop 完全⾃動ではなく、⼈間に必要なタイミングで確認を⾏う Ambient Agent
27. © 2025, Amazon Web Services, Inc. or its affiliates. All rights reserved. Ambient Agent Chat Agents Ambient Agents トリガー ⼈間からのメッセージ イベント 同時実⾏数 〜１ 無制限 レイテンシー できるだけ早く ⻑くても良い UI/UX Chat UI Any
28. © 2025, Amazon Web Services, Inc. or its affiliates. All rights reserved. イベント連携で起動する AI エージェント 28 Event Amazon Event Bridge ファイルアップロードされた Amazon Bedrock AgentCore GitHub Issue が作られた メッセージが送信された 書類審査 コーディング 週次レポート作成 GitHub S3 Slack etc.. ある程度⾃律的な判断が可能な業務、初⼿ AI で捌いてもよい作業をイベント駆動で実現する 例︓申請系処理で単純な項⽬漏れなどは AI が⾃動返信する、簡単な観点でレビューをパスしてから⼈間が書類を確認する 例︓クラウドのアラートをトリガーに AI が原因の調査特定、改善案の提案、ソースコードの修正まで⾏い⼈間が承認する
29. © 2025, Amazon Web Services, Inc. or its affiliates. All rights reserved. 29 本⽇のデモアプリのアーキテクチャ
30. © 2025, Amazon Web Services, Inc. or its affiliates. All rights reserved. ソフトウェア開発と運⽤を AI に移譲する AWS Cloud（A省 Xシステム） GitHub 開発者 開発担当 エージェント AWS Cloud（システム） CI/CD バックログ管理 要件定義 エンドユーザー ヒアリング ・・・ GitHub Issue （機能追加リクエスト） 実装・テスト 運⽤担当 エージェント 異常検知 原因特定 セキュリティ レビュー・テスト 是正措置の提案 ログ・メトリクス・アラート 傾向分析 GitHub Issue 起票 ※ テスト環境を PR 単位にデプロイして受け⼊れ確認できる仕組みを構築する 本番環境 テスト環境 市場調査 週次報告 ※10万⾏程度のコードのソフトウェアで検証しています
31. © 2025, Amazon Web Services, Inc. or its affiliates. All rights reserved. ⽇時の運⽤レポートと、GitHub Issueへの起票例
32. © 2025, Amazon Web Services, Inc. or its affiliates. All rights reserved. Amazon Confidential and Trademark. 32 Thank you! © 2025, Amazon Web Services, Inc. or its affiliates. All rights reserved. Amazon Confidential and Trademark. Daisuke Awaji Amazon Web Services Japan Snr. Solutions Architect 32