AWS re:Invent 2024登壇資料（GBL206-JA: Unleashing the power of generative AI on AWS for your business）

途中のデモムービーは以下から再生できます。
https://www.youtube.com/watch?v=78DPihePNUo

Transcript

1. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. Unleashing the power of generative AI on AWS for your business Minoru Onda G B L 2 0 6 - J A Technology Evangelist KDDI Agile Development Center Rio Kurokawa Principal, Data & AI Specialist Amazon Web Services
2. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. 留意事項 この資料は、AWS re:Invent 2024当日の投影資料（GBL206-JA）から 御田のプレゼンテーションを抜粋したものとなります。 PDF化しているためムービーは再生できません。 ご興味あれば御田のYouTubeチャンネルよりご覧ください。 youtube.com/@minorun365
3. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. 突撃！隣のAmazon Bedrockユーザー
4. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. $ whoami 御田 稔（みのるん） @minorun365 テックエバンジェリスト KDDIアジャイル開発センター株式会社（KAG） クラウドや生成AIを使って内製開発を行いながら、 技術の楽しさを伝える活動をしています。 ・AWS Community Hero ・AWS Samurai 2023 ・2024 Japan AWS Top Engineer ・2024 Japan AWS All Certs Engineer Amazon Bedrockの 入門書を書きました！
5. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. 生成AIブーム、終わりが見えませんね…！
6. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. もはやブームを通り越して、 生成AIは使って当たり前の技術 として定着しつつあります
7. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. 弊社KAGも、Amazon Bedrockを活用しまくっています 2023 2024 10月 2月 6月 現在 ビジつく！ かぐたん 議事録パックン 本部長AI（仮称） DX新規事業の アイディア壁打ちアプリ グループ会社みんなが使える セキュアなSlackボット 営業向けの業務効率化アプリ 議事録＆週報を自動作成 本部長の代わりにAIが 営業の提案資料をレビュー Amazon Bedrock GA
8. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. DX新規事業を立ち上げたい！でもアイディアが浮かばない…。 そんな人の壁打ち役として「デザイン思考」の基礎を教えてくれるアプリ Amazon Bedrockのプレビュー期間中に1ヶ月で企画＆開発し、GAとほぼ同時にリリース！ AWS Amplifyを活用することで超短期間でのフルスタック開発に成功。 ビジつく！
9. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. 従業員が生成AIチャットアプリを個人で使ってしまう「シャドーIT」リスクが心配。 業務でも安心して使えるチャットボットを、毎日使うSlackで利用可能にしたい！ インフラはすべてIaCでコード化し、CI/CDパイプラインも完備することで グループ会社へ金太郎飴のようにデプロイ！ かぐたん
10. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. 議事録パックン 営業を悩ませる雑務「お客さまとの議事録作成」や「社内向けの活動報告」をAIで自動化。 会議の録音ファイルをアップロードするだけで、まるで人間のように高品質な議事録を生成！ 生成した議事録をもとに、次回商談に向けたプレゼンの骨子を作成することもできる！ 自社商材をRAGで参照して、膨大なソリューションから適切なものを選択して提案してくれる。
11. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. 本部長AI（仮称） 営業が作ったお客さま向けの提案資料を、本部長の代わりにAIエージェントがレビュー！ Web検索を駆使して、市場や競合のトレンドも踏まえたブラッシュアップのヒントをくれる。 KDDI株式会社 執行役員常務 ビジネス事業本部 副事業本部長 兼 ビジネスデザイン本部長 那谷 雅敏氏 “AIの力でお客さまへのご提案を高品質に できる素晴らしいプロダクトです。 社内レビューも効率化できて「えぇボス」 なんですよ。”
12. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. 「YouはどうしてAWSで？」
13. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. ユーザーから見たAmazon Bedrockのメリット ① 生成AIをAWSのビルディングブロックの一つとして活用できる ② 高度な機能がマネージドサービスとして簡単に使える ③ ユーザーが多いので開発者を確保しやすく、Web上の知見も豊富
14. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. ① 生成AIをビルディングブロックの一つとして活用できる AWSでは様々なサービスが「ビルディングブロック」として提供されており ユーザーはそれらを組み合わせて自由にアプリケーションを開発できる。 Amazon Bedrockもそんなビルディングブロックの一つとして提供され、 既存の色々なAWSサービスと組み合わせやすいのが魅力。 またAWSは「サーバーレス」サービスも充実しているので、 PoCなどで低コストなアプリケーションを開発したい場合も便利
15. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. ② 高度な機能がマネージドサービスとして簡単に使える 生成AIで商用アプリケーションを開発しようとすると、 「RAG」や「エージェント」など応用的な機能を実装したくなります。 求められるアプリケーションのコードが複雑になって実装難易度も上がり、 そんなアプリを稼働させるインフラも必要になります。 Amazon Bedrockではそういった機能をマネージドサービスとして提供。 マネジメントコンソールから簡単に設定できて、サーバーも意識不要。 ユーザーはセットアップしたAPIを叩くだけで、自分のアプリにすぐ組み込めます Amazon Bedrock Knowledge Bases Amazon Bedrock Agents Amazon Bedrock Guardrails
16. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. ③ 開発者を確保しやすく、Web上の知見も豊富 何と言っても利用者が非常に多いAWS。 案件開始時にスキルのあるエンジニアを集めやすい。 また、JAWS-UGをはじめコミュニティでの アウトプットが活発なため困ったときにWeb検索すれば 技術ナレッジが多数ヒットするため安心。 生成AIアプリでは、AI以外の部分（アプリやクラウドの実装） での苦労も多いため、情報の多さは非常に重要です。 ちなみに公式のAWSサポートも評判がとても良く、 ちょっとした質問も素早く親切に答えてくれるので助かります。
17. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. 「ウチの会社にAI入れるの、 大変かも…？」
18. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. Amazon Bedrockのプレビュー段階から導入を画策 Amazon Bedrockのプライベートプレビュー開始時、 まずは出向元のKDDIで利用環境の整備を始めました。 CCoEと連携して、セキュリティ部門と利用前提を合意。 他社の生成AIサービスや、AWS自体はすでに社内導入の事例が あったため、同様の手続きで利用できるよう事前調整を図りました。 Amazon Bedrockのプレビューは1アカウント限定だったため 社内で申請ルールや費用分配の仕組みを速やかに作成し、 早い段階で色んな部署のメンバーが使えるように環境を整備。
19. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. よく聞かれる「なぜAmazon Bedrockなの？」 実際に社内で生成AIアプリの開発を始める際、 去年ぐらいまでは「なぜAWSを選定するのか？」 説明を求められることも。 特に今年の春以降は、モデルや機能も 他社を追い越す勢いで急速に強化されており 主力モデルのClaudeは日本語のテキスト生成で特に高い性能を発揮します。 前述したAmazon Bedrockのメリットを社内説明でも補足。 私自身はエンジニアとして、複数クラウドのAIサービスも経験したうえで 開発していて楽しく、どんどん機能追加されていくAWSに魅力を感じています。
20. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. ぜひ海外リージョンも積極的に活用しましょう！ クラウドの最新機能は、アメリカから順にリリースされることが多い。 特にアップデートが毎週のように発生するAmazon Bedrockでは、 東京リージョンで待っていると新機能がすぐ使えないことも… そこで、海外リージョンもぜひ積極的に活用しましょう！ 意外とデメリットは少ないんです。 ・モデルのAPIを呼ぶ際のレイテンシーは大差ない ・AWSサービス同士なら、リージョン間通信もAWS設備内に閉じて暗号化される → 自社のルールを確認し、セキュリティ担当部署にも相談してみましょう。
21. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. エンジニアをワクワクさせる Amazon Bedrockの一押し機能紹介！
22. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. ① Amazon Bedrock ナレッジベース AIに追加データを参照させる「RAG（検索拡張生成）」を実現する機能 RAGが ないとき RAGが あるとき KAGってどんな会社？ 家具屋さんです 参考文献 KAGってどんな会社？ KDDIアジャイル開発 センター株式会社です 検索 事前学習 していない 質問は苦手
23. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. ① Amazon Bedrock ナレッジベース いわゆるRAGアーキテクチャが、マネジメントコンソールから簡単に作れる！ AWSクラウド 社内文書など Amazon Bedrock ナレッジベース 埋め込み モデル 回答生成 モデル ベクトルDB ベクトル変換 結果取得 同期 質問 回答生成 有休の 申請方法は？ 自然言語のテキストを ベクトルとして保存。 → 意味検索ができる！
24. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. 30分で試せるハンズオン手順を公開しています
25. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. ② Amazon Bedrock エージェント 生成AIに細かく指示出すの面倒ですよね？ 大きな目的を与えるとAI自ら行動計画を立てて、 ・必要あれば Lambda関数 を実行したり… ・必要あれば RAG を使ったり… そんな自律型AIエージェントが マネジメントコンソールから 簡単に作れる！ AWSクラウド ナレッジ ベース Amazon Bedrock エージェント APIで 呼び出せる 関数 基盤 モデル 外部 サービス など 今年の花火大会を調べて カレンダーに登録しといて！
26. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. デモ：プレゼン作成代行エージェント
27. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. こちらも作成手順を公開しています
28. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. ③ Amazon Bedrock Flows ローコードで直感的にLLMアプリを作成できる！ こちらもサーバー管理不要。
29. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. 実際の開発のなかで学んだ 生成AIアプリ開発Tips
30. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. AIの推論には時間がかかる。タイムアウトを防ぐには？ 「ビジつく！」アプリでは、Claudeの長文推論が30秒を超えることがあり AWS AppSyncのタイムアウト抵触が課題に。そこで非同期アーキテクチャを導入
31. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. 図表入りのスライドもRAGで活用したい！ テキスト以外の図などを含む資料は、実はマルチモーダルLLMに 画像として読ませることで、テキストに変換してRAGで参照できます。 以前は自分でコードを書く必要がありましたが、最近ナレッジベースに機能追加。 「高度なパース」にチェックを付けるだけで勝手にやってくれるように！ マルチモーダルLLMに テキストで説明させる
32. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. AIエージェントがたまに言うことを聞かない…！ AIエージェントは行動計画を自動で立ててくれて便利ですが、その反面、 タスクを勝手にスキップするなど人間の思い通りにならないこともあります。 OSSのLangGraphを活用すれば、エージェントの行動をステートマシンとして 細かく設計することができます。Amazon Bedrockにも対応！ Start End 行動を 計画 ツールを 実行 設定例：基準を満たした 場合のみループを抜ける
33. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. 生成AIって本当に楽しい！
34. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. なぜ生成AI領域がアツいのか？ • 基盤モデルが賢いので、アイディア次第で便利なアプリを簡単に作れる • APIを叩くだけなので内製開発の入門にも最適 • 毎週のようにアップデートがあり、コミュニティで情報共有しながら楽しめる 今朝のアプデ見た!? これ熱くない？？ xxさんのブログが 分かりやすかったよ！
35. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. 大丈夫、まだ間に合います！ これだけ生成AIが流行っていますが、 実際に自分の手で触ったり、実装した経験のある人は 意外にもまだまだ少数だといいます。 「AIを活用しよう」と言いつつも、 Webニュースやベンダーさんの資料ばかりを眺めながら ふわっとした検討を進めてしまっている方も意外と多いのでは…？ 新技術は、自分の手で触ることで格段に理解の解像度が上がります。 クラウドの利点は誰でもすぐに試せることです。 あなたも今すぐマネジメントコンソールにサインインしましょう！
36. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. Thank you! © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. Please complete the session survey in the mobile app Minoru Onda Technology Evangelist KDDI Agile Development Center Rio Kurokawa Principal, Data & AI Specialist Amazon Web Services