AWSの生成AI活用事例集GenUを使い倒す

こちらのイベントでのLT
https://jawsug-ai.connpass.com/event/322964/

Transcript

1. Bedrock Night in ⼤阪 2024/07/30 アイレット株式会社 ⼩巻玖美 AWSの⽣成AI活⽤事例集 GenUを使い倒す
2. ⾃⼰紹介 2 所属：アイレット株式会社 アジャイル事業部 業務：TSやPythonでのWebアプリケーション開発    (最近は専ら⽣成AI系) 趣味：全⼒でくだらないモノを開発すること こまきち (⼩巻 玖美) ⼤阪⼈⽣で初めて来ました！！ @komakichidev ↑JAWS DAYS 2024でJeffと撮れた
3. 3 皆さんGenUを知っていますか？
4. ！？ 4
5. ご本⼈登場 5 https://github.com/aws-samples/generative-ai-use-cases-jp
6. 6 GenUのご紹介
7. GenUのご紹介 7 Amazon Bedrockを使⽤した ⽣成AIのユースケースを爆速で作れるデモアプリケーション • チャット • RAG • Agentチャット • ⽂章⽣成 • 要約 • 校正 • 翻訳 • Webコンテンツ抽出 • 画像⽣成 • 映像分析
8. GenUのご紹介 8 コマンドを実⾏するだけで、AWSの⽣成AIのユースケースがデプロイ可能！
9. GenUのご紹介 9 デプロイが完了すると、このような画⾯が！
10. GenUのご紹介 10 機能⾯もすごいが、開発のスピードも凄まじい（メンテナーの⽅々ありがとうございます！） 1, 2⽇に1回くらいのペースで mainブランチが更新される
11. 11 ピックアップして機能紹介
12. GenUのご紹介 12 マルチモーダルLLMに対応したチャット
13. GenUのご紹介 13 マルチモーダルLLMに対応したチャット
14. GenUのご紹介 14 マルチモーダルLLMに対応したチャット チャットの共有も可能
15. GenUのご紹介 15 画像⽣成
16. GenUのご紹介 16 映像分析
17. GenUのご紹介 17 ⾳声認識
18. 18 オプション機能を有効化してみる
19. オプション機能を有効化してみる 19 Amazon Bedrockを使⽤した ⽣成AIのユースケースを爆速で作れるデモアプリケーション • チャット • RAG • Agentチャット • ⽂章⽣成 • 要約 • 校正 • 翻訳 • Webコンテンツ抽出 • 画像⽣成 • 映像分析
20. オプション機能を有効化してみる 20 Amazon Bedrockを使⽤した ⽣成AIのユースケースを爆速で作れるデモアプリケーション • チャット • RAG • Agentチャット • ⽂章⽣成 • 要約 • 校正 • 翻訳 • Webコンテンツ抽出 • 画像⽣成 • 映像分析
21. オプション機能を有効化してみる 21 Amazon Bedrockを使⽤した ⽣成AIのユースケースを爆速で作れるデモアプリケーション • チャット • RAG • Agentチャット • ⽂章⽣成 • 要約 • 校正 • 翻訳 • Webコンテンツ抽出 • 画像⽣成 • 映像分析 ⾃分で有効化する必要がある…！！
22. 22 ただ、有効化はとても簡単 → cdk.jsonを変えるだけ
23. オプション機能を有効化してみる 23 セキュリティ設定 • セルフサインアップを無効化 • サインアップできるメールアドレスのドメインを制限 • IP アドレスや地理的制限によるサイト閲覧制限 • SAML 認証
24. オプション機能を有効化してみる 24 Knowledge BaseのRAGチャット RAGとは？ LLM が苦⼿な最新の情報やドメイン知識を外部から伝えることで、本来なら回答できない内容にも答えられるように する⼿法 これもcdk.jsonの設定を変更するだけで構築可能
25. オプション機能を有効化してみる 25 デフォルトでBedrockのPDFがデータソースとして設定されているため、そのデータに基づいて回答 Knowledge BaseのRAGチャット 独⾃のデータソースも 追加可能 ※基本的にはCDKだけでデプロイ可能ですが、 同期だけはAWSコンソール上で⾏う必要有
26. オプション機能を有効化してみる 26 GenUはフロントエンドのコードも含まれているため、画⾯を変更することも可能 ⾃分でカスタマイズしてみる
27. 27 GenUを使う際のナレッジ
28. GenUを使う際のナレッジ 28 • 安く試したいのであれば、⼀旦Kendra RAGは有効化しない ◦ Kendraを使⽤したRAGチャットはオプション機能のため、使⽤する際には有効化する必要あり ◦ GenUの概算料⾦内容を⾒ると、⽉額合計料⾦の941.99(USD)のうちAmazon Kendraが 821.25(USD) (参考: https://aws.amazon.com/jp/cdp/ai-chatapp/) ◦ ただ、Kendraのインデックスを⾃動で作成‧削除するスケジュール設定があるため、稼働時間 に対する利⽤料を削減することは可能 • 画⾯を追加するならReactやTailwind CSSの知識が必要 ◦ GenUのフロント画⾯はReact（+Tailwind CSS）で実装されている
29. 29 まとめ
30. まとめ 30 爆速で⽣成AIを組み込んだアプリケーションが作れるGenU まだ触ったことない⽅は是⾮⼀度触ってみてください！
31. 31 良い⽣成AIライフを！ Thank You
32. Appendix - 参考‧関連資料 32 generative-ai-use-cases-jp https://github.com/aws-samples/generative-ai-use-cases-jp AWSの⽣成AI活⽤事例集GenUを使い倒す https://iret.media/108314 かわいいフリー素材集 いらすとや https://www.irasutoya.com/ ⽣成AIユースケースを考え倒すためのGenerative AI Use Cases JP (GenU)の魅⼒と使い⽅ https://speakerdeck.com/okamotoaws/sheng-cheng-aiyusukesuwokao-edao-sutamenogenera tive-ai-use-cases-jp-genu-nomei-li-toshi-ifang