「genai-quickstart-pocs」を使ってお手軽に生成AIのPoCを始めよう！

JAWS-UG朝会 #64 登壇資料

Transcript

1. 前野 佑宜 アイレット株式会社 DX開発事業部 モダンエンジニアリングセクション ビジネスデザインG 「genai-quickstart-pocs」を 使ってお手軽に生成 AIのPoC を始めよう！ JAWS-UG朝会 #64
2. はじめに〜本セッションでお伝えすること /しないこと〜 本セッションでお伝えしないこと • 生成AIを活用したPoCの成功の秘訣 ◦ 秘訣を語れるほど経験豊富ではありません。 • 実装部分の詳細な解説 • 生成AIを活用したPoCを、効率的に進めるための一つの手段 ◦ 自身の実体験ベースでお伝えさせていただく 本セッションでお伝えすること
3. 01 アジェンダ 自己紹介 02 生成AIのPoCを取り巻く現状 03 「genai-quickstart-pocs」のご紹介 04 「genai-quickstart-pocs」をカスタマイズ 05 まとめ
4. 01 アジェンダ 自己紹介 02 生成AIのPoCを取り巻く現状 03 「genai-quickstart-pocs」のご紹介 04 「genai-quickstart-pocs」をカスタマイズ 05 まとめ
5. 前野 佑宜 2023年新卒入社/入社2年目 2024 Japan AWS Jr. Champions選出 アイレット株式会社 ま　え　の ゆ　う　き 経歴 DX開発事業部/モダンエンジニアリングS/ビジネスデザインG 担当業務 Python/Laravelを使ったバックエンド開発を主に担当 現在はAWSの生成AIサービス/RAGを組み合わせたPoC（概 念実証）に従事 関心のある領域 AWS× AI/MLの領域（Amazon Bedrock/ Amazon SageMakerなど）
6. 01 アジェンダ 自己紹介 02 生成AIのPoCを取り巻く現状 03 「genai-quickstart-pocs」のご紹介 04 「genai-quickstart-pocs」をカスタマイズ 05 まとめ
7. 02.生成AIのPoCを取り巻く現状 企業の生成AI導入に伴い、PoCを実施するケースは年々増えている 生成AI活用のニーズ増 →PoCを実施するケースも増 出典：IPA「DX動向2024」
8. 02.生成AIのPoCを取り巻く現状 一般的なPoC実施のフロー ゴールの すり合わせ ・検証の方法検討 ・検証実施 ・「何」を検証するか ・「何」がゴールか のすり合わせ ・検証結果をまとめる ・次フェーズに進む or 実用化の検討 検証 結果の分析
9. 02.生成AIのPoCを取り巻く現状 「検証」フェーズにおける考慮事項 ゴールの すり合わせ ・検証の方法検討 ・検証実施 ・「何」を検証するか ・「何」がゴールか のすり合わせ ・検証結果をまとめる ・次フェーズに進む or 実用化の検討 検証 結果の分析 「スケジュールも限られているので 
 効率的に実施したい」 
 「どうRAGの精度を評価するべきか」 
 「どう検証結果をまとめるべきか」 
 「そもそも検証の土台の準備 
 もしなきゃ・・」
 例）RAGを使った社内文書検索ソリューションの PoC 今回は「検証」にフォー カス
10. 01 アジェンダ 自己紹介 02 生成AIのPoCを取り巻く現状 03 「genai-quickstart-pocs」のご紹介 04 「genai-quickstart-pocs」をカスタマイズ 05 まとめ
11. 03.「genai-quickstart-pocs」のご紹介 「genai-quickstart-pocs」とは 生成AIを使ったアプリケーションを簡単に 作成し試すことができるAWSのOSS .NET/Pythonでの サンプルが提供 .NET→5種類 Python→37種類 フロントエンドは
 Streamlitを採用

12. 03.「genai-quickstart-pocs」のご紹介 簡単3ステップで試すことができる 1 2 3 https://github.com/aws-samples/genai-quickstart-pocs.git をクローン requirements.txt記載のライブラリインストール `streamlit run app.py` を実行
13. 03.「genai-quickstart-pocs」のご紹介 プロジェクト構成はシンプル！
14. 03.「genai-quickstart-pocs」のご紹介 リポジトリの中身をいくつかご紹介① Amazon Bedrock Summarization of Long Documents POC 長い文章の要約
15. 03.「genai-quickstart-pocs」のご紹介 リポジトリの中身をいくつかご紹介② amazon-bedrock-claude3-image-analysis-poc 画像分析
16. 03.「genai-quickstart-pocs」のご紹介 リポジトリの中身をいくつかご紹介③ amazon-bedrock-rag-kendra-poc RAG検索 （検索拡張生成）
17. 01 アジェンダ 自己紹介 02 生成AIのPoCを取り巻く現状 03 「genai-quickstart-pocs」のご紹介 04 「genai-quickstart-pocs」をカスタマイズ 05 まとめ
18. 04.「genai-quickstart-pocs」をカスタマイズ amazon-bedrock-rag-kendra-pocの機能をカスタマイズ！ RAG+Kendra検索+マルチモーダル 会話履歴の保持 Streamlitの
 session_stateと
 Bedrockの converseAPI で実装

19. 04.「genai-quickstart-pocs」をカスタマイズ こんなユースケースにピッタリ！ LLMと組み合わせた検索精度 を 確かめたい 画像→文字書き起こしの精度も 確かめたい Kendra単体での検索精度も 確かめたい
20. アーキテクチャ プルダウン で機能切り替え
21. 実行結果〜 RAG検索〜
22. 実行結果〜 Kendra検索〜
23. 実行結果〜マルチモーダル〜
24. 04.「genai-quickstart-pocs」をカスタマイズ〜おまけ〜 先日のre:invent 2024で 紹介された Kendra GenAI Indexも組み込んでみた ・Kendra GenAI Index ・Bedrock エージェント ナレッジベースを使用 詳細は 弊社Advent Calendar 20日目の記事で！ 所要時間 2時間くらいで完成！
25. 01 アジェンダ 自己紹介 02 生成AIのPoCを取り巻く現状 03 「genai-quickstart-pocs」のご紹介 04 「genai-quickstart-pocs」をカスタマイズ 05 まとめ
26. 05.まとめ AWSのOSSを活用し、生成 AIのPoCの効率化！ ベースとなるものは OSSを採用 行う検証に応じて カスタマイズ ベース=OSS ベース=OSS カスタマイズ部分
27. 05.まとめ genai-quickstart-pocsの使い方は十人十色！ ①事前に検証用のテンプレを作っておく ②アップデートが来たらカスタマイズ＋すぐ試す！ 例えばこんな使い方 →アイデアをすぐ形にできる！！
28. 参照文献 • 統計資料 ◦ IPA 「DX動向2024」 • GitHubリポジトリ ◦ genai-quickstart-pocs • 関連ブログ ◦ AWSの「genai-quickstart-pocs」を使ってお手軽に生成 AIのPoCを始めよ う！ | iret.media ◦ Streamlit×Bedrock×Kendraで作る! 多機能チャットボット - Qiita ◦ re:Invent2024で新たに発表されたAmazon Kendraの新機能「GenAI index」を試してみ る！
 ▪ 12/20 アドカレで公開予定
29. ご清聴ありがとうございました