Bedrock カスタムモデルvs汎用モデルの比較

Transcript

1. AWS活用 Amazon Bedrock #3 カスタムモデル vs 汎用モデル 実用シナリオでの比較 株式会社BLUEISH 代表取締役CEO兼CTO 為藤アキラ @AkiraTameto
2. 為藤 アキラ (Akira Tameto) 株式会社BLUEISH 代表取締役 CEO兼CTO ・AWS歴12年 ・直近のAIプロジェクト 　 ・画像を中心とした機械学習とLLM のハイブリッドのアーキテクト 自己紹介
3. 今回のゴール カスタムモデル (ファインチューニング)でモデルを作る事
4. DEMOとユースケース1 【ユースケース】 カスタマーセンターの問い合わせ対応LLM カスタムモデル vs 汎用モデル(Titan)
5. DEMOとユースケース1 問い合わせに困っているスタッフの方々 どうにかして解決してあげたい・・・
6. DEMOとユースケース2 しっかりご案内して、最後にお茶を出せば落ち着くのでは？
7. データセットを準備する データの準備から
8. データセットを準備する フォーマットは決まっているので注意 https://docs.aws.amazon.com/bedrock/latest/userguide/model-customization-prepare.html AWS公式
9. データセットを準備する { " ": " ", " ": 
 " " }, prompt completion 注文した商品がまだ届いていない！ ご不便をおかけして申し訳ありません。
 まずは以下の手順でご確認ください。
 1. ご注文確認メールに記載されている追跡番号をお手元にご用意ください。
 2. 当社の配送追跡ページにアクセスし、追跡番号を入力してください。
 3. 配送状況が更新されていない場合は、カスタマーサポートまでお問い合わせください。
 そして、忙しい中でもほっと一息つけるよう、例えばジャスミン茶、ダージリンティー、またはウーロン茶な どもお楽しみいただければ幸いです。 データのイメージ
10. データセットを準備する テストデータを生成。トレーニングデータ(100件)、検証データ(50件)を用意。
11. 学習関連のデータを格納するバケットの作成
12. 今回の目次とゴール
13. カスタムモデルの作成 カスタムモデルの作成へ
14. カスタムモデルの種類
15. それぞれの特徴 ・Fine-tuning (微調整) すでに学習済みのモデルを、特定のタスクやドメインに合わせて追加学習すること
 ・Distillation (蒸留) 大規模な「教師モデル」の知識を、より軽量な「生徒モデル」に転送する技術です。 生徒モデルは教師モデルに近い性能を発揮しつつ、計算資源やメモリの消費を抑え、実運用に適したサイズになります。 ・Continued pre-training (事前トレーニングの継続) 既存の大規模モデルに対して、さらに追加の一般的またはドメイン固有のデータで学習を続けるプロセスです。 これにより、モデルの言語理解能力や専門性が向上し、後の微調整（fine-tuning）の効果が高まる場合があります。
 ・RAG (検索拡張生成) 外部の知識ソース（ドキュメントやデータベース）から関連情報を検索（リトリーバル）し、その情報を元に生成（ジェネレーション）を行う手法。 これによりモデルはより正確で信頼性の高い回答を提供できるようになる。
16. それぞれの特徴 ・Fine-tuning (微調整) すでに学習済みのモデルを、特定のタスクやドメインに合わせて追加学習すること
 ・Distillation (蒸留) 大規模な「教師モデル」の知識を、より軽量な「生徒モデル」に転送する技術です。 生徒モデルは教師モデルに近い性能を発揮しつつ、計算資源やメモリの消費を抑え、実運用に適したサイズになります。 ・Continued pre-training (事前トレーニングの継続) 既存の大規模モデルに対して、さらに追加の一般的またはドメイン固有のデータで学習を続けるプロセスです。 これにより、モデルの言語理解能力や専門性が向上し、後の微調整（fine-tuning）の効果が高まる場合があります。
 ・RAG (検索拡張生成) 外部の知識ソース（ドキュメントやデータベース）から関連情報を検索（リトリーバル）し、その情報を元に生成（ジェネレーション）を行う手法。 これによりモデルはより正確で信頼性の高い回答を提供できるようになる。
17. o1 proによる比較 精度は良いが、最新情報、手間、料金ともに厳しい
18. ファインチューニングのジョブ作成 (モデルの選択)
19. ファインチューニングのジョブ作成 https://docs.aws.amazon.com/bedrock/latest/userguide/model-customization-prepare.html AWS公式
20. ファインチューニングのジョブ作成 (モデルの選択)
21. ファインチューニングのジョブ作成
22. 入力データのセット、ハイパーパラメータのセット
23. 出力データ、サービスアクセスのセット
24. カスタムモデルの作成準備完了し、トレーニングジョブが実行
25. トレーニングジョブが実行中 トレーニング時間はデータやモデルによるが、 今回は大体2時間ぐらい
26. トレーニングが完了し、モデルが出来上がる
27. 今回のモデルの内容
28. プロビジョンドスループットを購入1
29. プロビジョンドスループットを購入2
30. プロビジョンドスループットを購入が完了 大体20分ぐらい
31. DEMO DEMO
32. プレイグラウンド (Text)で検証
33. DEMO Titan Text G1 Express
34. DEMO Titan Text G1 Express
35. DEMO Titan Text G1 Express
36. DEMO Titan Text G1 Express
37. DEMO Claude 3.5 Sonnet
38. DEMO Claude 3.5 Sonnet
39. DEMO Claude 3.5 Sonnet
40. DEMO Claude 3.5 Sonnet
41. DEMO カスタムモデル ※不安定なのでDEMO用で急遽 若干パフォーマンスが良いTitanにしました。
42. DEMO カスタムモデル
43. DEMO カスタムモデル (1回目)
44. DEMO カスタムモデル
45. DEMO カスタムモデル (2回目)
46. DEMO カスタムモデル (2回目)
47. まとめ
48. まとめ  Amazon Bedrockでファインチューニングは割と簡単にできR  元のモデルと比べて少ないデータでも良い結果を出せR  とはいえファインチューニングはコストがかかるので、必要なタイミングで使うと良い
49. まとめ
50. まとめ
51. Thank You!