Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
Bedrockでのプロンプト管理戦略
Search
Shota Totsuka
March 25, 2025
1
47
Bedrockでのプロンプト管理戦略
Shota Totsuka
March 25, 2025
Tweet
Share
More Decks by Shota Totsuka
See All by Shota Totsuka
Amazon SageMaker AIでモデル開発からデプロイまで試す
totsukash
1
32
Amazon CodeGuruをGitHubと統合して アプリケーションの品質管理を楽にする
totsukash
0
13
AWS Glueで始めるETLパイプライン
totsukash
0
17
Bedrockでガードレールのフィルターを理解する
totsukash
1
60
Amazon Novaを使用した蒸留
totsukash
2
85
SageMaker AIワークフローのあれこれ紹介
totsukash
1
70
Vertex AIで画像分類タスクのデータセットを準備する
totsukash
0
43
Text-to-SQLで自然言語から構造化データを取得する
totsukash
2
110
トークナイザーの仕組みを少しだけ深ぼって理解する
totsukash
0
56
Featured
See All Featured
Designing Experiences People Love
moore
141
23k
Put a Button on it: Removing Barriers to Going Fast.
kastner
60
3.8k
Building a Modern Day E-commerce SEO Strategy
aleyda
39
7.2k
Gamification - CAS2011
davidbonilla
81
5.2k
The Myth of the Modular Monolith - Day 2 Keynote - Rails World 2024
eileencodes
22
2.6k
Fashionably flexible responsive web design (full day workshop)
malarkey
407
66k
For a Future-Friendly Web
brad_frost
176
9.6k
Design and Strategy: How to Deal with People Who Don’t "Get" Design
morganepeng
129
19k
Intergalactic Javascript Robots from Outer Space
tanoku
270
27k
GitHub's CSS Performance
jonrohan
1030
460k
Cheating the UX When There Is Nothing More to Optimize - PixelPioneers
stephaniewalter
280
13k
Improving Core Web Vitals using Speculation Rules API
sergeychernyshev
11
610
Transcript
Bedrockでのプロンプト管理戦略 AWS活用 AI/ML/LLM #7 機械学習/大規模言語モデルの実装と運用 株式会社BLUEISH Software Engineer 戸塚 翔太
@totsumaru_dot
自己紹介 株式会社BLUEISH AI Lead Engineer @totsumaru_dot 戸塚 翔太 普段はLLMアプリケーションの開発をしていまP
現在は法人向けAIエージェントプラットフォーム「BLUEISH Agents」 の開発を担当しています
AWS認定(今年1月から開始)
イベントを多数開催しています!
01 Bedrockのプロンプト管理 02 使ってみる! 03 運用のしやすさ、他の手段 04 所感・まとめ アジェンダ
01 Bedrockのプロンプト管理 02 使ってみる! 03 運用のしやすさ、他の手段 04 所感・まとめ アジェンダ
Bedrockのプロンプト管理 Bedrockのプロンプト管理とは? i Bedrock上でプロンプトを保存しておき、 推論時はその変数だけを指定すればよb i 1つのプロンプトに対して複数のバージョン (バリアント)を定義できC i 変更差分が分かC
i バージョン同士で比較できC i temperatureなどの値も管理できる
Bedrockのプロンプト管理 構成 h ドラフトを編集し、編集が完了し たら「バージョン」としてデプロ イすD h ARNを指定して各バージョンのプ ロンプトを使用できD h
デプロイ後の削除は可能だが、変 更は不可(別バージョンとしてデ プロイする必要あり)
01 Bedrockのプロンプト管理 02 使ってみる! 03 運用のしやすさ、他の手段 04 所感・まとめ アジェンダ
使ってみる! プロンプトを作成 % 「プロンプトを作成」ボタンからプロンプト作成画面へ遷移
使ってみる! プロンプトビルダーで編集 # 編集はドラフトで行B # 「プロンプトビルダーで編集」か らドラフトの編集が可能
使ってみる! システム / アシスタント / ユーザー プロンプトの設定 t システムプロンプト(1つ: Optionali
t ユーザーメッセージ(複数可: 少なくとも1つ定義i t アシスタントメッセージ(複数可: Optional) 変数は5つまで設定可能。
使ってみる! モデル・パラメーターを設定 D モデルを選択し、パラメータを設9 D temperatur4 D top-) D response
lengt D stop sequences
使ってみる! 追加設定 " モデル独自の設定項目をJSON形式 で設定可2 " ツールの設定も可能
使ってみる! テストの実行 3 テスト変数を設定 → テストウィンドウ で検証が可8 3 ダッシュボード上で検証可能
使ってみる! 保存・バージョンの作成 F 下書きのまま保存 → 「ドラフトを保存% F 本番として保存 → 「バージョンを作成」
使ってみる! バリアントの比較
使ってみる! 登録したプロンプトで推論を実行 (Converse APIで実装8 S プロンプトの変数を設定するだ5 S プロンプト本文はBedrock管' S その他パラメータもBedrock管理
01 Bedrockのプロンプト管理 02 使ってみる! 03 運用のしやすさ、他の手段 04 所感・まとめ アジェンダ
運用のしやすさ・他の手段 運用のしやすさ 0 LLMの主な用途がチャットの場合はすごく有S 0 ソースコードがスッキリする / コードと別管理となるメリッX 0 画像,
ツールを多用する場合は複雑化する懸念あり(ただし、エージェントでの管理もある) 他の手段 0 Git / GitHu 0 LangSmith / Langfuse → 評価とともに管理
01 Bedrockのプロンプト管理 02 使ってみる! 03 運用のしやすさ、他の手段 04 所感・まとめ アジェンダ
所感・まとめ プロンプトテンプレート, モデル, パラメータを合わせて管理できるため、コードがスッキリすF バージョン毎の比較はあるものの、実務では常に最新バージョンが有用となる可能性が高いた め、変更差分管理としての用途になりそX (差分管理だけならGit管理で行う方が楽な気もする..."
ダッシュボードで検証が容易にできるため、変更 → 検証の速度向上に繋がF Bedrock x チャット の用途であれば有用
Thank you!