Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
Bedrockでのプロンプト管理戦略
Search
Shota Totsuka
March 25, 2025
3
140
Bedrockでのプロンプト管理戦略
Shota Totsuka
March 25, 2025
Tweet
Share
More Decks by Shota Totsuka
See All by Shota Totsuka
Mastra活用|Text-to-SQLの実装と応用
totsukash
0
110
Amazon SageMaker AIでモデル開発からデプロイまで試す
totsukash
2
42
Amazon CodeGuruをGitHubと統合して アプリケーションの品質管理を楽にする
totsukash
0
14
AWS Glueで始めるETLパイプライン
totsukash
0
22
Bedrockでガードレールのフィルターを理解する
totsukash
1
67
Amazon Novaを使用した蒸留
totsukash
2
85
SageMaker AIワークフローのあれこれ紹介
totsukash
1
71
Vertex AIで画像分類タスクのデータセットを準備する
totsukash
0
48
Text-to-SQLで自然言語から構造化データを取得する
totsukash
2
120
Featured
See All Featured
Making Projects Easy
brettharned
116
6.2k
Templates, Plugins, & Blocks: Oh My! Creating the theme that thinks of everything
marktimemedia
30
2.4k
How to Think Like a Performance Engineer
csswizardry
23
1.6k
Git: the NoSQL Database
bkeepers
PRO
430
65k
Refactoring Trust on Your Teams (GOTO; Chicago 2020)
rmw
34
3k
Building a Modern Day E-commerce SEO Strategy
aleyda
40
7.3k
CSS Pre-Processors: Stylus, Less & Sass
bermonpainter
357
30k
What’s in a name? Adding method to the madness
productmarketing
PRO
22
3.5k
The Web Performance Landscape in 2024 [PerfNow 2024]
tammyeverts
5
610
The Art of Programming - Codeland 2020
erikaheidi
54
13k
Become a Pro
speakerdeck
PRO
28
5.4k
A designer walks into a library…
pauljervisheath
205
24k
Transcript
Bedrockでのプロンプト管理戦略 AWS活用 AI/ML/LLM #7 機械学習/大規模言語モデルの実装と運用 株式会社BLUEISH Software Engineer 戸塚 翔太
@totsumaru_dot
自己紹介 株式会社BLUEISH AI Lead Engineer @totsumaru_dot 戸塚 翔太 普段はLLMアプリケーションの開発をしていまP
現在は法人向けAIエージェントプラットフォーム「BLUEISH Agents」 の開発を担当しています
AWS認定(今年1月から開始)
イベントを多数開催しています!
01 Bedrockのプロンプト管理 02 使ってみる! 03 運用のしやすさ、他の手段 04 所感・まとめ アジェンダ
01 Bedrockのプロンプト管理 02 使ってみる! 03 運用のしやすさ、他の手段 04 所感・まとめ アジェンダ
Bedrockのプロンプト管理 Bedrockのプロンプト管理とは? i Bedrock上でプロンプトを保存しておき、 推論時はその変数だけを指定すればよb i 1つのプロンプトに対して複数のバージョン (バリアント)を定義できC i 変更差分が分かC
i バージョン同士で比較できC i temperatureなどの値も管理できる
Bedrockのプロンプト管理 構成 h ドラフトを編集し、編集が完了し たら「バージョン」としてデプロ イすD h ARNを指定して各バージョンのプ ロンプトを使用できD h
デプロイ後の削除は可能だが、変 更は不可(別バージョンとしてデ プロイする必要あり)
01 Bedrockのプロンプト管理 02 使ってみる! 03 運用のしやすさ、他の手段 04 所感・まとめ アジェンダ
使ってみる! プロンプトを作成 % 「プロンプトを作成」ボタンからプロンプト作成画面へ遷移
使ってみる! プロンプトビルダーで編集 # 編集はドラフトで行B # 「プロンプトビルダーで編集」か らドラフトの編集が可能
使ってみる! システム / アシスタント / ユーザー プロンプトの設定 t システムプロンプト(1つ: Optionali
t ユーザーメッセージ(複数可: 少なくとも1つ定義i t アシスタントメッセージ(複数可: Optional) 変数は5つまで設定可能。
使ってみる! モデル・パラメーターを設定 D モデルを選択し、パラメータを設9 D temperatur4 D top-) D response
lengt D stop sequences
使ってみる! 追加設定 " モデル独自の設定項目をJSON形式 で設定可2 " ツールの設定も可能
使ってみる! テストの実行 3 テスト変数を設定 → テストウィンドウ で検証が可8 3 ダッシュボード上で検証可能
使ってみる! 保存・バージョンの作成 F 下書きのまま保存 → 「ドラフトを保存% F 本番として保存 → 「バージョンを作成」
使ってみる! バリアントの比較
使ってみる! 登録したプロンプトで推論を実行 (Converse APIで実装8 S プロンプトの変数を設定するだ5 S プロンプト本文はBedrock管' S その他パラメータもBedrock管理
01 Bedrockのプロンプト管理 02 使ってみる! 03 運用のしやすさ、他の手段 04 所感・まとめ アジェンダ
運用のしやすさ・他の手段 運用のしやすさ 0 LLMの主な用途がチャットの場合はすごく有S 0 ソースコードがスッキリする / コードと別管理となるメリッX 0 画像,
ツールを多用する場合は複雑化する懸念あり(ただし、エージェントでの管理もある) 他の手段 0 Git / GitHu 0 LangSmith / Langfuse → 評価とともに管理
01 Bedrockのプロンプト管理 02 使ってみる! 03 運用のしやすさ、他の手段 04 所感・まとめ アジェンダ
所感・まとめ プロンプトテンプレート, モデル, パラメータを合わせて管理できるため、コードがスッキリすF バージョン毎の比較はあるものの、実務では常に最新バージョンが有用となる可能性が高いた め、変更差分管理としての用途になりそX (差分管理だけならGit管理で行う方が楽な気もする..."
ダッシュボードで検証が容易にできるため、変更 → 検証の速度向上に繋がF Bedrock x チャット の用途であれば有用
Thank you!