Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
Bedrock最新情報 Bedrock Studio、Converse API / Tool ...
Search
moritalous
June 26, 2024
1
420
Bedrock最新情報 Bedrock Studio、Converse API / Tool use | 書籍「Amazon Bedrock 生成AIアプリ開発入門」出版イベント
moritalous
June 26, 2024
Tweet
Share
More Decks by moritalous
See All by moritalous
なんだか流行ってるらしいMCPを Bedrockで使ってみよ〜
moritalous
0
810
OSSの実装を参考にBedrockエージェントを作る
moritalous
2
580
Contextual Retrievalをやってみた
moritalous
0
220
The Ultimate RAG Showdown
moritalous
0
130
JAWS PANKRATION前哨戦 The Ultimate RAG Showdown
moritalous
0
26
The Ultimate RAG Showdown (Japanese)
moritalous
1
25
Knowledge Bases for Amazon Bedrockの推しポイント
moritalous
3
600
AWSのノーコード・ローコードLLMアプリ開発
moritalous
0
1.9k
Bedrockに触ってみよう - 【#Bedrock開発入門 出版記念】AWSで生成AIアプリ開発をはじめよう!
moritalous
1
1.6k
Featured
See All Featured
How GitHub (no longer) Works
holman
314
140k
GitHub's CSS Performance
jonrohan
1031
460k
Visualization
eitanlees
146
16k
Build The Right Thing And Hit Your Dates
maggiecrowley
35
2.7k
The Myth of the Modular Monolith - Day 2 Keynote - Rails World 2024
eileencodes
25
2.8k
StorybookのUI Testing Handbookを読んだ
zakiyama
30
5.8k
Facilitating Awesome Meetings
lara
54
6.4k
JavaScript: Past, Present, and Future - NDC Porto 2020
reverentgeek
48
5.4k
Distributed Sagas: A Protocol for Coordinating Microservices
caitiem20
331
21k
Build your cross-platform service in a week with App Engine
jlugia
231
18k
[Rails World 2023 - Day 1 Closing Keynote] - The Magic of Rails
eileencodes
34
2.3k
Agile that works and the tools we love
rasmusluckow
329
21k
Transcript
Bedrock最新情報 ・Bedrock Studio ・Converse API / Tool use 書籍「Amazon Bedrock
生成AIアプリ開発入門」出版イベント @moritalous
5/7 Amazon Bedrock Studio発表(プレビュー) • Bedrock Studioは組織内の開発者が生成AIアプリを構築するためのWebイン ターフェイス • IAM
Identity Centerを使ったSSOに対応 • ナレッジベース、エージェント、ガードレールに対応 • AWSに詳しくない開発者向けにBedrockの部分だけを切り出して使えるようにし たイメージ
Amazon Bedrock Studio - ポータル画面
Amazon Bedrock Studio - IAM Identity Centerでログイン
Amazon Bedrock Studio - 初期表示(プレイグラウンド)
Amazon Bedrock Studio - プロジェクト一覧
Amazon Bedrock Studio - プロジェクト詳細(AppとComponentが含まれる)
Amazon Bedrock Studio - ナレッジベースコンポーネントを作成
Amazon Bedrock Studio - ガードレールコンポーネントを作成
Amazon Bedrock Studio - ファンクションコンポーネントを作成 Agents for Amazon Bedrockのアクショングループと 呼び出し先のLambda(外部API呼び出し処理が実
装済み)が作成される
Amazon Bedrock Studio - コンポーネントを組み合わせてアプリを作成 アクショングループ(Lambda)による回答 ナレッジベースによる回答 問い合わせ実行時にナレッジベースを Agents for
Amazon Bedrockに登録してデプロイするのでちょっ と時間がかかる
5/30 新しいConverse API登場 • これまではInvokeModel APIでBedrockのモデルを呼び出していた (ストリーミングレスポンスに対応した InvokeModelWithResponseStreamもあり) • InvokeModel
APIの場合、使用するモデルごとに専用のBodyパラメーターを指 定する必要があった • Converse APIはBodyパラメーターが共通化され、異なるモデルに対して同じ呼 び出し方が可能になった • 会話型のメッセージをやり取りする前提でパラメーターが共通化されている
イメージ Claude用フォーマット Command用フォーマット Invoke Model APIはフォーマットがバ ラバラ Converse APIはフォーマットが共 通
同じフォーマットでOK モデルIDの変更だけで切り替えられる
InvokeModel APIとの使い分け • 埋め込みや画像生成はこれまで 通りInvoke Model API • モデルに特化したパラメーターを 使用したい場合もInvoke
Model API (Command Rの search_queries_onlyなど) • Converse APIはガードレールに 未対応→6/18に対応
5/30 Tool Useに対応 • Anthropic Claude 3のTool Use機能正式リリースと同時にBedrockでも利用可 能に(Google Vertex
AIも同時) • Claude 3 / 3.5だけでなくCohere Command R/R+、Mistral Small/Largeも対応 • What’s newの発表がConverse APIと同時のためConverse APIの機能拡張の ように見えるが、実はInvoke Model APIでも利用可能
Toolの概念図 https://speakerdeck.com/minorun365/anthropickinoto-bedrock-claude-night-2?slide=23 質問に答えて (こんなツール持ってるので良かった ら使ってください) このツールを使って結果教え て ツール実行 ツールの結 果これです
最終回答
ToolとAgentの違い(Bedrock Claude Night 2のキーノート資料より) • Tool useの構文や構造を隠す 抽象化レイヤー • より速いセットアップ
• JSONをアウトプットする JSONモード • 強制的なツールの使用 (特定のツール 1 つまたは複数のツールの選択) エージェントのメリット Toolのメリット
Converse APIとTool Useの詳細はこちら! Bedrock Claude Night 2に登壇された鯨田さんのLTにまとまってましたのでそちらを ご参照ください https://bit.ly/3zmwoqQ
おわり