Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
Bedrock最新情報 Bedrock Studio、Converse API / Tool ...
Search
moritalous
June 26, 2024
1
430
Bedrock最新情報 Bedrock Studio、Converse API / Tool use | 書籍「Amazon Bedrock 生成AIアプリ開発入門」出版イベント
moritalous
June 26, 2024
Tweet
Share
More Decks by moritalous
See All by moritalous
なんだか流行ってるらしいMCPを Bedrockで使ってみよ〜
moritalous
0
1.2k
OSSの実装を参考にBedrockエージェントを作る
moritalous
2
600
Contextual Retrievalをやってみた
moritalous
0
220
The Ultimate RAG Showdown
moritalous
0
130
JAWS PANKRATION前哨戦 The Ultimate RAG Showdown
moritalous
0
29
The Ultimate RAG Showdown (Japanese)
moritalous
1
27
Knowledge Bases for Amazon Bedrockの推しポイント
moritalous
3
630
AWSのノーコード・ローコードLLMアプリ開発
moritalous
0
2k
Bedrockに触ってみよう - 【#Bedrock開発入門 出版記念】AWSで生成AIアプリ開発をはじめよう!
moritalous
1
1.6k
Featured
See All Featured
How to Ace a Technical Interview
jacobian
277
23k
It's Worth the Effort
3n
185
28k
Why You Should Never Use an ORM
jnunemaker
PRO
58
9.4k
Easily Structure & Communicate Ideas using Wireframe
afnizarnur
194
16k
Building Better People: How to give real-time feedback that sticks.
wjessup
367
19k
Build The Right Thing And Hit Your Dates
maggiecrowley
36
2.8k
Side Projects
sachag
455
42k
Building an army of robots
kneath
306
45k
Save Time (by Creating Custom Rails Generators)
garrettdimon
PRO
31
1.3k
Building a Modern Day E-commerce SEO Strategy
aleyda
42
7.4k
Git: the NoSQL Database
bkeepers
PRO
430
65k
Evolution of real-time – Irina Nazarova, EuRuKo, 2024
irinanazarova
8
810
Transcript
Bedrock最新情報 ・Bedrock Studio ・Converse API / Tool use 書籍「Amazon Bedrock
生成AIアプリ開発入門」出版イベント @moritalous
5/7 Amazon Bedrock Studio発表(プレビュー) • Bedrock Studioは組織内の開発者が生成AIアプリを構築するためのWebイン ターフェイス • IAM
Identity Centerを使ったSSOに対応 • ナレッジベース、エージェント、ガードレールに対応 • AWSに詳しくない開発者向けにBedrockの部分だけを切り出して使えるようにし たイメージ
Amazon Bedrock Studio - ポータル画面
Amazon Bedrock Studio - IAM Identity Centerでログイン
Amazon Bedrock Studio - 初期表示(プレイグラウンド)
Amazon Bedrock Studio - プロジェクト一覧
Amazon Bedrock Studio - プロジェクト詳細(AppとComponentが含まれる)
Amazon Bedrock Studio - ナレッジベースコンポーネントを作成
Amazon Bedrock Studio - ガードレールコンポーネントを作成
Amazon Bedrock Studio - ファンクションコンポーネントを作成 Agents for Amazon Bedrockのアクショングループと 呼び出し先のLambda(外部API呼び出し処理が実
装済み)が作成される
Amazon Bedrock Studio - コンポーネントを組み合わせてアプリを作成 アクショングループ(Lambda)による回答 ナレッジベースによる回答 問い合わせ実行時にナレッジベースを Agents for
Amazon Bedrockに登録してデプロイするのでちょっ と時間がかかる
5/30 新しいConverse API登場 • これまではInvokeModel APIでBedrockのモデルを呼び出していた (ストリーミングレスポンスに対応した InvokeModelWithResponseStreamもあり) • InvokeModel
APIの場合、使用するモデルごとに専用のBodyパラメーターを指 定する必要があった • Converse APIはBodyパラメーターが共通化され、異なるモデルに対して同じ呼 び出し方が可能になった • 会話型のメッセージをやり取りする前提でパラメーターが共通化されている
イメージ Claude用フォーマット Command用フォーマット Invoke Model APIはフォーマットがバ ラバラ Converse APIはフォーマットが共 通
同じフォーマットでOK モデルIDの変更だけで切り替えられる
InvokeModel APIとの使い分け • 埋め込みや画像生成はこれまで 通りInvoke Model API • モデルに特化したパラメーターを 使用したい場合もInvoke
Model API (Command Rの search_queries_onlyなど) • Converse APIはガードレールに 未対応→6/18に対応
5/30 Tool Useに対応 • Anthropic Claude 3のTool Use機能正式リリースと同時にBedrockでも利用可 能に(Google Vertex
AIも同時) • Claude 3 / 3.5だけでなくCohere Command R/R+、Mistral Small/Largeも対応 • What’s newの発表がConverse APIと同時のためConverse APIの機能拡張の ように見えるが、実はInvoke Model APIでも利用可能
Toolの概念図 https://speakerdeck.com/minorun365/anthropickinoto-bedrock-claude-night-2?slide=23 質問に答えて (こんなツール持ってるので良かった ら使ってください) このツールを使って結果教え て ツール実行 ツールの結 果これです
最終回答
ToolとAgentの違い(Bedrock Claude Night 2のキーノート資料より) • Tool useの構文や構造を隠す 抽象化レイヤー • より速いセットアップ
• JSONをアウトプットする JSONモード • 強制的なツールの使用 (特定のツール 1 つまたは複数のツールの選択) エージェントのメリット Toolのメリット
Converse APIとTool Useの詳細はこちら! Bedrock Claude Night 2に登壇された鯨田さんのLTにまとまってましたのでそちらを ご参照ください https://bit.ly/3zmwoqQ
おわり