Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
Bedrock最新情報 Bedrock Studio、Converse API / Tool ...
Search
moritalous
June 26, 2024
1
230
Bedrock最新情報 Bedrock Studio、Converse API / Tool use | 書籍「Amazon Bedrock 生成AIアプリ開発入門」出版イベント
moritalous
June 26, 2024
Tweet
Share
More Decks by moritalous
See All by moritalous
The Ultimate RAG Showdown
moritalous
0
54
JAWS PANKRATION前哨戦 The Ultimate RAG Showdown
moritalous
0
7
The Ultimate RAG Showdown (Japanese)
moritalous
1
7
Knowledge Bases for Amazon Bedrockの推しポイント
moritalous
2
160
AWSのノーコード・ローコードLLMアプリ開発
moritalous
0
1.3k
Bedrockに触ってみよう - 【#Bedrock開発入門 出版記念】AWSで生成AIアプリ開発をはじめよう!
moritalous
1
1.2k
LINEとSlackとBedrock
moritalous
4
1.5k
Matterport連携手順を解説します
moritalous
0
270
Featured
See All Featured
Large-scale JavaScript Application Architecture
addyosmani
508
110k
Put a Button on it: Removing Barriers to Going Fast.
kastner
58
3.4k
Become a Pro
speakerdeck
PRO
22
4.8k
Typedesign – Prime Four
hannesfritz
38
2.3k
The Success of Rails: Ensuring Growth for the Next 100 Years
eileencodes
41
6.4k
Rails Girls Zürich Keynote
gr2m
93
13k
Into the Great Unknown - MozCon
thekraken
28
1.4k
From Idea to $5000 a Month in 5 Months
shpigford
378
46k
Six Lessons from altMBA
skipperchong
26
3.3k
GraphQLとの向き合い方2022年版
quramy
43
13k
Responsive Adventures: Dirty Tricks From The Dark Corners of Front-End
smashingmag
248
20k
Web development in the modern age
philhawksworth
204
10k
Transcript
Bedrock最新情報 ・Bedrock Studio ・Converse API / Tool use 書籍「Amazon Bedrock
生成AIアプリ開発入門」出版イベント @moritalous
5/7 Amazon Bedrock Studio発表(プレビュー) • Bedrock Studioは組織内の開発者が生成AIアプリを構築するためのWebイン ターフェイス • IAM
Identity Centerを使ったSSOに対応 • ナレッジベース、エージェント、ガードレールに対応 • AWSに詳しくない開発者向けにBedrockの部分だけを切り出して使えるようにし たイメージ
Amazon Bedrock Studio - ポータル画面
Amazon Bedrock Studio - IAM Identity Centerでログイン
Amazon Bedrock Studio - 初期表示(プレイグラウンド)
Amazon Bedrock Studio - プロジェクト一覧
Amazon Bedrock Studio - プロジェクト詳細(AppとComponentが含まれる)
Amazon Bedrock Studio - ナレッジベースコンポーネントを作成
Amazon Bedrock Studio - ガードレールコンポーネントを作成
Amazon Bedrock Studio - ファンクションコンポーネントを作成 Agents for Amazon Bedrockのアクショングループと 呼び出し先のLambda(外部API呼び出し処理が実
装済み)が作成される
Amazon Bedrock Studio - コンポーネントを組み合わせてアプリを作成 アクショングループ(Lambda)による回答 ナレッジベースによる回答 問い合わせ実行時にナレッジベースを Agents for
Amazon Bedrockに登録してデプロイするのでちょっ と時間がかかる
5/30 新しいConverse API登場 • これまではInvokeModel APIでBedrockのモデルを呼び出していた (ストリーミングレスポンスに対応した InvokeModelWithResponseStreamもあり) • InvokeModel
APIの場合、使用するモデルごとに専用のBodyパラメーターを指 定する必要があった • Converse APIはBodyパラメーターが共通化され、異なるモデルに対して同じ呼 び出し方が可能になった • 会話型のメッセージをやり取りする前提でパラメーターが共通化されている
イメージ Claude用フォーマット Command用フォーマット Invoke Model APIはフォーマットがバ ラバラ Converse APIはフォーマットが共 通
同じフォーマットでOK モデルIDの変更だけで切り替えられる
InvokeModel APIとの使い分け • 埋め込みや画像生成はこれまで 通りInvoke Model API • モデルに特化したパラメーターを 使用したい場合もInvoke
Model API (Command Rの search_queries_onlyなど) • Converse APIはガードレールに 未対応→6/18に対応
5/30 Tool Useに対応 • Anthropic Claude 3のTool Use機能正式リリースと同時にBedrockでも利用可 能に(Google Vertex
AIも同時) • Claude 3 / 3.5だけでなくCohere Command R/R+、Mistral Small/Largeも対応 • What’s newの発表がConverse APIと同時のためConverse APIの機能拡張の ように見えるが、実はInvoke Model APIでも利用可能
Toolの概念図 https://speakerdeck.com/minorun365/anthropickinoto-bedrock-claude-night-2?slide=23 質問に答えて (こんなツール持ってるので良かった ら使ってください) このツールを使って結果教え て ツール実行 ツールの結 果これです
最終回答
ToolとAgentの違い(Bedrock Claude Night 2のキーノート資料より) • Tool useの構文や構造を隠す 抽象化レイヤー • より速いセットアップ
• JSONをアウトプットする JSONモード • 強制的なツールの使用 (特定のツール 1 つまたは複数のツールの選択) エージェントのメリット Toolのメリット
Converse APIとTool Useの詳細はこちら! Bedrock Claude Night 2に登壇された鯨田さんのLTにまとまってましたのでそちらを ご参照ください https://bit.ly/3zmwoqQ
おわり