Bedrock最新情報 Bedrock Studio、Converse API / Tool use | 書籍「Amazon Bedrock 生成AIアプリ開発入門」出版イベント

Transcript

1. Bedrock最新情報 ・Bedrock Studio ・Converse API / Tool use 書籍「Amazon Bedrock 生成AIアプリ開発入門」出版イベント @moritalous
2. 5/7 Amazon Bedrock Studio発表（プレビュー） • Bedrock Studioは組織内の開発者が生成AIアプリを構築するためのWebイン ターフェイス • IAM Identity Centerを使ったSSOに対応 • ナレッジベース、エージェント、ガードレールに対応 • AWSに詳しくない開発者向けにBedrockの部分だけを切り出して使えるようにし たイメージ
3. Amazon Bedrock Studio - ポータル画面
4. Amazon Bedrock Studio - IAM Identity Centerでログイン
5. Amazon Bedrock Studio - 初期表示（プレイグラウンド）
6. Amazon Bedrock Studio - プロジェクト一覧
7. Amazon Bedrock Studio - プロジェクト詳細（AppとComponentが含まれる）
8. Amazon Bedrock Studio - ナレッジベースコンポーネントを作成
9. Amazon Bedrock Studio - ガードレールコンポーネントを作成
10. Amazon Bedrock Studio - ファンクションコンポーネントを作成 Agents for Amazon Bedrockのアクショングループと 呼び出し先のLambda（外部API呼び出し処理が実 装済み）が作成される
11. Amazon Bedrock Studio - コンポーネントを組み合わせてアプリを作成 アクショングループ（Lambda）による回答 ナレッジベースによる回答 問い合わせ実行時にナレッジベースを Agents for Amazon Bedrockに登録してデプロイするのでちょっ と時間がかかる
12. 5/30 新しいConverse API登場 • これまではInvokeModel APIでBedrockのモデルを呼び出していた （ストリーミングレスポンスに対応した InvokeModelWithResponseStreamもあり） • InvokeModel APIの場合、使用するモデルごとに専用のBodyパラメーターを指 定する必要があった • Converse APIはBodyパラメーターが共通化され、異なるモデルに対して同じ呼 び出し方が可能になった • 会話型のメッセージをやり取りする前提でパラメーターが共通化されている
13. イメージ Claude用フォーマット Command用フォーマット Invoke Model APIはフォーマットがバ ラバラ Converse APIはフォーマットが共 通 同じフォーマットでOK モデルIDの変更だけで切り替えられる
14. InvokeModel APIとの使い分け • 埋め込みや画像生成はこれまで 通りInvoke Model API • モデルに特化したパラメーターを 使用したい場合もInvoke Model API （Command Rの search_queries_onlyなど） • Converse APIはガードレールに 未対応→6/18に対応
15. 5/30 Tool Useに対応 • Anthropic Claude 3のTool Use機能正式リリースと同時にBedrockでも利用可 能に（Google Vertex AIも同時） • Claude 3 / 3.5だけでなくCohere Command R/R+、Mistral Small/Largeも対応 • What’s newの発表がConverse APIと同時のためConverse APIの機能拡張の ように見えるが、実はInvoke Model APIでも利用可能
16. Toolの概念図 https://speakerdeck.com/minorun365/anthropickinoto-bedrock-claude-night-2?slide=23 質問に答えて （こんなツール持ってるので良かった ら使ってください） このツールを使って結果教え て ツール実行 ツールの結 果これです 最終回答
17. ToolとAgentの違い（Bedrock Claude Night 2のキーノート資料より） • Tool useの構文や構造を隠す 抽象化レイヤー • より速いセットアップ • JSONをアウトプットする JSONモード • 強制的なツールの使用 （特定のツール 1 つまたは複数のツールの選択） エージェントのメリット Toolのメリット
18. Converse APIとTool Useの詳細はこちら！ Bedrock Claude Night 2に登壇された鯨田さんのLTにまとまってましたのでそちらを ご参照ください https://bit.ly/3zmwoqQ
19. おわり