Upgrade to Pro — share decks privately, control downloads, hide ads and more …

個人的 2025年1Q Amazon Bedrockニュース

tsujikawa
March 26, 2025
37

個人的 2025年1Q Amazon Bedrockニュース

tsujikawa

March 26, 2025
Tweet

Transcript

  1. ©Copyright 2024 SKYARCH, an IBM Company 2 Agenda 1. 自己紹介

    2. re:Invent 2024 〜 現在までのUpdate 3. Amazon Bedrockが大阪リージョンに登場! 4. Claude 3 Sonnetが一部リージョンでレガシー 5. Claude 3.7 SonnetがNow on Sale! 6. Amazon Q Developer CLIエージェント半端ないって 7. まとめ
  2. ©Copyright 2024 SKYARCH, an IBM Company 4 自己紹介(お仕事)  所属:ITサービス本部 システムアーキテクト部 デベロップメント課  お仕事:インフラ設計/構築、アプリ設計/開発、PJマネジメント

     資格:2023,2024 Japan AWS All Certifications Engineers            2024 Japan AWS Top Engineers  好きなAWSサービス:AWS CDK、AWS Lambda、Amazon Bedrock  大学時代:宇宙線からのニュートリノを追っかける日々  趣味:読書、映画鑑賞、競馬鑑賞 辻川 弘規 (つじかわ ひろき) @teriyakisu
  3. ©Copyright 2024 SKYARCH, an IBM Company 7 re:Invent 2024 〜

    現在までのUpdate re:Invent 2024直後のUpdate 個人的には一番試してみたい機能 まだ限定プレビュー状態 Amazon Novaシリーズの登場! BDAやグラフRAGの登場
  4. ©Copyright 2024 SKYARCH, an IBM Company 8 re:Invent 2024から4ヶ月間でのUpdate(辻川調べ) RAGやその他機能にてGA(一般公開)

    RAGやその他機能にてGA(一般公開) Claude 3.7 Sonnetの登場 東京リージョンにてNovaが利用可能 DeepSeek-R1モデルの登場 re:Invent 2024 〜 現在までのUpdate
  5. ©Copyright 2024 SKYARCH, an IBM Company 10 Amazon Bedrockが大阪リージョンに登場! ブログ書いたお

    利用可能な基盤モデル(LLM)は? 2025/3時点では、Claude 3.5 Sonnet v2 / Titan Text Embeddings V2 -> Claude 3.5 Sonnet v2はクロスリージョン推論のみ対応
  6. ©Copyright 2024 SKYARCH, an IBM Company 11 Amazon Bedrockが大阪リージョンに登場! クロスリージョン推論

    とは? Blackbeltより引用 https://pages.awscloud.com/rs/112-TZM-766/images/AWS-Black-Belt_2024_Amazon-Bedrock-Model-Inference-b_0909_v1.pdf
  7. ©Copyright 2024 SKYARCH, an IBM Company 12 Amazon Bedrockが大阪リージョンに登場! ブログ書いたお

    てことは、東京/大阪の国内リージョンの分散が可能!? 国内でなく、アジアリージョン全体でLLM呼び出しがルーティングされる。 -> 大阪リージョンで呼び出しても、海外リージョンのLLMが呼び出される可能性あり。
  8. ©Copyright 2024 SKYARCH, an IBM Company 13 Amazon Bedrockが大阪リージョンに登場! ブログ書いたお

    LLM呼び出しログを確認してみる CloudWatch Logsから確認してみるとシドニーリージョンのLLMが呼び出される
  9. ©Copyright 2024 SKYARCH, an IBM Company 14 Amazon Bedrockが大阪リージョンに登場! ブログ書いたお

    アジアリージョン全体のLLMモデルを整理 Claude 3.5 Sonnet v2のオンデマンド推論はシドニーリージョンのみ。 実態はシドニーにしかないため、常にシドニーのみにルーティング?(詳しい方教えてください)
  10. ©Copyright 2024 SKYARCH, an IBM Company 16 Claude 3 Sonnetが一部リージョンでレガシー

    なんと複数リージョンでClaude 3 Sonnetがレガシーに! 東京リージョンは まだアクティブ
  11. ©Copyright 2024 SKYARCH, an IBM Company 17 Claude 3 Sonnetが一部リージョンでレガシー

    LLMのライフサイクルについておさらい Blackbeltより引用 https://pages.awscloud.com/rs/112-TZM-766/images/AWS-Black-Belt_2024_Amazon-Bedrock-Model-Inference-a_0909_v1.pdf
  12. ©Copyright 2024 SKYARCH, an IBM Company 18 Claude 3 Sonnetが一部リージョンでレガシー

    EOLの6ヶ月前にメールにて通知されてました 7/21以降 オレゴンリージョンなどで Claude 3 Sonnetを 利用するとエラーとなります!
  13. ©Copyright 2024 SKYARCH, an IBM Company 20 Claude 3.7 SonnetがNow

    on Sale! 初のハイブリッド推論モデル!お値段 なんとClaude 3.5シリーズ据え置き価格! 【標準モード】 Claude 3.5 Sonnet の改良版 【拡張思考モード】 問題を詳細に分析し、解決策を計画し 複数の視点を検討してから回答を提供 コード生成や図解生成などで驚きの実力発揮!
  14. ©Copyright 2024 SKYARCH, an IBM Company 21 Claude 3.7 SonnetがNow

    on Sale! SKYChatにも早速LLM追加対応! draw.ioにて図解を貼り付けられるように XML形式で出力とプロンプト指示!
  15. ©Copyright 2024 SKYARCH, an IBM Company 22 Claude 3.7 SonnetがNow

    on Sale! 図解作成イメージはこんな感じ
  16. ©Copyright 2024 SKYARCH, an IBM Company 23 Claude 3.7 SonnetがNow

    on Sale! ソースコード修正もお手のもの 推論タイプを出力するように変更 オンデマンド/クロスリージョン推論 など 既存のソースコードをプロンプトに含め ソースコード修正依頼を投げると 後方互換性を持つ形で修正までしてくれる!
  17. ©Copyright 2024 SKYARCH, an IBM Company 25 Amazon Q Developer

    CLIエージェント半端ないって Amazon Q Develoer for CLIが進化!詳細はブログ読んでください! ブログ書いたお Ver 1.7.0より利用可能!
  18. ©Copyright 2024 SKYARCH, an IBM Company 26 Amazon Q Developer

    CLIエージェント半端ないって どんなことができるの? -> AWS環境の情報取得(例:S3バケット一覧) ブログ書いたお VS Code内Amazon Q プラグイン ・日本語 非対応 ・英語で質問しても  CLI/SDKでの取得方法のみ提示 Amazon Q Developer for CLI ・日本語 対応 ・AWSプロファイル情報より  対象AWSアカウントを参照し  S3バケット一覧の値を取得可能
  19. ©Copyright 2024 SKYARCH, an IBM Company 27 Amazon Q Developer

    CLIエージェント半端ないって どんなことができるの? -> CDKのコードを1から生成 ブログ書いたお
  20. ©Copyright 2024 SKYARCH, an IBM Company 28 Amazon Q Developer

    CLIエージェント半端ないって どんなことができるの? -> リファクタリングだってへっちゃらさ ブログ書いたお
  21. ©Copyright 2024 SKYARCH, an IBM Company 30 まとめ(個人的感想) 1. Preview

    -> たった4ヶ月で半分近くがGA! 2. Bedrockのアップデート多いのでキャッチアップ大変、But 楽しい! 3. Amazon Nova Premierが待ち遠しい! 4. プロンプトキャッシュを早く利用したい! 5. 国内リージョン内でのクロスリージョン推論を希望! 6. Amazon Q DeveloperのProアカウントに移行せねば!