AWS re:Invent 2024 recap in 20min / JAWSUG 千葉 2025.1.14

JAWSUG 千葉 にて 2025.1.14 発表

Transcript

1. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. AWS re:Invent 2024 recap in 20min JAWSUG 千葉 / 2025.1.14 しみず 1
2. © 2023, Amazon Web Services, Inc. or its affiliates. All rights reserved. © 2023, Amazon Web Services, Inc. or its affiliates. All rights reserved. ⾃⼰紹介 清⽔ 崇之 ソリューションアーキテクト @shimy_net モノづくり AWS 公式ウェブマガジン builders.flash 「変⾝ベルト」を機械学習で作ってみた https://aws.amazon.com/jp/builders- flash/202108/ml-henshin-belt/
3. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. 13 回⽬ 参加者: 6 万⼈ (40 万⼈がオンラインで参加）
4. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. 4 Peter DeSantis SVP, Utility Computing, AWS Dr. Swami Sivasubramanian VP, AI and Data, AWS Dr. Werner Vogels VP and CTO, Amazon.com Matt Garman CEO, AWS
5. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. • キー メッセージ • サービス アップデート Agenda 5
6. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. AWS はお客様の代わりにイノベーションを起こす • 今⽇では、あらゆる業界/規模/ユースケースでAWS が利⽤されているが、初めからそうではなかった • 黎明期にUSの銀⾏からは、コンプライアンス、監査、規制、 セキュリティ、暗号化などを理由に、商⽤ワークロードの実 ⾏は難しいとのフィードバックを受けた • 10年かけて⼀つずつ解決し、今や多くの⾦融機関がAWSを利 ⽤している • ”We work backwards from the customer.” • 顧客が望むものを提供するだけでなく、顧客の代わりに発明 • “Good enough”なモノリスソリューションでは不⼗分。最⾼ のコンポーネントの組み合わせ、という考えで AWS が誕⽣ • 顧客重視と Working Backwards は AWS の DNA 6
7. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. 7
8. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. 8 セキュリティを⽀える AWS Nitro System への投資 Security of AWS Nitro System • クラウドのセキュリティには絶対的な確実性が求めら れる • 未承認のコード混⼊を防ぐため、連続的な検証の チェーンを構築することが重要 • ROM、 Firmware、 Bootloader、 OS 等の全ての起 動チェーン • ハードウェアの製造、組み⽴て、輸送経路、データ センター、等の全ての製造チェーン • 暗号鍵が組み込まれた AWS Nitro Chip (Root of Trust) から始まる署名のチェーン • Graviton4 では検証の仕組みが CPU まで拡張され、 互いの信頼を確認し暗号化通信を⾏う
9. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. 9 コンピューティングとストレージの分離 Barge • ⾼い密度と管理性を実現するために、1 台のノード に288 台のドライブを搭載した Barge を開発 • しかし重量や振動、障害復旧の難しさなどの課題が ⽣じ、新しい仕組みへ 現在のアーキテクチャ • ヘッドノードとストレージ(JBOD)を分離 • 障害の影響範囲の極⼩化と復旧速度の向上を実現 • スケーラビリティも向上
10. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. 10 Innovation at Amazon
11. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. 11 物流における AI 活⽤ • ⾼速な商品配達のために在庫を配置する 物流センターを予測 • 需要予測にトランスフォーマーモデルを 採⽤ • アーム型ロボット「Sparrow」が商品発 送を効率化（Luisianaで 25% 処理時間 を⾼速化）
12. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. 12 お客様の買い物をアシストするチャットボット • ⽣成 AI チャットボット「Rufus」がお客 様の買い物をアシスト • 商品カタログ､顧客レビュー､インターネッ ト上の情報､ Q＆A 情報を学習 • テキスト対話でパーソナライズされた情報 を提供 • 物理店舗で店員さんとやり取りしながら買 い物するような体験
13. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. 13 画像を使って商品を視覚的に検索 • 「Amazon Lens」は､画像のアップロード、 撮影した写真、バーコードスキャンで､ ⼀致する商品や類似商品の検索を⽀援 • コンピュータビジョン、マルチモーダル モデルを使⽤して検索を⾏う
14. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. 14 サービスアップデート
15. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. • Amazon EC2 Trn2 インスタンス AWS Trainium 2 AI チップを搭載し、P5e/P5en と⽐較して 30-40%⾼いコストパ フォーマンスを発揮。16 基の Trainium2 チップでピーク時 20.8PFLOPS の演算 能⼒を提供 • Amazon EC2 Trn2 UltraServers 64 基の Trainium 2 を NeuronLink で接続。ピーク時最⼤ 83.2PFLOPS と単体イ ンスタンスの 4 倍の演算能⼒を提供し最⼤規模のモデルトレーニングやデプロイ を可能に • 来年後半の Trainium 3 の登場をプレアナウンス 15 現⾏世代の GPU ベース EC2 インスタンス⽐で 30-40% ⾼いコストパフォーマンスを発揮 Amazon EC2 Trn2 インスタンスと UltraServers を発表 https://aws.amazon.com/about-aws/whats-new/2024/12/amazon-ec2-trn2-instances-available/ Preview
16. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. • Amazon S3 Tables 表形式データの格納に最適化された新しいバケットタイプを導⼊。 Apache Iceberg の⾼度な分析機能を活⽤可能に。セルフマネージド型のテーブルと⽐較 してクエリスループットが最⼤ 3 倍⾼速に。秒間トランザクション数が最⼤ 10 倍に向上する • Amazon S3 Metadata オブジェクトがアップロードされると⾃動的にメタデータを取得し、Amazon S3 Tables に格納。ビジネス分析やリアルタイム推論アプリケーションが、素早く S3 に格納されたデータを識別・利⽤できるようになる § AWS Glue を介して Amazon Data Firehose, Athena, Redshift, EMR, QuickSight などとも連携可能 16 Apache Icebergのテーブルを標準でサポートする最初のクラウドベースオブジェクトストレージ Storage - Amazon S3 Tables と S3 Metadata を発表 https://aws.amazon.com/about-aws/whats-new/2024/12/amazon-s3-tables-apache-iceberg-tables-analytics-workloads/ https://aws.amazon.com/about-aws/whats-new/2024/12/amazon-s3-metadata-preview/ Preview
17. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. Amazon Aurora DSQL Amazon DynamoDB global tables NEW NEW 最速の分散型 SQL データベース NoSQL 分散データベースでも マルチリージョン間の強い⼀貫性を確保 Available in Preview Today Available in Preview Today マルチリージョンで強い⼀貫性を持つ データベースオプションを発表
18. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. • 強い⼀貫性を持ち、99.999% のマルチリージョン可⽤性を実現するサーバレス型 の分散 SQL データベースサービス 18 他の⼀般的な分散SQLデータベースと⽐較して 4 倍⾼速な分散 SQL データベース Amazon Aurora DSQL を発表 https://aws.amazon.com/about-aws/whats-new/2024/12/amazon-aurora-dsql-preview/ § PostgreSQL 互換 § ⾃動化された障害回復機能 § 事実上無制限のスケーラビリティ § プロビジョニングやパッチ適⽤、管理が不要 § あるリージョンの書き込みは強い⼀貫性で 他リージョンに反映される Preview
19. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. Werner が DSQL の仕組みを解説 スケールファクターに基づいた コンポーネント化 19 マイクロ秒の精度で時刻同期を実現する Amazon Time Sync Service
20. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. • Amazon DynamoDB がすでに提供している Global tables がマルチリージョンの 「強い整合性」をサポート 20 NoSQL データベースを必要とするマルチリージョンアプリケーションの構築が容易に Amazon DynamoDB global tables で強い整合性をサポート https://aws.amazon.com/about-aws/whats-new/2024/12/amazon-dynamodb-global-tables-previews-multi-region-strong-consistency/ § 「強い整合性」は読み取ったデータは最新で あることが保証される整合性モデル § 従来の「結果整合性」は古いデータを読み出 すことがあるモデルで、それを考慮したアプ リケーション設計が必要だった § Amazon Aurora DSQL と同じ基盤技術を活⽤ ※⽶国東部(バージニア, オハイオ)、⽶国⻄部(オレゴン)の リージョンで⼀般利⽤開始に。
21. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. 21
22. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. 22 新しい Building Block: Inference • ⽣成 AI はすべてのアプリケーションに とってコアコンポーネントになっていく • Genentech では、43,000 時間以上の マニュアルワークを⾃動化で削減 • Amazon Bedrock は昨年約 5 倍成⻑ • ユースケースに合わせてモデルを選択す ることが重要
23. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. AWS Generative AI Stack APPLICATIONS TO BOOST PRODUCTIVITY MODELS AND TOOLS TO BUILD GENERATIVE AI APPS INFRASTRUCTURE TO BUILD AND TRAIN AI MODELS Amazon Q Business INSIGHTS AND AUTOMATION Amazon SageMaker MANAGED INFRASTRUCTURE Amazon Bedrock AMAZON MODELS | PARTNER MODELS Amazon Q Developer SOFTWARE DEVELOPMENT LIFECYCLE GPUs AWS Trainium AWS Inferentia HIGH PERFORMANCE COMPUTE
24. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. Amazon Nova の提供開始 Amazon Nova Micro マルチモーダル・画像⽣成・動画⽣成モデル Amazon Nova Pro Amazon Nova Lite Amazon Nova Premier Amazon Nova Canvas Amazon Nova Reel テキストのみに対応、 低コストと低遅延 [⼀般提供開始] テキスト以外に画像､⾳声､ 動画対応のマルチモーダル [⼀般提供開始] テキスト以外に画像､⾳声､ 動画対応のマルチモーダル [⼀般提供開始] マルチモーダル､最も複雑 な推論タスクに対応 [2025年提供予定] テキストからスタジオ品質の 画像を⽣成 [⼀般提供開始] テキストからスタジオ品質の 動画を⽣成 [⼀般提供開始]
25. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. • 新しいモデルプロバイダーと基盤モデル • poolside (new): コードやドキュメントを⽣成する「malibu」「point」 • Luma AI (new): ⾼品質な動画を⽣成する「Ray 2」 • Stability AI: ⾼品質な画像を⽣成する「Stable Diffusion 3.5」 • このアップデートによりBedrockのモデルプロバイダーは9社に • Amazon Bedrock Marketplace • 特化型や新興プロバイダーを含む100以上の基盤モデルに簡単にアクセス • Agents, GuardrailsなどのBedrockが持つ様々な機能も活⽤できる • ⽇本からはPreferred Networks, Stockmark, KARAKURIが既にモデルを公開 25 業界をリードするモデルプロバイダーの最新の基盤モデルを追加、 さらに新たな100以上のモデルにアクセスできるMarketplaceを提供 Amazon Bedrockがモデルの選択肢を拡⼤ https://aws.amazon.com/about-aws/whats-new/2024/12/amazon-bedrock-marketplace-100-models-bedrock/ ※malibuは来年前半に提供予定。 Stable Diffusion 3.5 Largeはまもなく登場。 Ray 2はまもなく登場。 ※⽶国東部(バージニア、オハイオ)、⽶国⻄部(オレゴン)、アジアパシフィック(ムンバイ、ソウル、シンガポール、シドニー、東京) 、カナダ(中央)、 欧州(フランクフルト、アイルランド、ロンドン、パリ、南⽶(サンバウロ)リージョンで⼀般利⽤開始。
26. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. 安全性と責任ある AI の チェック Amazon Bedrock re:Invent 2024 新機能発表 ⽣ 成 A I ア プ リ ケ ー シ ョ ン の 構 築 と 拡 張 を 最 も 簡 単 か つ 迅 速 に ⾏ う ⽅ 法 組織内データを⽤いた カスタマイズ Guardrails が⾃動推論 チェックをサポート (preview) Guardrails マルチモーダル 毒性検知をサポート (preview) コスト、迅速性、正確性を 最適化 Knowledge Bases の GraphRAG サポート (preview) Knowledge Bases の構造化データ 取得のサポート (GA) Data Automation (preview) Knowledge Bases のマルチ モーダルデータ処理サポート (GA) エージェントの構築と オーケストレーション プロンプトキャッシング (preview) Intelligent Prompt Routing (preview) モデル蒸留 (preview) 最適なモデルの選択 Model Evaluation LLM-as-a-judge (preview) Marketplace (GA) AWS セキュリティ、プライバシー、信頼性はビルトイン レイテンシー最適化 推論オプション (preview) Knowledge Bases の ストリーミング応答サポート (GA) Knowledge Bases のカスタム データソースからの リアルタイム同期サポート (GA) Reranker API (GA) Knowledge Bases の RAG 評価 サポート (preview) Knowledge Bases のデータ取得 のためのクエリフィルター ⾃動⽣成 (GA) マルチエージェント コラボレーション (preview)
27. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. • AWS は開発者の差別化に繋がらない重労働を排除しクリエイティブな業務に 集中できるようにする 27 すべてのビルダーがイノベーションを起こせるように
28. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. • .NETアプリケーションのクロスプラットフォーム化 Windows で実⾏されている .NET Framework アプリケーションを Linux を含むク ロスプラットフォームの .NET に移植する作業を⾼速化。作業を最⼤ 4 倍⾼速化 し、Linux化により最⼤ 40% ライセンスコストを削減 • メインフレームのモダナイゼーション アプリケーション資産を⾃動的に分類・整理。ユーザとの対話を通じてモダナイ ゼーションの計画を⽴案するとともに COBOLから Java への変換にも対応 • VMware 環境の変換 VMware ベースシステムの Amazon EC2 ベースへの変換を促進。⽣成 AI アシス タントがシステムの移⾏とモダナイゼーションを加速する 28 .NETアプリケーションの変換、メインフレームのモダナイゼーション、VMware環境の変換 Amazon Q Developerの変換機能を強化 https://aws.amazon.com/about-aws/whats-new/2024/12/amazon-q-developer-transformation-net-porting-preview/ https://aws.amazon.com/about-aws/whats-new/2024/12/amazon-q-developer-transformation-mainframe-modernization/ https://aws.amazon.com/jp/about-aws/whats-new/2024/12/amazon-q-developer-transformation-capabilities-vmware-preview/ Preview Preview Preview
29. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. • Amazon Q Developer に AWS 環境全体の運⽤調査を 素早く実⾏する機能を追加 • クラウド環境とリソースについての情報に基づき、 異常検知と調査のための情報収集を実⾏。原因を推 定し解決策を提⽰する • ⼿動で調査を開始、または CloudWatch アラーム から⾃動で調査も可能 • CloudWatch のテレメトリや CloudTrail のログ、 デプロイ情報、リソースの設定変更、AWS Health イベントなどから問題を推定する 29 システム運⽤に関する調査を⽀援する⽣成 AI 機能 Amazon Q Developer Operational Investigation capability を発表 https://aws.amazon.com/jp/about-aws/whats-new/2024/12/amazon-q-developer-operational-investigation-preview/
30. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. 30