re:Invent 2024 re:Cap コンピューティング＆コンテナ

宇宙最速のランチRecap LT会（AWS re:Invent 2024）
https://jawsug.connpass.com/event/337662/

Transcript

1. re:Invent 2024 re:Cap コンピューティング＆コンテナ 宇宙最速のランチRecap LT会 2024/12/9
2. • y-ohgi ◦ 株式会社topotal ▪ SRE ◦ JAWS-UG 東京支部 ◦ X: @_y_ohgi • Like ◦ Container, TypeScript, Next.js, nail だれ
3. • EC2 • ECS • EKS Elastic Compute Cloud おはなしすること
4. I8g インスタンス • ストレージ最適化インスタンス • AWS Nitro SSD ( NVMe ) • Graviton4プロセッサ • 前世代I4gインスタンスと比較して60％の性能向上 • 対応リージョン ◦ バージニア北部・オレゴン EC2 https://aws.amazon.com/about-aws/whats-new/2024/12/amazon-ec2-i8g-instances/
5. I7ie インスタンス • ストレージ最適化インスタンス • AWS Nitro SSD ( NVMe ) • 対応リージョン ◦ バージニア北部・オハイオ・オレゴン・フランクフルト・ロンドン・東京 EC2 https://aws.amazon.com/about-aws/whats-new/2024/12/amazon-ec2-next-generation-high-density-storage-optimized-i7ie-instances/
6. P5en インスタンス • HPC向けGPUインスタンスタイプ • NVIDIA H200 Tensor Core GPU搭載 • メモリを大量に消費する大規模モデルのトレーニング・デプロイ用途 • P5との比較 ◦ 1.7倍のGPUメモリサイズ ◦ 1.5倍のメモリ帯域幅 ◦ ローカルストレージのパフォーマンスが最大 2倍 • 対応リージョン ◦ オハイオ・オレゴン・東京・アトランタ EC2 https://aws.amazon.com/about-aws/whats-new/2024/12/amazon-ec2-p5en-instances-generative-ai-hpc-generally-available/
7. • Trn2インスタンスが GA • 生成AIトレーニング向けインスタンス • AWS Trainium2を搭載 ◦ 生成AI専用に設計されたチップ • 対応リージョン ◦ オハイオ（要リクエスト） • Trn2 UltraServer（preview） ◦ EC2 UltraClusterを使用し4台のTrn2インスタンスを1つのノードとして扱う ◦ Trn2が16個のTrainium2を搭載に対して、UltraServerは64個搭載 Trn2 インスタンス EC2 https://aws.amazon.com/about-aws/whats-new/2024/12/amazon-ec2-trn2-instances-available/
8. Allow AMI • AMIのガバナンス新追加 • 使用可能なAMIの制限を設定可能に。 ◦ AWS Organizations全体に適用可能 • 今までは出所や信頼性が不明なAMIを自由に使えていたためガードレール的な機能 EC2 https://aws.amazon.com/about-aws/whats-new/2024/12/amazon-ec2-allowed-amis-enhance-ami-governance/
9. Image BuilderとMarketplaceの統合 • Image BuilderのパイプラインにMarketplaceのコンポーネントが追加可能に。 • Marketplaceで提供されるためセットアップが楽に。 • 現在追加可能なコンポーネント一部 ◦ Grafana Cloud Alloy ◦ Datadog ◦ Kong ◦ DataMasque ◦ etc... EC2 https://aws.amazon.com/about-aws/whats-new/2024/12/aws-marketplace-ec2-image-builder-components-software-vendors/
10. • EC2 • ECS • EKS Elastic Container Service おはなしすること
11. ECSサービスの予測スケール • ECSサービスを機械学習で予測スケールを行う機能追加 • サービスの需要を予測し、先立ってスケーリングを行う • スケーリングをさせずに予測のみさせることも可能 • 既存のオートスケールとも併用可能 ECS https://aws.amazon.com/about-aws/whats-new/2024/11/predictive-scaling-for-amazon-ecs-services/
12. ECSサービスの AZのリバランス • ECSサービスの AZを均衡に保つ機能追加 • AZ障害などでタスクが一部のAZに偏った場合にリバランスを行ってくれる • EC2・Fargate両方対応 • デフォルトだと無効 ECS https://aws.amazon.com/about-aws/whats-new/2024/11/amazon-ecs-az-rebalancing-speeds-mean-time-recovery-event/
13. ECSサービスの一貫性設定のサポート • 前提 ◦ 7月のアップデートで同一のタグでサービスを実行するとイメージの digest値を強制的に参照する よう変更があった ◦ 例えばlatestタグで新しいイメージをpushしても、digest値のイメージが参照されてしまっていた ◦ そのためlatestタグを参照し続ける運用ができなくなってしまった • 今回のアップデートで digest値を参照するかを任意で設定可能になった。 • 一貫性のサポートはバージョンを上げる必要がある。 ◦ ECSエージェントは1.70.0以上 ◦ Fargateは1.4.0以上 ECS https://aws.amazon.com/about-aws/whats-new/2024/11/amazon-ecs-configure-software-version-consistency/
14. ECSサービスのバージョニングとデプロイ履歴 • ECSサービスのバージョニングと詳細情報を取得可能に。 • バージョンの詳細情報 ◦ デプロイがいつ開始したか ◦ デプロイが成功したか・失敗したか ◦ 使用しているタスク定義 ◦ ロードバランサー • 過去のバージョンの詳細情報も取得可能 ◦ 90日間保持 ECS https://aws.amazon.com/about-aws/whats-new/2024/11/service-versioning-deployment-history-amazon-ecs-services/
15. • EC2 • ECS • EKS Elastic Kubernetes Service おはなしすること
16. EKS Auto Mode • AWSのマネージドKubernetes ◦ コンピューティング、ストレージ、ネットワークをマネージドで行ってくれる ◦ AWS Load Balancer Controller・アドオン等がデフォルトで導入されている！ • Node ( EC2 )の管理をAWSが行ってくれる ◦ 責任分界点がEC2より上になる（EC2はAWSが面倒を見てくれる！） ▪ コンソール上にEC2が表示されるが、sshは行えない ▪ OSのパッチ適用やアップデートなども自動で行ってくれる ◦ Karpenterと同等の機能が提供される ▪ Podが起動していなければNodeは0台に！ • RI/SPがサポート • Fargateとの併用は不可 EKS https://aws.amazon.com/about-aws/whats-new/2024/12/amazon-eks-auto-mode/
17. EKS Hybrid Nodes • コントロールプレーンをEKSに、オンプレのマシンをノードとして管理することが可能に。 • EKS Anywhereとの違いは顧客がコントロールプレーンも管理する必要がある点 EKS https://aws.amazon.com/about-aws/whats-new/2024/12/amazon-eks-hybrid-nodes/ https://aws.amazon.com/blogs/aws/use-your-on-premises-infrastructure-in-amazon-eks-clusters-with-amazon-eks-hybrid-nodes/