pre:Invent から気になった サービスを深掘りしてみる - ECS 予測スケーリング編 / ECS-predictive-scaling

Transcript

1. フォージビジョン株式会社 山口正徳 pre:Invent から気になった サービスを深掘りしてみる - ECS 予測スケーリング編 1
2. 山口 正徳 フォージビジョン株式会社 執行役員 AWS技術責任者 兼 AWS事業責任者 グローバル認定/表彰 ・AWS Community HERO ・AWS Ambassador ・APJ AWS Community Leaders Award 2回受賞（2022、2024） ・AWS Gold Jacket Club 日本国内認定 ・AWS Samurai ・Japan AWS Top Engineer 2019 – 2023(2024は辞退) ・APN ALL AWS Certifications Engineers 2023 – 2024
3. re:Invent 2024 で APJ Community Leaders Award 2024 (Customer Obsession) を受賞しました！
4. © 2024 ForgeVision, Inc. 4 今回は pre:Invent (re:Inventが始まる前の期間) にフォーカスします
5. © 2024 ForgeVision, Inc. 5 re:Invent 2週間前くらいから追いつけなくなる What’s new の更新速度
6. © 2024 ForgeVision, Inc. 6 re:Invent 期間中よりも前からAWSサービスの reinvent は始まっている https://speakerdeck.com/ohmura/jaws-ug-chibaraki-enjoy-cool-and-unaware-feature-at-pre-invent-2024 より引用
7. © 2024 ForgeVision, Inc. 7 今回、取り上げる pre:Invent のサービスアップデート！
8. © 2024 ForgeVision, Inc. 8 https://aws.amazon.com/jp/about-aws/whats-new/2024/11/predictive-scaling-for-amazon-ecs-services/ より転記
9. © 2024 ForgeVision, Inc. 9 ・ メモリ利用率、CPU使用率、ロードバランサーからのリクエスト数などをもとにした静的な オートスケーリング閾値を設定する必要がない。 ・ システムの需要状況を学習することで動的かつプロアクティブなスケーリングを行う。 ・ 予測スケーリングに任せない明確なスケーリングを閾値を既存スケーリングで設定可能。 ・ パターン化された負荷変動には予測スケーリング、断続的な負荷変動に既存スケーリングなどの使い分け。 ・ 予測のみを行いスケーリングは行わない 「予測のみ」 モードで予測精度と適合性を評価。 ・ 予測はするが実際のスケーリング動作は行わない。（AWS WAF のカウントモードのようなイメージ） 機械学習を利用し、需要予測に先行したオートスケーリングを行う 「予測のみ」モードを利用して事前に予測精度と適合性を確認できる 予測スケーリングと既存スケーリングを併用できる（基本的に併用が前提 ※後述) 予測スケーリングとは コンテナによって１つの処理単位を小さくし、処理状況に応じたスケーリングをより適切に実行することで システム全体の弾力性を向上できる。プロダクションでの利用をおすすめしたい pre:Invent アップデートです。
10. © 2024 ForgeVision, Inc. 10 ECS予測スケーリング導入時の注意点 ・ 予測スケーリングだけではスケールインされないため、既存スケーリングとの併用が必要。 (基本的に併用が必要として記載していたのはこの為） ・ 予測スケーリングを行うには最低24時間の稼働履歴データが必要。公式では2週間のデータが必要と されている。スケーリングが求められる環境で稼働開始してから2週間は予測のみモードで傾向を確認する。 ・ECSサービス詳細から「サービスの自動スケーリング」タブを選択し、スケーリングポリシーを作成する。 （詳細は次のスライド） 予測スケーリングはスケールアウトのみ、スケールインは行わない 「サービスの更新」からは予測スケーリングは設定できない 作成したばかりのECSサービスでは予測スケーリングは利用できない
11. © 2024 ForgeVision, Inc. 11 「サービスの更新」からは予測スケーリングは設定できない 予測スケーリングが 項目として存在しない
12. © 2024 ForgeVision, Inc. 12 ECSサービス詳細から「サービスの自動スケーリング」タブを選択し、 スケーリングポリシーを作成する
13. © 2024 ForgeVision, Inc. 13 予測のみモードにおける評価結果確認 ワークロードとしては1タスクで対応できていたことが評価結果からわかる （ただし1タスクでは可用性が落ちることも考慮が必要）
14. © 2024 ForgeVision, Inc. 14 ECSサービス 予測スケーリングを活用するためのポイント ・ 予測のみモードでスケーリング ポリシーを構成して事前にスケーリング頻度など確認する。 ・ マネージメントコンソールから予測結果に基づく推奨事項も確認できる。 ・ 業務アプリケーションや開発環境など利用される時間がパターン化している環境。 EventBridgeを用いてスケジュール型のスケーリングは可能だが、タスク数などの調整も予測スケーリングに 任せることができる。 ・ メッセージキューイングと連携したイベント駆動型ワークロードにおいて、メッセージ数ではスケーリングを 制御できない場合、予測スケーリングで使ってベースラインを設定する。 ・ 予測スケーリング、既存スケーリングはそれぞれ独立して必要タスク数を計算するため、既存スケーリング ポリシーが現在のタスクよりも少ないタスク数を算出した場合でも、ECSはスケールインを行わない。 予測スケーリング、既存スケーリングの両方が現在のタスクよりも少ないタスク数を算出場合に スケールイン処理を行う。 予測スケーリングが適している環境か事前の確認が必要 予期せぬスケールインへの保険とする 予測スケーリングが適している環境を認識して適用対象を選択する
15. © 2024 ForgeVision, Inc. - 15 - フォージビジョン株式会社 ご清聴ありがとうございました。