Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
ジョブ管理システムをAWS Step Functionsに移行する時の勘所
Search
のんピ
July 29, 2022
Technology
8
20k
ジョブ管理システムをAWS Step Functionsに移行する時の勘所
ジョブ管理システムをAWS Step Functionsに移行する際に考えるべきこと注意することをまとめてみました。
のんピ
July 29, 2022
Tweet
Share
More Decks by のんピ
See All by のんピ
コスト最適重視でAurora PostgreSQLのログ分析基盤を作ってみた #jawsug_tokyo
non97
2
990
Aurora PostgreSQLがCloudWatch Logsに 出力するログの課金を削減してみる #jawsdays2025
non97
1
650
VPC間の接続方法を整理してみた #自治体クラウド勉強会
non97
1
2k
Amazon FSx for NetApp ONTAPを利用するにあたっての要件整理と設計のポイント
non97
1
490
Amazon FSx for NetApp ONTAPのパフォーマンスチューニング要素をまとめてみた #cm_odyssey #devio2024
non97
0
860
Amazon FSx for Net App ONTAPにおけるファイルシステム/SVM/ボリューム/qtreeの分割の考え方を整理してみる #storagejaws
non97
1
1.4k
オンプレミスネットワークとVPCとを接続する際に考慮すべきポイントを考えてみた #自治体クラウド勉強会
non97
1
6.4k
上手く活用すればコスト削減につながる、ONTAPの Temperature Sensitive Storage Efficiency (TSSE) の紹介
non97
0
720
Amazon FSx for NetApp ONTAPへの移行方法を整理してみた
non97
0
1.7k
Other Decks in Technology
See All in Technology
Roo Codeにすべてを委ねるためのルール運用
pharma_x_tech
1
220
会社紹介資料 / Sansan Company Profile
sansan33
PRO
6
360k
Machine Intelligence for Vision, Language, and Actions
keio_smilab
PRO
0
490
大事なのは、AIの精度だけじゃない!〜1円のズレも許されない経理領域とAI〜
jun_nemoto
10
5.1k
他チームへ越境したら、生データ提供ソリューションのクエリ費用95%削減へ繋がった話 / Cross-Team Impact: 95% Off Raw Data Query Costs
yamamotoyuta
0
230
Oracle Database オプティマイザ・ヒントの活用
oracle4engineer
PRO
1
140
toittaにOpenTelemetryを導入した話 / Mackerel APM リリースパーティ
cohalz
1
490
NW運用の工夫と発明
recuraki
1
770
MCP で繋ぐ Figma とデザインシステム〜LLM を使った UI 実装のリアル〜
kimuson
2
1.3k
JNation 2025 - Quarkus for Spring Developers
edeandrea
PRO
0
110
それでもぼくらは貢献をつづけるのだ(たぶん) @FOSS4GLT会#002
furukawayasuto
1
270
ソフトウェアは捨てやすく作ろう/Let's make software easy to discard
sanogemaru
10
5.8k
Featured
See All Featured
Six Lessons from altMBA
skipperchong
28
3.8k
Rails Girls Zürich Keynote
gr2m
94
13k
Designing for humans not robots
tammielis
253
25k
Refactoring Trust on Your Teams (GOTO; Chicago 2020)
rmw
34
3k
[RailsConf 2023] Rails as a piece of cake
palkan
55
5.6k
10 Git Anti Patterns You Should be Aware of
lemiorhan
PRO
656
60k
Creating an realtime collaboration tool: Agile Flush - .NET Oxford
marcduiker
30
2.1k
Scaling GitHub
holman
459
140k
Bootstrapping a Software Product
garrettdimon
PRO
307
110k
How to Create Impact in a Changing Tech Landscape [PerfNow 2023]
tammyeverts
52
2.8k
How STYLIGHT went responsive
nonsquared
100
5.6k
jQuery: Nuts, Bolts and Bling
dougneiner
63
7.8k
Transcript
ジョブ管理システムを AWS Step Functionsに移行する時の勘所 AWS事業本部 コンサルティング部 のんピ
2 自己紹介 { "ニックネーム": "のんピ", "Twitter ID": "@non____97", "部署": "AWS事業本部
コンサルティング部", "興味のあること": "面白そうなブログネタ探し", "好きなAWSサービス" : [ "AWS Step Functions", "AWS Transit Gateway", "Amazon FSx for NetApp ONTAP" ], "称号" : [ "2022 APN ALL AWS Certifications Engineers", "2022 APN AWS Top Engineers (Networking)" ] }
3 ジョブ管理システムの運用って 大変なことが多い
4 そもそもジョブ管理システムとは 複数のジョブの起動や終了を制御するシステム
5 ジョブ管理システムの仕組み
例) Web/DBサーバーのバックアップのジョブネット 6 ジョブ管理システムのイメージ Webサーバーの 停止 DBサーバーの 停止 Webサーバーの バックアップ
DBサーバーの 起動 Webサーバーの 起動 DBサーバーの バックアップ
7 ジョブ管理システムの主な機能 • ジョブの実行スケジューリング • ジョブの監視 • 自動リトライ • ジョブの実行結果のロギング
8 よくあるジョブ管理システム運用の課題 • 非常に高い可用性が求められる • マネージャーとなるサーバーの管理が必要 • ジョブ管理システムのライセンス費がかかる
9 それ、もしかして AWS Step Functionsに置き換えられるかも
10 AWS Step Functionsとは サーバーレスなワークフローを作成できるマネージドサービス AWS Step Functions をゼロからざっくり理解する AWS再入門ブログリレー
2022 AWS Step Functions編
11 200以上のAWSサービスと連携可能 API呼び出しなどの処理を繋 げてワークフローを構成でき る [アップデート] AWS Step Functionsが200以上の AWSサービスと連携できるようになりました
12 CloudWatch Logs以外にも複数の実行履歴確認方法が AWS Step Functionsのコンソール AWS Step Functionsの新しい実行詳細 ページのコンソールを使ってみた
13 CloudWatch Logs以外にも複数の実行履歴確認方法が X-Ray
14 少なくとも考えるべき方式の一覧 • API / サーバー上のスクリプト実行方式 • スケジュール実行方式 • ステートマシン間連携方式
• 異常終了通知方式 • リトライ方式 • ステートマシンのデプロイ方式
15 API / サーバー上のスクリプト実行方式の例 AWSのAPIの呼び出しはステートマシンで直接 & サーバー上のスクリプト実行は Systems ManagerのRun Command
16 200以上のAWSサービスと連携可能 (再掲) API呼び出しなどの処理を繋 げてワークフローを構成でき る [アップデート] AWS Step Functionsが200以上の
AWSサービスと連携できるようになりました
17 呼び出しがサポートされていないAPIの場合 Lambda関数からAWS SDKを使う
18 サポートされているAPIか確認する方法 AWS公式ドキュメントかマネージメントコンソールから確認 Supported AWS SDK service integrations - AWS
SDK service integrations
19 サーバー上のスクリプト実行はSSM Run Command "AWS-RunShellScript" or "AWS-RunPowerShellScript" で実行 /usr/local/sbin/stop-httpd.sh
20 オンプレミスのサーバーは? オンプレミスサーバーにSSM Agentをインストールして対応 AWS Systems Managerでオンプレ環境のWindowsを管理する
21 SSM Run Commandの注意点 実行が完了したか定期的にポーリングする必要がある • SSM RunCommandでスクリプトを実行する • ListCommandInvocations
APIを呼び出す • SSM RunCommandが正常終了したかどうか確 認する • まだ実行中であれば10秒間待機して再度 ListCommandInvocations APIを呼び出す • 正常終了していれば次の処理に移る • 異常終了していればステートマシン自体を異常終 了させる
22 スケジュール実行方式の例 EventBridgeルールのCron式で制御
23 EventBridgeルールのCron式の例 スケジュール Cron式 毎日午前 10:00 (UTC+0) に実行 cron (0
10 * * ? *) 毎日午後 12:15 (UTC+0) に実行 cron (15 12 * * ? *) 毎週月曜日から金曜日まで午後 6:00 (UTC+0) に実行 cron (0 18 ? * MON-FRI *) 毎月 1 日の午前 8:00 (UTC+0) に実行 cron (0 8 1 * ? *) 15 分ごとに実行 cron (0/15 * * * ? *) 月曜日から金曜日まで 10 分ごとに実行 cron (0/10 * ? * MON-FRI *) 月曜日から金曜日まで午前 8:00 から午後 5:55 (UTC+0) の間に5 分ごとに実行 cron (0/10 * ? * MON-FRI *) 月曜日から金曜日まで開始日の午後10時から翌日の午前2時 (UTC) の間、30分間隔で実行 cron (0/30 20-2 ? * MON-FRI *)
24 Cron式で表現が難しい場合 「祝日や締め日のみ実行 or 実行しない」 • AWS Systems Manager Change
Calendarを活用する • ワークフローの前段でSSM Change CalendarのGetCalendarState APIを呼び出して後続の処理を実行すべきか、そうでないかを判 断 • 複数のカレンダーを組み合わせ、ANDやORで評価したい場合も 対応可能
25 SSM Change Calendarとの連携例 GetCalendarState APIで 今日が祝日かどうか判断 祝日をSSM Change Calendarに登録
祝日である場合スキップ(Pass) 祝日でない場合本来の処理(Success)
詳細は以下記事参照 26 SSM Change Calendarとの連携 [AWS Step Functions] AWS Systems
Manager Change Calendarと 連携して定期実行処理のイレギュラーケースに対応してみた
27 ステートマシン間連携方式の例 EventBridgeルールのイベントパターンで連携
28 イベントパターンの例 { "source": ["aws.states"], "detail-type": ["Step Functions Execution Status
Change"], "detail": { "status": ["SUCCEEDED"], "stateMachineArn": ["<先行ステートマシンのARN>"] } }
29 先行ステートマシンが複数ある場合 • 先行ステートマシンが完了する度に後続ステートマシンを実行 • 後続ステートマシン内で先行ステートマシンが処理した結果が正 しいかを判断
30 先行ステートマシンが複数ある場合の例
31 イベントパターン どの先行ステートマシンが実行完 了した際も、ステートマシンαが起動 するように設定 { "source": ["aws.states"], "detail-type": ["Step
Functions Execution Status Change"], "detail": { "status": ["SUCCEEDED"], "stateMachineArn": [ "<ステートマシンAのARN>", "<ステートマシンBのARN>", "<ステートマシンCのARN>" ] } }
32 ステートマシンAのみ実行が完了した場合 1. ステートマシンA〜Cが処理した結果が正しいかを確認する (ステートマシンαを実行しても良い状態か判断) 2. ステートマシンB〜Cの処理が行われていないことを確認 3. ステートマシンαを終了
33 ステートマシンA〜Bの実行が完了した場合 1. ステートマシンA〜Cが処理した結果が正しいかを確認する (ステートマシンαを実行しても良い状態か判断) 2. ステートマシンCの処理が行われていないことを確認 3. ステートマシンαを終了
34 ステートマシンA〜Cの実行が完了した場合 1. ステートマシンA〜Cが処理した結果が正しいかを確認する (ステートマシンαを実行しても良い状態か判断) 2. ステートマシンA〜Cの処理が行われたことを確認 3. ステートマシンαで本来やりたかった処理を続行
35 後続のステートマシンが別アカウントの場合は? EventBridgeルール使用して別アカウントの EventBusにイベントを送信する
36 別アカウントのEventBusにイベントを送信
37 異常終了通知方式の例 EventBridgeルールでメールやSlackに通知
38 異常終了通知のパターン
39 参考 AWS Step Functions上でエラーが発生した場合の効果的な通知方法を検討してみた
40 リトライ方式の例 ステートマシンを最初から実行しても問題がない ように冪等性のある仕組みにする & タスク毎にリトライ設定を組み込む
41 ステートマシンの途中からの再実行はできない
42 最初から実行し直すことを考慮する 冪等性が重要 • ある操作を1回行っても複数回行っても結果が同じであるようにす る • 対応方法 • 再実行時に実行済みのタスクをスキップする
• エラー発生時に最初の状態にロールバックする
43 再実行時に実行済みのタスクをスキップする 同じIDのデータが既にある場合は データを追加しない
44 エラー発生時に最初の状態にロールバックする “Process” で異常が発生した場合 ”Delete Data” で ”Put Data“で追加
したデータを削除する
45 タスクごとに再実行の設定をすることも可能 以下エラー発生時に2 秒、4秒、8秒と待機して最大3回 再実行 • Lambda.ServiceException • Lambda.AWSLambdaException •
Lambda.SdkClientException
46 ステートマシンのデプロイ方式例 CDK Pipelinesで複数のアカウントにデプロイ
47 CDK Pipelinesでステートマシンをデプロイ
48 まとめ ジョブ管理システムをAWS Step Functionsに移行する際に考 えることはたくさんある • どのようなジョブネットが稼働しているのか、どうやって運用してい るかを把握しておくことが重要 •
AWS Step Functions ≠ ジョブ管理システムなので不足機能がある 場合の対応方法を考える • 例) 休日シフトや日別展開など
None