Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
Workflow automationによるインシデント原因調査の自動化
Search
ITO Shogo
October 16, 2024
Programming
2
350
Workflow automationによるインシデント原因調査の自動化
Datadog Summit Tokyo 2024 の基調講演で使用したスライドです。
ITO Shogo
October 16, 2024
Tweet
Share
More Decks by ITO Shogo
See All by ITO Shogo
Datadog Workflow Automation で圧倒的価値提供
showwin
1
630
好きなことを強みにしよう
showwin
1
520
DDD勉強会 ~戦略的設計 編~
showwin
0
270
LAPRAS CTOが考える 採用効率化Tips 5選
showwin
1
840
自作ISUCONのすすめ
showwin
1
140
Engineering Manager Discussion #1 - 自己紹介LT
showwin
1
580
採用要件を明確にしよう
showwin
0
140
スタートアップにおける技術的負債との向き合い方
showwin
0
920
アルゴリズムマネジメント
showwin
1
3.2k
Other Decks in Programming
See All in Programming
業務自動化をJavaとSeleniumとAWS Lambdaで実現した方法
greenflagproject
1
120
関数型まつり2025登壇資料「関数プログラミングと再帰」
taisontsukada
2
840
Spring gRPC で始める gRPC 入門 / Introduction to gRPC with Spring gRPC
mackey0225
2
520
從零到一:搭建你的第一個 Observability 平台
blueswen
1
960
iOSアプリ開発で 関数型プログラミングを実現する The Composable Architectureの紹介
yimajo
2
210
Javaのルールをねじ曲げろ!禁断の操作とその代償から学ぶメタプログラミング入門 / A Guide to Metaprogramming: Lessons from Forbidden Techniques and Their Price
nrslib
3
2k
ktr0731/go-mcpでMCPサーバー作ってみた
takak2166
0
170
統一感のある Go コードを生成 AI の力で手にいれる
otakakot
0
3k
Prism.parseで 300本以上あるエンドポイントに 接続できる権限の一覧表を作ってみた
hatsu38
1
110
事業戦略を理解してソフトウェアを設計する
masuda220
PRO
22
6.2k
Benchmark
sysong
0
220
地方に住むエンジニアの残酷な現実とキャリア論
ichimichi
2
540
Featured
See All Featured
Design and Strategy: How to Deal with People Who Don’t "Get" Design
morganepeng
130
19k
The Psychology of Web Performance [Beyond Tellerrand 2023]
tammyeverts
48
2.8k
Gamification - CAS2011
davidbonilla
81
5.3k
Optimizing for Happiness
mojombo
379
70k
Fireside Chat
paigeccino
37
3.5k
Facilitating Awesome Meetings
lara
54
6.4k
Build The Right Thing And Hit Your Dates
maggiecrowley
36
2.7k
Optimising Largest Contentful Paint
csswizardry
37
3.3k
Adopting Sorbet at Scale
ufuk
77
9.4k
Practical Orchestrator
shlominoach
188
11k
Building an army of robots
kneath
306
45k
10 Git Anti Patterns You Should be Aware of
lemiorhan
PRO
657
60k
Transcript
Workflow Automation によるインシデント原 因調査 自動化 伊藤 勝梧 16 October 2024
komoju.com
伊藤 勝梧 showwin Staff SRE @ DEGICA, 2023.9 ~
KOMOJU by DEGICA 決済代行システム
多様な 決済方法を 提供
海外 決済手段も 対応
導入実績 10000社以上
KOMOJU by DEGICA 名前を聞いたことない …です…よ ??
10% 日本人 エンジニア 5名 日本在住 海外出身エンジニア 90%
KOMOJU 立ち位置 ユーザ 加盟店 Gateways (決済システム/アクワイアラ)
インシデント 早く復旧 させたい Generated by DALL·E 3
課題: インシデント復旧時間 改善 戦略: Runbook 作成とそ 自動化 実装: Workflow Automationによる自動化
結果: アラート 調査時間 短縮
課題: インシデント復旧時間 改善 戦略: Runbook 作成とそ 自動化 実装: Workflow Automationによる自動化
結果: アラート 調査時間 短縮
障害検知 原因特定 修正 インシデント復旧 まで プロセス 障害発生 障害回復
障害検知 原因特定 修正 迅速に障害検知できることが最重要 障害発生 障害回復
障害検知 原因特定 修正 インシデント復旧 まで プロセス 障害発生 障害回復
障害検知 原因特定 修正 問題 原因が特定 できれ 解決 容易 障害発生 障害回復
想像してください 入社して半年経過 今日から初 オンコールシフト アラート来ないで…🙏 Generated by DALL·E 3
Lorem Ipsum is simply
Lorem Ipsum is simply
Lorem Ipsum is simply
原因調査に 手間取る LB ログを確認 次 …? APMでエラー トレースを確認 手がかり なさに焦る
直近 デプロイ 有無を確認
ふたを 開けてみると Generated by DALL·E 3
5xx Expired 偽陽性アラート: 誤ったカード情報 によりエラー数増加 Error ユーザ 加盟店 Gateways (決済システム/アクワイアラ)
課題: インシデント復旧時間 改善 戦略: Runbook 作成とそ 自動化 実装: Workflow Automationによる自動化
結果: アラート 調査時間 短縮
Runbook One monitor, one runbook
手探り Runbook 障害検知 原因特定 修正 30~60分 5~10分 復旧時間改善 例 障害回復
手探り Runbook 障害検知 原因特定 修正 30~60分 5~10分 復旧時間改善 例 障害回復
Runbook自動化
課題: インシデント復旧時間 改善 戦略: Runbook 作成とそ 自動化 実装: Workflow Automationによる自動化
結果: アラート 調査時間 短縮
Workflow Automation 2023年6月にリリース Step by step でワークフローを定義 Datadog Monitor などを契機に実行
アラート 偽 陽性確認を 自動化 してみる
アラートを契機に Workflowが実行される
APM Spanを参照して HTTP Status > 399 が 発生している エンドポイント 一覧
を列挙
支払い 認証に関するエンド ポイント みでエラー発生? 違う場合 エラー発生箇所を Slackに投稿して終了
Span カスタムタグから 決済手段がクレジットカードか判 断 違う場合 問題 Gatewayを Slackに投稿して終了
アプリケーションDBから同期さ れるデータを参照して、 ユーザ カード情報に起因する エラーか判断 Yes 場合 偽陽性アラートだと Slackに投下 No
場合 要調査とSlack に投下
Tips Generated by DALL·E 3
Workflowから データ参照 パターン
Datadog内 データ参照 原則こ 方法がオススメ DD Agentなどからメトリクス/ログ 取り込み Search Queryで記述 ログ
料金 み注意
Datadog内 データ参照 原則こ 方法がオススメ DD Agentなどからメトリクス/ログ 取り込み Search Queryで記述 ログ
料金 み注意
アプリケーション DBから データ取り込み Redash Puller WebApp DB Kumonga (DD Agent)
OpenMetrics OpenMetrics Job Queue
Datadog内 データ参照 原則こ 方法がオススメ DD Agentなどからメトリクス/ログ 取り込み Search Queryで記述 ログ
料金 み注意
外部サービス から データ取得 連携サービス以外から データ取得が困難 Datadog内にデータを保存しない で無料
外部サービス から データ取得 連携サービス以外から データ取得が困難 Datadog内にデータを保存しない で無料
認証方法: Basic認証, JWT, mTLS データ 整形が必要 認証&整形 Proxy サービス 作成を推奨
非連携サービス から データ取得
外部サービス から データ取得 連携サービス以外から データ取得が困難 Datadog内にデータを保存しない で無料
外部サービス から データ取得 連携サービス以外から データ取得が困難 Datadog内にデータを保存しない で無料
課題: インシデント復旧時間 改善 戦略: Runbook 作成とそ 自動化 実装: Workflow Automationによる自動化
結果: アラート 調査時間 短縮
Runbook Runbook自動化 27秒 3分30秒 🎉
Runbook Runbook自動化 27秒 3分30秒 🎉?
まず 障害を迅速に検知できるように Focus on detection 監視モニターに 必ずRunbookを用意 One monitor, one
runbook 必要に応じてRunbookを自動化 Automate runbook 明日からできること
We are Hiring! Senior Backend Engineer with native-level Japanese skill