Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
kintoneを丸裸にするモニタリング&ロギングツール / 20191108 kintone ...
Search
szkayeah
November 08, 2019
Programming
2
1.1k
kintoneを丸裸にするモニタリング&ロギングツール / 20191108 kintone monitoring and logging
2019/11/08 6社の開発現場ツール大公開Night
szkayeah
November 08, 2019
Tweet
Share
More Decks by szkayeah
See All by szkayeah
スキルグラデーション!~虹色のkintone チームの中で私が目指すもの~ / 20190914 Web application engineer in cybozu
szkayeah
0
150
kintoneのリリースを加速する!性能検証自動化 / 20181027 Performance Test
szkayeah
1
1.1k
kintoneをとりまく自動テストたち / 20180305 Kintone's Automatic Test
szkayeah
0
770
環境構築はいらないよ GASでサクッとbotをつくろう / 20171202 Creating Bot with GAS
szkayeah
0
210
「最近変わったね」と素早く気付け / 20170828 Performance Test
szkayeah
0
400
Other Decks in Programming
See All in Programming
Android 16 × Jetpack Composeで縦書きテキストエディタを作ろう / Vertical Text Editor with Compose on Android 16
cc4966
0
170
デザイナーが Androidエンジニアに 挑戦してみた
874wokiite
0
280
Go言語での実装を通して学ぶLLMファインチューニングの仕組み / fukuokago22-llm-peft
monochromegane
0
120
Improving my own Ruby thereafter
sisshiki1969
1
160
AIを活用し、今後に備えるための技術知識 / Basic Knowledge to Utilize AI
kishida
21
5.6k
はじめてのMaterial3 Expressive
ym223
2
240
奥深くて厄介な「改行」と仲良くなる20分
oguemon
1
510
@Environment(\.keyPath)那么好我不允许你们不知道! / atEnvironment keyPath is so good and you should know it!
lovee
0
110
Zendeskのチケットを Amazon Bedrockで 解析した
ryokosuge
3
290
HTMLの品質ってなんだっけ? “HTMLクライテリア”の設計と実践
unachang113
4
2.7k
Oracle Database Technology Night 92 Database Connection control FAN-AC
oracle4engineer
PRO
1
440
そのAPI、誰のため? Androidライブラリ設計における利用者目線の実践テクニック
mkeeda
2
260
Featured
See All Featured
Product Roadmaps are Hard
iamctodd
PRO
54
11k
Faster Mobile Websites
deanohume
309
31k
Embracing the Ebb and Flow
colly
87
4.8k
Fashionably flexible responsive web design (full day workshop)
malarkey
407
66k
Building Better People: How to give real-time feedback that sticks.
wjessup
368
19k
The Pragmatic Product Professional
lauravandoore
36
6.9k
Optimising Largest Contentful Paint
csswizardry
37
3.4k
Practical Tips for Bootstrapping Information Extraction Pipelines
honnibal
PRO
23
1.4k
RailsConf & Balkan Ruby 2019: The Past, Present, and Future of Rails at GitHub
eileencodes
139
34k
Become a Pro
speakerdeck
PRO
29
5.5k
Exploring the Power of Turbo Streams & Action Cable | RailsConf2023
kevinliebholz
34
6k
How GitHub (no longer) Works
holman
315
140k
Transcript
サイボウズ株式会社 kintoneチーム 鈴木 亜耶 @szkayeah 2019/11/08 6社の開発現場ツール大公開Night kintoneを 丸 裸
にする モニタリング&ロギングツール キントーン
鈴木 亜耶 @szkayeah すずき あ や • Webエンジニア • 安定稼働に繋がる改善タスクが多め
• 2017年1月にUターンで転職 • 好き:CI・自動化・データ可視化 • 大好き:紅茶
質問があればTwitterや懇親会で! ハッシュタグは#devtool_night 発表資料は公開済です
None
kintone • クラウドサービス • Webデータベース型の業務改善プラットフォーム • データ+コミュニケーション
今回、製品の詳細はお話しません。 これを対象にしたモニタリング・ロギングの話です。
None
モニタリング • 2つの監視サービスを併用している • Infrastructure:Datadog • APM:New Relic 引用: https://www.datadoghq.com/
, https://newrelic.com/
Infrastructure:Datadog • サイボウズは自社クラウド基盤を持つ • 割とヘビーに活用している • 機材故障の検知にも有効(特定機材のみ高負荷が続く等) • カスタムメトリクスで業務的な監視も •
バッチのキューが滞留していないか? • どれくらい製品のトライアルの申し込みがあったか? etc
Integrationを導入するだけでもサクッと監視できる 例:Java Integration 障害時のスパイク
カスタムメトリクスでより業務的な監視も バッチのキューが 滞留している様子
APM:New Relic • アクセス障害時の重いトランザクション特定 • マルチテナントのサービスのためテナント間で影響がある • どのテナントのどの操作が重そうか分かる • 重いトランザクションは自動的に記録される(便利)
重いトランザクションを簡単に検知 障害時のスパイク
Datadog VS New Relic • Datadog APM も New Relic
Infrastructure もある • どうしてまとめないの? → 歴史的経緯です • どちらも良いところがある • Datadogの豊富なIntegration • New Relicの柔軟なクエリ(NRQL)
もっと自由にデータ可視化したい • Elasticsearch+Kibana • 監視サービス標準ではやりたいデータ可視化ができない時 • 収集方法が異なるデータをマッシュアップしたい時 • 各監視サービスでAPIが提供されている 引用:
https://www.elastic.co/
監視サービス+Elasticsearch+Kibana 引用: https://www.elastic.co/ , https://www.datadoghq.com/ , https://newrelic.com/ 自社ツール APIでメトリクス取得 ↓
データ加工 ↓ Elasticsearchに投入 メトリクス収集 データ可視化
監視サービス+Elasticsearch+Kibana SLO閾値超えを しているか hostごとの アクセス性質を見る
None
ロギング • サイボウズのログ基盤 • よくある所だとアクセスログやアプリケーションログ • MySQLのエラーログやslowログ • 自社クラウド基盤を持つため物理機材のログも •
VM・物理機材を合わせて1000を超えるhost(大量ログ) →高速で安定して(欠損せず)ログが活用できる基盤が必要
サイボウズのログ基盤 2018年版 https://blog.cybozu.io/entry/2018/03/19/080000
ログ基盤の全貌(ブログ記事より) https://blog.cybozu.io/entry/2018/03/19/080000 引用: https://hadoop.apache.org/ , https://hbase.apache.org/ , https://hive.apache.org/ , https://kafka.apache.org/
, https://www.elastic.co/ , https://www.graylog.org/ , http://prestodb.github.io/ , https://redash.io/
ログ基盤の活用 • ログ基盤自体についてはブログ記事をご参照ください • 私は開発に関わっていないので…(小声) • 今回は偉大なログ基盤を利用者観点で紹介します • 障害対応, 製品分析でよく利用するため
ログ基盤の全貌(ブログ記事より) https://blog.cybozu.io/entry/2018/03/19/080000 引用: https://hadoop.apache.org/ , https://hbase.apache.org/ , https://hive.apache.org/ , https://kafka.apache.org/
, https://www.elastic.co/ , https://www.graylog.org/ , http://prestodb.github.io/ , https://redash.io/ あらゆる種類の ログの閲覧
共通のログ閲覧方法 • あらゆるログは同じ方法で閲覧できる • ログ種類・日時・hostで絞り込み • 2つのアクセス手段 • CLI(HBase client)
• GUI(Elasticsearch+Graylog)
共通のログ閲覧方法 • CLI(HBase client) • 長期間のログが閲覧可 • いわゆるテキストなので流し読みしやすい • GUI(Elasticsearch+Graylog)
• 短期間(1週間ほど)だが複数hostを高速に閲覧可 • エラーコードが分かる時など特定行の検索が得意 • データ可視化
アプリケーションログよりkintoneの利用状況を可視化
ログ基盤の全貌(ブログ記事より) https://blog.cybozu.io/entry/2018/03/19/080000 引用: https://hadoop.apache.org/ , https://hbase.apache.org/ , https://hive.apache.org/ , https://kafka.apache.org/
, https://www.elastic.co/ , https://www.graylog.org/ , http://prestodb.github.io/ , https://redash.io/ アクセスログ活用
アクセスログ活用 • Presto+Redash • SQLライクにログを検索 • CLIでログを読めるエンジニアでも嬉しい • Prestoの便利関数が利用できる(url_extract_path等) •
Redashのデータ可視化
アクセスログ活用 • 加工したデータの列を追加してより検索しやすく • 製品(service) • kintone, garoon などで絞り込める •
「URLが /k/ 始まりのやつ」と指定しなくて良い • ブラウザ(browser) • UAってめっちゃ文字入ってますよね • Mozilla/5.0 (Linux; Android 10; Pixel 3a Build/QP1A.190711.020; wv) AppleWebKit/537.36... • Chrome, IE11 などで絞り込める
アクセスログから楽々データ可視化
あらゆるツールを組み合わせて メトリクスやログを収集&可視化し kintoneを丸裸にしています
ありがとうございました!!