Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
kintoneを丸裸にするモニタリング&ロギングツール / 20191108 kintone monitoring and logging
Search
szkayeah
November 08, 2019
Programming
2
910
kintoneを丸裸にするモニタリング&ロギングツール / 20191108 kintone monitoring and logging
2019/11/08 6社の開発現場ツール大公開Night
szkayeah
November 08, 2019
Tweet
Share
More Decks by szkayeah
See All by szkayeah
スキルグラデーション!~虹色のkintone チームの中で私が目指すもの~ / 20190914 Web application engineer in cybozu
szkayeah
0
130
kintoneのリリースを加速する!性能検証自動化 / 20181027 Performance Test
szkayeah
1
920
kintoneをとりまく自動テストたち / 20180305 Kintone's Automatic Test
szkayeah
0
560
環境構築はいらないよ GASでサクッとbotをつくろう / 20171202 Creating Bot with GAS
szkayeah
0
180
「最近変わったね」と素早く気付け / 20170828 Performance Test
szkayeah
0
320
Other Decks in Programming
See All in Programming
CSC307 Lecture 07
javiergs
PRO
0
220
実用的かつリーズナブルな 「Azure × Gemini × LINE」~キャラクターBot 実装ライブデモ~
tomodo_ysys
1
170
Mastering Developer Experience: A Roadmap for Success 【開発生産性Conference 2024】
findyinc
1
380
APIのない大学ログインWebサービスをWKWebViewとJavaScriptでアプリ化した話
akidon0000
1
330
Google's Recipe for Scaling (Web) Security – LocoMocoSec 2024
lweichselbaum
0
170
CSC307 Lecture 09
javiergs
PRO
1
500
入社1ヶ月でここまでやった!Findy Toolsインフラ支援の最適化
rvirus0817
6
1.4k
日付と正規化
megmogmog1965
0
140
ピグパーティにおけるMongoDB CommunityバージョンからAtlasへの移行事例
10969hotaka
0
130
Exploring the Gradually Lost Technical Skills in the Cloud Native Era
hwchiu
2
3.9k
はしめてのプログラミングとロボット制御
watawatavoltage
0
290
20240706_CDKConf
takuyay0ne
0
1.2k
Featured
See All Featured
The Power of CSS Pseudo Elements
geoffreycrofte
64
5.2k
The Language of Interfaces
destraynor
151
23k
Optimizing for Happiness
mojombo
373
69k
Templates, Plugins, & Blocks: Oh My! Creating the theme that thinks of everything
marktimemedia
23
1.9k
Creating an realtime collaboration tool: Agile Flush - .NET Oxford
marcduiker
16
1.6k
個人開発の失敗を避けるイケてる考え方 / tips for indie hackers
panda_program
78
15k
4 Signs Your Business is Dying
shpigford
178
21k
Adopting Sorbet at Scale
ufuk
71
8.8k
Fantastic passwords and where to find them - at NoRuKo
philnash
42
2.7k
Fontdeck: Realign not Redesign
paulrobertlloyd
79
5.1k
Being A Developer After 40
akosma
72
580k
Facilitating Awesome Meetings
lara
46
5.8k
Transcript
サイボウズ株式会社 kintoneチーム 鈴木 亜耶 @szkayeah 2019/11/08 6社の開発現場ツール大公開Night kintoneを 丸 裸
にする モニタリング&ロギングツール キントーン
鈴木 亜耶 @szkayeah すずき あ や • Webエンジニア • 安定稼働に繋がる改善タスクが多め
• 2017年1月にUターンで転職 • 好き:CI・自動化・データ可視化 • 大好き:紅茶
質問があればTwitterや懇親会で! ハッシュタグは#devtool_night 発表資料は公開済です
None
kintone • クラウドサービス • Webデータベース型の業務改善プラットフォーム • データ+コミュニケーション
今回、製品の詳細はお話しません。 これを対象にしたモニタリング・ロギングの話です。
None
モニタリング • 2つの監視サービスを併用している • Infrastructure:Datadog • APM:New Relic 引用: https://www.datadoghq.com/
, https://newrelic.com/
Infrastructure:Datadog • サイボウズは自社クラウド基盤を持つ • 割とヘビーに活用している • 機材故障の検知にも有効(特定機材のみ高負荷が続く等) • カスタムメトリクスで業務的な監視も •
バッチのキューが滞留していないか? • どれくらい製品のトライアルの申し込みがあったか? etc
Integrationを導入するだけでもサクッと監視できる 例:Java Integration 障害時のスパイク
カスタムメトリクスでより業務的な監視も バッチのキューが 滞留している様子
APM:New Relic • アクセス障害時の重いトランザクション特定 • マルチテナントのサービスのためテナント間で影響がある • どのテナントのどの操作が重そうか分かる • 重いトランザクションは自動的に記録される(便利)
重いトランザクションを簡単に検知 障害時のスパイク
Datadog VS New Relic • Datadog APM も New Relic
Infrastructure もある • どうしてまとめないの? → 歴史的経緯です • どちらも良いところがある • Datadogの豊富なIntegration • New Relicの柔軟なクエリ(NRQL)
もっと自由にデータ可視化したい • Elasticsearch+Kibana • 監視サービス標準ではやりたいデータ可視化ができない時 • 収集方法が異なるデータをマッシュアップしたい時 • 各監視サービスでAPIが提供されている 引用:
https://www.elastic.co/
監視サービス+Elasticsearch+Kibana 引用: https://www.elastic.co/ , https://www.datadoghq.com/ , https://newrelic.com/ 自社ツール APIでメトリクス取得 ↓
データ加工 ↓ Elasticsearchに投入 メトリクス収集 データ可視化
監視サービス+Elasticsearch+Kibana SLO閾値超えを しているか hostごとの アクセス性質を見る
None
ロギング • サイボウズのログ基盤 • よくある所だとアクセスログやアプリケーションログ • MySQLのエラーログやslowログ • 自社クラウド基盤を持つため物理機材のログも •
VM・物理機材を合わせて1000を超えるhost(大量ログ) →高速で安定して(欠損せず)ログが活用できる基盤が必要
サイボウズのログ基盤 2018年版 https://blog.cybozu.io/entry/2018/03/19/080000
ログ基盤の全貌(ブログ記事より) https://blog.cybozu.io/entry/2018/03/19/080000 引用: https://hadoop.apache.org/ , https://hbase.apache.org/ , https://hive.apache.org/ , https://kafka.apache.org/
, https://www.elastic.co/ , https://www.graylog.org/ , http://prestodb.github.io/ , https://redash.io/
ログ基盤の活用 • ログ基盤自体についてはブログ記事をご参照ください • 私は開発に関わっていないので…(小声) • 今回は偉大なログ基盤を利用者観点で紹介します • 障害対応, 製品分析でよく利用するため
ログ基盤の全貌(ブログ記事より) https://blog.cybozu.io/entry/2018/03/19/080000 引用: https://hadoop.apache.org/ , https://hbase.apache.org/ , https://hive.apache.org/ , https://kafka.apache.org/
, https://www.elastic.co/ , https://www.graylog.org/ , http://prestodb.github.io/ , https://redash.io/ あらゆる種類の ログの閲覧
共通のログ閲覧方法 • あらゆるログは同じ方法で閲覧できる • ログ種類・日時・hostで絞り込み • 2つのアクセス手段 • CLI(HBase client)
• GUI(Elasticsearch+Graylog)
共通のログ閲覧方法 • CLI(HBase client) • 長期間のログが閲覧可 • いわゆるテキストなので流し読みしやすい • GUI(Elasticsearch+Graylog)
• 短期間(1週間ほど)だが複数hostを高速に閲覧可 • エラーコードが分かる時など特定行の検索が得意 • データ可視化
アプリケーションログよりkintoneの利用状況を可視化
ログ基盤の全貌(ブログ記事より) https://blog.cybozu.io/entry/2018/03/19/080000 引用: https://hadoop.apache.org/ , https://hbase.apache.org/ , https://hive.apache.org/ , https://kafka.apache.org/
, https://www.elastic.co/ , https://www.graylog.org/ , http://prestodb.github.io/ , https://redash.io/ アクセスログ活用
アクセスログ活用 • Presto+Redash • SQLライクにログを検索 • CLIでログを読めるエンジニアでも嬉しい • Prestoの便利関数が利用できる(url_extract_path等) •
Redashのデータ可視化
アクセスログ活用 • 加工したデータの列を追加してより検索しやすく • 製品(service) • kintone, garoon などで絞り込める •
「URLが /k/ 始まりのやつ」と指定しなくて良い • ブラウザ(browser) • UAってめっちゃ文字入ってますよね • Mozilla/5.0 (Linux; Android 10; Pixel 3a Build/QP1A.190711.020; wv) AppleWebKit/537.36... • Chrome, IE11 などで絞り込める
アクセスログから楽々データ可視化
あらゆるツールを組み合わせて メトリクスやログを収集&可視化し kintoneを丸裸にしています
ありがとうございました!!