Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
Datadog Logs に ログを集約しようと してる話
Search
orfx
August 25, 2020
Technology
0
7.7k
Datadog Logs に ログを集約しようと してる話
Japan Datadog User Group Meetup#1
https://datadog-jp.connpass.com/event/185920/
orfx
August 25, 2020
Tweet
Share
More Decks by orfx
See All by orfx
GitLab CI/CDとECS Fargateでリリース作業が楽になった話
orfx
2
5.1k
Other Decks in Technology
See All in Technology
AIとSREで「今」できること
honmarkhunt
3
490
もう難しくない!誰でもカンタンDocker入門 〜30分であなたのPCにアプリを立ち上げる〜
devops_vtj
0
110
SREからゼロイチプロダクト開発へ ー越境する打席の立ち方と期待への応え方ー / Product Engineering Night #8
itkq
2
1.1k
Cross Data Platforms Meetup LT 20250422
tarotaro0129
1
810
Dataverseの検索列について
miyakemito
1
140
AIでめっちゃ便利になったけど、結局みんなで学ぶよねっていう話
kakehashi
PRO
1
450
Стильный код: натуральный поиск редких атрибутов по картинке. Юлия Антохина, Data Scientist, Lamoda Tech
lamodatech
0
820
От ручной разметки к LLM: как мы создавали облако тегов в Lamoda. Анастасия Ангелова, Data Scientist, Lamoda Tech
lamodatech
0
820
テストって楽しい!開発を加速させるテストの魅力 / Testing is Fun! The Fascinating of Testing to Accelerate Development
aiandrox
0
120
AWSの新機能検証をやる時こそ、Amazon Qでプロンプトエンジニアリングを駆使しよう
duelist2020jp
1
290
コスト最適重視でAurora PostgreSQLのログ分析基盤を作ってみた #jawsug_tokyo
non97
1
790
Databricksで完全履修!オールインワンレイクハウスは実在した!
akuwano
0
120
Featured
See All Featured
Building a Scalable Design System with Sketch
lauravandoore
462
33k
Side Projects
sachag
453
42k
Fantastic passwords and where to find them - at NoRuKo
philnash
51
3.2k
Large-scale JavaScript Application Architecture
addyosmani
512
110k
Done Done
chrislema
184
16k
Let's Do A Bunch of Simple Stuff to Make Websites Faster
chriscoyier
507
140k
"I'm Feeling Lucky" - Building Great Search Experiences for Today's Users (#IAC19)
danielanewman
227
22k
Making the Leap to Tech Lead
cromwellryan
133
9.2k
Site-Speed That Sticks
csswizardry
6
510
VelocityConf: Rendering Performance Case Studies
addyosmani
329
24k
Raft: Consensus for Rubyists
vanstee
137
6.9k
jQuery: Nuts, Bolts and Bling
dougneiner
63
7.7k
Transcript
Datadog Logs に ログを集約しようと してる話 川口 奏 Japan Datadog User
Group Meetup#1
1 自己紹介 1 川口 奏 (Kawaguchi So) 所属: 株式会社アイリッジ (自社サービス
FANSHIP 運用チームのエンジニア) 使用クラウド: AWS(一部GCP) Datadog 歴: ちょうど2年くらい 使ってる機能: • Dashboard • Monitor • APM • Logs • UX Monitoring 最近苦労した事: Datadog のプラン変更(主に事務作業)
2 主なログ保管場所 S3 (JSON file) CloudWatch Logs Datadog Logs コストが安い・高信頼性
AWS サービスと相性がいい UI がリッチ・設定が柔軟 閲覧がシェル芸 操作性が・・・ 連携方法が乏しかった
リッチなUI
4 リッチなUI
5 リッチなUI タイムレンジ • 右上のセレクトメニューで画面に表示するログの期間を絞れる。 • ⏪ ⏩ でタイムレンジを指定期間でスライドさせることができる。
6 リッチなUI ファセット • 左端のチェックボックスから用意された分類ごとに絞り込み条件 を絞ることができる。 • 設定した絞り込み条件は後述の検索に反映される • ファセットは手動で設定しているので適切に設定・用意されてい
ないログも存在する。
7 リッチなUI 検索 • 画面上部の入力欄からもフリーテキスト絞り込み条件が設定できる。 • 除外や AND/OR、ワイルドカードなど使用可能な書式は下記を参照 ◦ https://docs.datadoghq.com/ja/logs/search_syntax/
8 リッチなUI ログ一覧 • 絞り込み条件に一致したログの一覧が表示される • 右上 Options からカラム並び替え・削除などの表示を切り替えられる。
9 リッチなUI ログ詳細 • ログ一覧から各ログの詳細を表示することができる。 • 各項目を選択することで下記の機能が使用できる。 ◦ Search fo
~~~ ▪ 絞り込み条件に項目を追加できる。 ▪ 表示されない場合は後述のファセット追加 が必要。 ◦ Exclude ~~~ ▪ 絞り込みの除外条件に項目を追加できる。 ◦ Add column for ~~~ ▪ ログ一覧のカラムに項目を追加できる。 ◦ Create facets for ~~~ ▪ ファセットに項目を追加できる。 ◦ Create measure for ~~~ ▪ 値が数値の場合、レンジや大小比較で絞り 込みすることができるファセットを追加でき る。
10 リッチなUI 非エンジニアにも優しい、直感的に操作可能なUI -> 実際にサポートチームに共有している 資料をほぼそのままスライド転用
設定が柔軟
12 設定が柔軟 システム毎のログフォーマットの違いを パイプラインの強力なプロセッサーで吸収できる { "asctime": "2020-04-08 22:21:08,616" , "levelname":
"INFO", "message": "Request info" , "params": { "request_path" : "/aaa/bbb/ccc/" , "client_ip": "xxx.xxx.xxx.xxx" , } } { "msg": { "msg": "program finished." , "action_type" : "aaa" }, "level": "info", "time": "2020-08-24T22:28:47+09:00" , "timestamp": 1598275727000 } システムA システムB
13 設定が柔軟 Grok Parser
14 設定が柔軟 { "log": "{\"msg\": {...}, \"time\":\"2020-07-27T15:50:39+09:00 \", \"level\": \"info\"}",
"service": "fanship", "source": "stderr", "timestamp": 1595832639000 } ログフォーマットを吸収できた事例 (JSON in JSON) Datadog サポートの方に神速で教えていただきました
Datadog Logs への 連携経路
16 Datadog Logs への連携経路 以前は・・ • datadog-agent が直接ログを tail して
Datadog に送信までさせる方法 ◦ 詳しく語らないが、弊社で過去にトラブルが発生した • ECS Fargate は CloudWatch Logs を経由させる方法しかほぼ無かった ◦ 二重課税
17 Datadog Logs への連携経路 (ECS アプリログ) ECS Service Application Container
Datadog Output plugin Datadog Logs FireLens Log driver FireLens の登場と、いつの 間にか fluent-bit に追加され てた Datadog Output plugin でシンプルなログの連携が 可能になった
18 Datadog Logs への連携経路 (ELB アクセスログ) Datadog Logs ELB S3
Datadog Forwarder CloudFormation Access Logs Put Invoke Deploy • Datadog Forwarder という公式ツールを使って、ELBのアク セスログを Datadog Logs に連携できる • CFn テンプレートも公開されているのでデプロイも楽 • Lambda 時点のフィルタリング設定も可能
19 Datadog Logs への連携経路 (ELB アクセスログ) • パイプライン設定も公式 Library から設定するだけで
マッピングされる
20 まとめ • 非エンジニアでも使いやすいUI • 柔軟な設定でログの集約場所にしやすい • ログの連携経路に目途が立った
21 最後に https://iridge-tech.hatenablog.com/ Datadog に関する記事も公開予定です!