Upgrade to Pro — share decks privately, control downloads, hide ads and more …

dbtでGA4の生ログを扱いやすくする話

Avatar for Hirokazu Kobayashi Hirokazu Kobayashi
February 16, 2023
Technology
2
1.6k

 dbtでGA4の生ログを扱いやすくする話

2023-02-16に開催したJagu'e'r分科会でのLT発表スライドです

Avatar for Hirokazu Kobayashi

Hirokazu Kobayashi

February 16, 2023
Tweet

More Decks by Hirokazu Kobayashi

See All by Hirokazu Kobayashi
dbtでアトリビューション分析
Avatar for Hirokazu Kobayashi hiro_koba_jp
0
1.4k
Data Engineering Study #16 LT troccoデータカタログ
Avatar for Hirokazu Kobayashi hiro_koba_jp
0
310
trocco Summer Update 2022 - 「dbt連携/グループ機能リニューアル」他ご紹介
Avatar for Hirokazu Kobayashi hiro_koba_jp
0
410
DES#13 troccoデータカタログ＆PdM募集
Avatar for Hirokazu Kobayashi hiro_koba_jp
0
150
データマネジメントを実現するためのサービス・OSSまとめ
Avatar for Hirokazu Kobayashi hiro_koba_jp
0
630
広告・マーケROIを可視化するためにETL/データ整備した話
Avatar for Hirokazu Kobayashi hiro_koba_jp
0
1.8k
AWS ETL祭り - AWS Glue活用事例@primeNumber
Avatar for Hirokazu Kobayashi hiro_koba_jp
6
6.3k

Other Decks in Technology

See All in Technology
Oracle Base Database Service 技術詳細
Avatar for oracle4engineer oracle4engineer
PRO
12
81k
All About Sansan – for New Global Engineers
Avatar for Sansan, Inc. sansan33
PRO
1
1.2k
AI-Readyを目指した非構造化データのメダリオンアーキテクチャ
Avatar for R-Miura r_miura
1
300
頭部ふわふわ浄酔器
Avatar for uyupun uyupun
0
110
AWS UG Grantでグローバル20名に選出されてre:Inventに行く話と、マルチクラウドセキュリティの教科書を執筆した話 / The Story of Being Selected for the AWS UG Grant to Attending re:Invent, and Writing a Multi-Cloud Security Textbook
Avatar for Yuji Oshima yuj1osm
1
130
だいたい分かった気になる 『SREの知識地図』 / introduction-to-sre-knowledge-map-book
Avatar for katsuhisa_ katsuhisa91
PRO
3
1.3k
名刺メーカーDevグループ 紹介資料
Avatar for Sansan, Inc. sansan33
PRO
0
940
Biz職でもDifyでできる！ 「触らないAIワークフロー」を実現する方法
Avatar for kanacan igarashikana
7
3.1k
SQLAlchemy の select(User).where(User.id =="123") を理解してみる/sqlalchemy deep dive
Avatar for Ryusei Ohkura 3l4l5
3
320
ハノーファーメッセ2025で見た生成AI活用ユースケース.pdf
Avatar for 濱田孝治 hamadakoji
0
420
FinOps について (ちょっと) 本気出して考えてみた
Avatar for skmkzyk skmkzyk
0
210
Dify on AWS 環境構築手順
Avatar for Hiroaki Yoshimura yosse95ai
0
120

Featured

See All Featured
Improving Core Web Vitals using Speculation Rules API
Avatar for Sergey Chernyshev sergeychernyshev
21
1.2k
What's in a price? How to price your products and services
Avatar for Michael Herold michaelherold
246
12k
Exploring the Power of Turbo Streams & Action Cable | RailsConf2023
Avatar for Kevin Liebholz kevinliebholz
36
6.1k
4 Signs Your Business is Dying
Avatar for Josh Pigford shpigford
185
22k
A designer walks into a library…
Avatar for Paul Jervis Heath pauljervisheath
209
24k
Performance Is Good for Brains [We Love Speed 2024]
Avatar for Tammy Everts tammyeverts
12
1.2k
Building a Modern Day 
E-commerce SEO Strategy
Avatar for Aleyda Solis aleyda
44
7.8k
Faster Mobile Websites
Avatar for Dean Hume deanohume
310
31k
BBQ
Avatar for Matthew Crist matthewcrist
89
9.9k
Creating an realtime collaboration tool: Agile Flush - .NET Oxford
Avatar for Marc Duiker marcduiker
34
2.3k
GraphQLの誤解/rethinking-graphql
Avatar for sonatard sonatard
73
11k
Cheating the UX When There Is Nothing More to Optimize - PixelPioneers
Avatar for Stéphanie Walter stephaniewalter
285
14k

Transcript

  1. GA4 x dbt Jagu'e'r LT 2023/02 GA4の生ログの弱点と、それを補うdbtパッケージを試してみ た

  2. 小林 寛和 株式会社primeNumber 取締役執行役員 CPO hiro_koba_jp 慶應義塾大学卒業後、2014年より株式会社リブセンス へ入社し、データエンジニアとして同社分析基盤 立ち上げをリード。 trocco®のプロダクト発案者で、現プロダクト責任者。

    Data Engineering Studyの共同主催者も務める。

  3. Agenda GA4の生ログの概要と、課題 1 dbtでGA4の生ログをより使いやすく 2 まとめ 3

  4. GA4の生ログの概要と、課題

  5. GA4のさまざまな使い方 Google AnalyticsのブラウザUIから見る Looker Studioとかでつないで可視化する GA4のBigQuery Exportを使い、生ログからデータ分析 ©2023 primeNumber Inc.

    All Rights Reserved. Confidential. 5

  6. GA4のさまざまな使い方 Google AnalyticsのブラウザUIから見る Looker Studioとかでつないで可視化する GA4のBigQuery Exportを使い、生ログからデータ分析 ©2023 primeNumber Inc.

    All Rights Reserved. Confidential. 6

  7. GA4の生ログの弱点 データ構造が扱いにくい event_timestampがUNIXTIMEなので変換が必要 ログがいつ来るのか分からない・タイムラグがある ©2023 primeNumber Inc. All Rights Reserved.

    Confidential. 7

  8. データ構造が扱いにくい

  9. 集計しようとすると・・・

  10. GA4の生ログを使いやすくするために、 dbtというツールを使ってみた

  11. 先程の弱点を解決するには ひたすらクエリで頑張る 1 扱いやすい形に整形してから使う 2 ©2023 primeNumber Inc. All Rights

    Reserved. Confidential. 11

  12. 先程の弱点を解決するには ひたすらクエリで頑張る 1 扱いやすい形に整形してから使う 2 ©2023 primeNumber Inc. All Rights

    Reserved. Confidential. 12

  13. データウェアハウス層を作っ て 扱いやすくしたい もう少し専門用語でいうと ©2023 primeNumber Inc. All Rights Reserved.

    Confidential. 13

  14. GA4のスキーマなんて全世界共通なんだし、 誰かがいい感じの作ってくれてるんじゃない の？

  15. dbt-ga4なるものが！！！

  16. とりあえず使ってみ た

  17. 導入手順 dbtのプロジェクトを作る packages.ymlにdbt-ga4パッケージを追加 dbt_project.ymlでご自身のGA4の設定を記載 dbt deps実行 dbt build実行 1 2

    3 4 5 ©2023 primeNumber Inc. All Rights Reserved. Confidential. 17

  18. めちゃくちゃ楽

  19. 成果物を、もう少し詳し く

  20. 全体像 BigQuery Export GA4 BigQuery生ログテーブル (データレイク層) 整形後のテーブル (データウェアハウス 層) dbt-ga4

    ©2023 primeNumber Inc. All Rights Reserved. Confidential. 20
  21. None
  22. None

  23. スタースキーマっぽくなってる dim_sessions dim_users fct_session fct_pages ©2023 primeNumber Inc. All Rights

    Reserved. Confidential. 23
  24. None
  25. None
  26. None

  27. できればこうして欲しかった 1行がページビュー単位など、イベント別にテ ーブルを用意する dim_sessionに情報もたせ過ぎない パーティショニング対応 タイムラグ問題は解決していない・・・ 探索的な分析をする最小粒度なので デバイスや国・地域などもディメンションテーブル化 ©2023 primeNumber

    Inc. All Rights Reserved. Confidential. 27

  28. 最後に宣伝を・・・

  29. None

  30. trocco「Web行動ログ収集SDK」 Web分析に必要なデータを取得 1タグでPV、イベント、メール開封ログなどが収集可能 GAと同じデータが生ログで、任意のDWHに蓄積 セッションやチャネルの定義はGAを踏襲 お好きなDWH（BigQuery/Redshift）に10分以内に転送 BigQueryのパーティショニングにも各種対応 広告アトリビューション分析が可能 重複のない、正確なコンバージョン数の集計に必要な アトリビューション分析が行なえます。

    広告アトリビューション分析の詳細は担当営業まで お問い合わせ下さい ©2023 primeNumber Inc. All Rights Reserved. Confidential. 30

  31. この辺の話に興味ある方、つながってくださ い！ (DMもウェルカムです) Twitter: @hiro_koba_jp ©2023 primeNumber Inc. All Rights

    Reserved. Confidential. 31

  32. ご清聴ありがとうございました