Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
dbtでGA4の生ログを扱いやすくする話
Search
Hirokazu Kobayashi
February 16, 2023
Technology
2
1.1k
dbtでGA4の生ログを扱いやすくする話
2023-02-16に開催したJagu'e'r分科会でのLT発表スライドです
Hirokazu Kobayashi
February 16, 2023
Tweet
Share
More Decks by Hirokazu Kobayashi
See All by Hirokazu Kobayashi
dbtでアトリビューション分析
hiro_koba_jp
0
1k
Data Engineering Study #16 LT troccoデータカタログ
hiro_koba_jp
0
260
trocco Summer Update 2022 - 「dbt連携/グループ機能リニューアル」他ご紹介
hiro_koba_jp
0
370
DES#13 troccoデータカタログ&PdM募集
hiro_koba_jp
0
120
データマネジメントを実現するためのサービス・OSSまとめ
hiro_koba_jp
0
550
広告・マーケROIを可視化するためにETL/データ整備した話
hiro_koba_jp
0
1.6k
AWS ETL祭り - AWS Glue活用事例@primeNumber
hiro_koba_jp
6
5.9k
Other Decks in Technology
See All in Technology
【shownet.conf_】トポロジ図の歩き方
shownet
PRO
0
360
AI時代のアジャイル開発(XP祭り2024版) / Agile Development in the AI Era in XPJUG
takaking22
13
3.4k
AWS Lambdaで実現するスケーラブルで低コストなWebサービス構築/YAPC::Hakodate2024
fujiwara3
3
730
ドメインと向き合う - 旅行予約編
hidenorigoto
4
510
【shownet.conf_】ローカル5Gを活用したウォーキングツアーの体感向上
shownet
PRO
0
250
【shownet.conf_】ShowNet伝送改めShowNet APN 2024
shownet
PRO
0
310
XPを始める新人に伝えたい近道の鍵
nakasho
1
240
MLOpsの「あるある」課題の解決と、そのためのライブラリgokart
mski_iksm
1
150
【shownet.conf_】多様化するネットワーク環境を柔軟に統合するルーティングテクノロジー
shownet
PRO
0
270
クロージング / MIERUNE JCT - Tokyo 2024
mierune
PRO
0
290
分析者起点の企画を成功させた連携面の工夫
lycorptech_jp
PRO
0
220
REST API Design Pitfalls
victorrentea
1
500
Featured
See All Featured
Being A Developer After 40
akosma
84
590k
Build your cross-platform service in a week with App Engine
jlugia
229
18k
Design and Strategy: How to Deal with People Who Don’t "Get" Design
morganepeng
125
18k
Typedesign – Prime Four
hannesfritz
39
2.3k
I Don’t Have Time: Getting Over the Fear to Launch Your Podcast
jcasabona
26
1.9k
A Tale of Four Properties
chriscoyier
155
22k
GraphQLの誤解/rethinking-graphql
sonatard
65
9.9k
KATA
mclloyd
27
13k
Java REST API Framework Comparison - PWX 2021
mraible
PRO
28
7.5k
How to Create Impact in a Changing Tech Landscape [PerfNow 2023]
tammyeverts
44
2k
The Power of CSS Pseudo Elements
geoffreycrofte
71
5.3k
Building Better People: How to give real-time feedback that sticks.
wjessup
360
19k
Transcript
GA4 x dbt Jagu'e'r LT 2023/02 GA4の生ログの弱点と、それを補うdbtパッケージを試してみ た
小林 寛和 株式会社primeNumber 取締役執行役員 CPO hiro_koba_jp 慶應義塾大学卒業後、2014年より株式会社リブセンス へ入社し、データエンジニアとして同社分析基盤 立ち上げをリード。 trocco®のプロダクト発案者で、現プロダクト責任者。
Data Engineering Studyの共同主催者も務める。
Agenda GA4の生ログの概要と、課題 1 dbtでGA4の生ログをより使いやすく 2 まとめ 3
GA4の生ログの概要と、課題
GA4のさまざまな使い方 Google AnalyticsのブラウザUIから見る Looker Studioとかでつないで可視化する GA4のBigQuery Exportを使い、生ログからデータ分析 ©2023 primeNumber Inc.
All Rights Reserved. Confidential. 5
GA4のさまざまな使い方 Google AnalyticsのブラウザUIから見る Looker Studioとかでつないで可視化する GA4のBigQuery Exportを使い、生ログからデータ分析 ©2023 primeNumber Inc.
All Rights Reserved. Confidential. 6
GA4の生ログの弱点 データ構造が扱いにくい event_timestampがUNIXTIMEなので変換が必要 ログがいつ来るのか分からない・タイムラグがある ©2023 primeNumber Inc. All Rights Reserved.
Confidential. 7
データ構造が扱いにくい
集計しようとすると・・・
GA4の生ログを使いやすくするために、 dbtというツールを使ってみた
先程の弱点を解決するには ひたすらクエリで頑張る 1 扱いやすい形に整形してから使う 2 ©2023 primeNumber Inc. All Rights
Reserved. Confidential. 11
先程の弱点を解決するには ひたすらクエリで頑張る 1 扱いやすい形に整形してから使う 2 ©2023 primeNumber Inc. All Rights
Reserved. Confidential. 12
データウェアハウス層を作っ て 扱いやすくしたい もう少し専門用語でいうと ©2023 primeNumber Inc. All Rights Reserved.
Confidential. 13
GA4のスキーマなんて全世界共通なんだし、 誰かがいい感じの作ってくれてるんじゃない の?
dbt-ga4なるものが!!!
とりあえず使ってみ た
導入手順 dbtのプロジェクトを作る packages.ymlにdbt-ga4パッケージを追加 dbt_project.ymlでご自身のGA4の設定を記載 dbt deps実行 dbt build実行 1 2
3 4 5 ©2023 primeNumber Inc. All Rights Reserved. Confidential. 17
めちゃくちゃ楽
成果物を、もう少し詳し く
全体像 BigQuery Export GA4 BigQuery生ログテーブル (データレイク層) 整形後のテーブル (データウェアハウス 層) dbt-ga4
©2023 primeNumber Inc. All Rights Reserved. Confidential. 20
None
None
スタースキーマっぽくなってる dim_sessions dim_users fct_session fct_pages ©2023 primeNumber Inc. All Rights
Reserved. Confidential. 23
None
None
None
できればこうして欲しかった 1行がページビュー単位など、イベント別にテ ーブルを用意する dim_sessionに情報もたせ過ぎない パーティショニング対応 タイムラグ問題は解決していない・・・ 探索的な分析をする最小粒度なので デバイスや国・地域などもディメンションテーブル化 ©2023 primeNumber
Inc. All Rights Reserved. Confidential. 27
最後に宣伝を・・・
None
trocco「Web行動ログ収集SDK」 Web分析に必要なデータを取得 1タグでPV、イベント、メール開封ログなどが収集可能 GAと同じデータが生ログで、任意のDWHに蓄積 セッションやチャネルの定義はGAを踏襲 お好きなDWH(BigQuery/Redshift)に10分以内に転送 BigQueryのパーティショニングにも各種対応 広告アトリビューション分析が可能 重複のない、正確なコンバージョン数の集計に必要な アトリビューション分析が行なえます。
広告アトリビューション分析の詳細は担当営業まで お問い合わせ下さい ©2023 primeNumber Inc. All Rights Reserved. Confidential. 30
この辺の話に興味ある方、つながってくださ い! (DMもウェルカムです) Twitter: @hiro_koba_jp ©2023 primeNumber Inc. All Rights
Reserved. Confidential. 31
ご清聴ありがとうございました