Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
dbtで作るデータ分析基盤
Search
RyutoYoda
February 11, 2025
0
20
dbtで作るデータ分析基盤
RyutoYoda
February 11, 2025
Tweet
Share
More Decks by RyutoYoda
See All by RyutoYoda
AIエージェント多すぎて迷子になっていませんか
ryutoyoda
0
16
databricks,dbt,AWS S3を使ったデータパイプラインレシピ
ryutoyoda
0
52
EmoEcho
ryutoyoda
0
46
Featured
See All Featured
RailsConf & Balkan Ruby 2019: The Past, Present, and Future of Rails at GitHub
eileencodes
139
34k
Chrome DevTools: State of the Union 2024 - Debugging React & Beyond
addyosmani
7
830
Fashionably flexible responsive web design (full day workshop)
malarkey
407
66k
The Web Performance Landscape in 2024 [PerfNow 2024]
tammyeverts
9
800
Visualizing Your Data: Incorporating Mongo into Loggly Infrastructure
mongodb
48
9.7k
Docker and Python
trallard
45
3.5k
Making Projects Easy
brettharned
117
6.4k
Navigating Team Friction
lara
189
15k
[RailsConf 2023 Opening Keynote] The Magic of Rails
eileencodes
30
9.6k
Code Reviewing Like a Champion
maltzj
525
40k
Writing Fast Ruby
sferik
628
62k
[Rails World 2023 - Day 1 Closing Keynote] - The Magic of Rails
eileencodes
36
2.5k
Transcript
dbtで作るデータ分析基盤 Ryuto Yoda 2025年2月14日
・データ活用の課題 ・dbtとは? ・dbtの魅力 ・dbtの課題 ・質問タイム おしながき
・データ活用の課題 ・dbtとは? ・dbtの魅力 ・dbtの課題 ・質問タイム おしながき
データ活用の課題 データ分析したい! AIを作りたい!
データ活用の課題 使える綺麗なデータがない、、、
データ活用の課題 データ分析やAIモデル開発には「綺麗なデータ」が必要。 でも、現実は違います。 複数のファイルやテーブルがごちゃごちゃ 名前の揃わないカラムや欠損値だらけのデータ ビジネスで利用できる形式になっていない このカオスを整理するためのツールがdbtです!
・データ活用の課題 ・dbtとは? ・dbtの魅力 ・dbtの課題 ・質問タイム おしながき
主にSQLで書ける「データ変換ツール」data build toolの頭文字をとって「dbt」 データベースのクエリエンジンに依存せず、自由 度が高い(PostgreSQL、BigQuery、Snowflake など対応) 類似サービス(dataform) エンジニアと分析担当の架け橋になるツールです! dbtとは?
dbtとは? データアーキテクチャにおけるdbtの立ち位置
・データ活用の課題 ・dbtとは? ・dbtの魅力 ・dbtの課題 ・質問タイム おしながき
dbtの魅力 冪等性が高く同じ処理を何度実行しても結果 が変わらない安心感 ビジネスロジックを組み込んだデータ開発が 可能
冪等性について dbtでは依存関係を明確に管理する設計が組み込ま れており、コードで入力と出力を明確に定義する ことができます。 入力元テーブル 出力先テーブル
ビジネスロジックを組み込んだデータ開発 dbtではディメンショナルモデルング(データをビジネス 分析しやすくするために切り出す手法)を簡単に組み込 む関数が充実しています。
dbtデモ 実際に動かしてみます!
・データ活用の課題 ・dbtとは? ・dbtの魅力 ・dbtの課題 ・質問タイム おしながき
dbtの課題 dbtはSQLベースで簡単に開発を進めることができますが、 ビジネス特性の理解やデータモデリングに関する知識がなけ ればデータカオスは解消されず、dbtの機能を十分に活かす ことは難しくなります
dbtの課題 そこでdbtを使ったモデリングに 関するおすすめ資料をまとめてみました。 kimball-dimensional-model dbt_data_vault ・ディメンショナルモデリングの実践 ・データボルト2.0の実践
これで完全に理解...
質問タイム