Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
第5回データ人材 ~エンプラ企業にいそうなヤバイやつ~
Search
SnowflakeDataManagementJP
January 14, 2024
Technology
0
420
第5回データ人材 ~エンプラ企業にいそうなヤバイやつ~
SnowflakeUserGroupデタマネコミュニティ第5回活動で利用した資料を公開します!
SnowflakeDataManagementJP
January 14, 2024
Tweet
Share
More Decks by SnowflakeDataManagementJP
See All by SnowflakeDataManagementJP
第8回DataMeshLT#3 DataMeshの実践と難しさ
sfdmt
1
71
第8回DataMeshLT#4 Snowflake-データメッシュガバナンス
sfdmt
1
100
第8回DataMeshLT#5 データメッシュの魅力:原則から拓く新たな道
sfdmt
0
120
第8回DataMeshLT#1 DataMeshって?
sfdmt
0
35
第8回DataMeshLT#2 とあるエンプラ企業への DataMesh適用シミュレーション
sfdmt
2
58
第6回 データを売ることの『夢』と『現実』
sfdmt
0
790
第3回データモデリング?どのレベルでやるの?
sfdmt
3
1.7k
第2回データドリブン文化醸成〜組織を変えるには〜
sfdmt
2
180
第1回データ品質のお悩みと解決方法を考えてみた
sfdmt
2
740
Other Decks in Technology
See All in Technology
Security-JAWS【第35回】勉強会クラウドにおけるマルウェアやコンテンツ改ざんへの対策
4su_para
0
180
ノーコードデータ分析ツールで体験する時系列データ分析超入門
negi111111
0
410
Platform Engineering for Software Developers and Architects
syntasso
1
520
【令和最新版】AWS Direct Connectと愉快なGWたちのおさらい
minorun365
PRO
5
760
AWS Lambda のトラブルシュートをしていて思うこと
kazzpapa3
2
180
20241120_JAWS_東京_ランチタイムLT#17_AWS認定全冠の先へ
tsumita
2
290
OTelCol_TailSampling_and_SpanMetrics
gumamon
1
180
ISUCONに強くなるかもしれない日々の過ごしかた/Findy ISUCON 2024-11-14
fujiwara3
8
870
データプロダクトの定義からはじめる、データコントラクト駆動なデータ基盤
chanyou0311
2
330
TypeScriptの次なる大進化なるか!? 条件型を返り値とする関数の型推論
uhyo
2
1.7k
VideoMamba: State Space Model for Efficient Video Understanding
chou500
0
190
rootlessコンテナのすゝめ - 研究室サーバーでもできる安全なコンテナ管理
kitsuya0828
3
390
Featured
See All Featured
The Straight Up "How To Draw Better" Workshop
denniskardys
232
140k
Bootstrapping a Software Product
garrettdimon
PRO
305
110k
The Invisible Side of Design
smashingmag
298
50k
Producing Creativity
orderedlist
PRO
341
39k
Sharpening the Axe: The Primacy of Toolmaking
bcantrill
38
1.8k
How to Ace a Technical Interview
jacobian
276
23k
Site-Speed That Sticks
csswizardry
0
27
Learning to Love Humans: Emotional Interface Design
aarron
273
40k
Visualizing Your Data: Incorporating Mongo into Loggly Infrastructure
mongodb
42
9.2k
Building Adaptive Systems
keathley
38
2.3k
Imperfection Machines: The Place of Print at Facebook
scottboms
265
13k
KATA
mclloyd
29
14k
Transcript
エンプラ企業にいそうなヤバイやつ
あんただれ? 名前:酒徳 哲 (さかとく あきら) 普段のお仕事:某エンプラ企業のデータエンジニア見習い 好きなもの:日本酒、クラフトビール、サウナ
おことわり このプレゼンテーションはフィクションです。 実在の人物や団体などとは関係ありません。
今回のプレゼンテーションについて 今回はお悩み相談回です。 データ基盤に関する色んな悩みをデータ人材という切り口で相談します。 ただし、 「それを解決するのはデータ人材ではない」 「そもそもそれは問題ですらない」 みたいな視点がありそうなので、色々ご意見いただければ幸いです。
本日のネタ Karte.1 彼はやる気と根気がすごすぎた Karte.2 二人はレベルが違いすぎた Karte.3 彼はフロンティア精神がすごかった Karte.4 彼らの入力は温もりがあふれていた Karte.5 「私」は将来がわからない
お話の舞台 そろそろ老舗なIT企業、JDDY社 (Japan Data Driven Yourself) 2000年にJDD社とDDY社を中心に各地の中規模ITコンサル企業の合併で誕生。 お客様の生活のIT化とビジネスのDX化を推進するために、 ティッシュペーパーから核弾頭通信機器までなんでも導入支援している。 最近は決済アプリを展開したり、新エネルギー事業を始めたりも。
被保険者数は約10,000人。国内外にグループ会社あり。 ※架空の企業です
JDDY社の組織構成 「私」 Chief Data Officer 偉い。会ったことない。 Data Product Owner オンプレ系の経験豊富なデータアーキテクト
みんなから尊敬されているぞ Director / Data Steward データエンジニアのエース 中間管理職ポジで超忙しい データ基盤チーム データ基盤を作る人たち ガバナンスチーム 利用ルールを作る人たち 情報システム本部 データ分析室 室長&Data Analysts
Karte.1 彼はやる気と根気がすごすぎた 本部で使えるデータの詳細をまとめよう。 ガバナンスチームの新人くん、 有識者にヒアリングして整理してね。 頑張ります!
Karte.1 彼はやる気と根気がすごすぎた できました! ・100テーブル×20カラムの情報が1シートに ・各カラムの計算ロジックが自然文で記載
Karte.1は… ・どうするべきだった? ・ここからどうしよう?
Karte.2 二人はレベルが違いすぎた 弊社のデータの規模と特徴を考えると Data Vaultが最適だな 妥当ですね (よく知らないけどこの二人が言うならそうなんだろう …) 了解しました! 難しいと噂の… 設計できん…
Karte.2は… ・これからどうなる? ・ここからどうしよう?
JDDY社のデータ基盤 システムA システムB システムC システムD システムE Snowflake AWS オンプレ Oracle
Python環境 Tableau CSVダンプ Spark + JP1 /We love this!\
Karte.3 彼はフロンティア精神がすごかった これから我が社はデータ活用に全力投球! 頑張ろう!
Karte.3 彼はフロンティア精神がすごかった 主にシステムBのデータを担当してます。 データの鮮度なんとかなりませんか? でもデータ活用1stなので 何か考えますね! データパイプライン全部を 更改するのは無理そうだな…
Karte.3 彼はフロンティア精神がすごかった データ活用を推進するため、新システムBに高性能な ログ基盤を導入しました! 独自の特許技術が実装されていて処理遅延が少ないです! エンプラ企業での導入事例は初めてかも! 技術スタック統一しないの!? ていうかそれ汎用性あるの!?
Karte.3は… ・どうするべきだった? ・ここからどうしよう?
Karte.4 彼らの入力は温もりがあふれていた システムC システムD システムE AWS Spark + JP1 建設工事のプロフェッショナルです! お客様オフィスのファシリティを
データ管理するよ! /実はグループ会社のシステム\ 現場でリアルなデータを 計測して入力!
Karte.4 彼らの入力は温もりがあふれていた システムC システムD システムE AWS Spark + JP1 /実はグループ会社のシステム\ 入力端末アプデで
文字コード変わった 住所にダメ文字が… 経度に小数点入れ忘れた Lon=1394402 入力欄で改行する 裏技を使った きょうはもうだめ \またあした/ \ノーデータ/
Karte.4は… ・どうするべきだった? ・ここからどうしよう?
Karte.5 「私」は将来がわからない 我が社はジョブ型人事制度を導入する! 自分自身でキャリアを構築するべし! よーし頑張るぞ!
Karte.5 「私」は将来がわからない じゃあジョブをエンジニア、データサイエンティストから 選択して目標管理(MBO)シート提出してね。 それぞれのジョブの推奨スキルも公開したよ。 自分たちはどっちだ…?
Karte.5 「私」は将来がわからない 不評だから各ジョブにサブカテゴリを定義したよ。 ソフトウェアエンジニア、インフラエンジニア、 あと船舶設備エンジニアも選べるよ! いや、自分たちはどれだ…?
Karte.5は… ・どうするべきだった? ・みんなのところはどう?
SnowVillage TV #XX 登壇者募集中!次に話すのはあなただ!