スタートアップ企業でのデータ活用に向けての取り組み/Working with Startups to Leverage Data

2021/02/25 開催のコネヒトマルシェオンライン「機械学習・データ分析」にて発表したLT資料です。会社でのデータ活用に向けての改善にあたった取り組みをお話しさせていただきました。

Transcript

1. スタートアップ企業での データ活用に向けての取り組み 多田 貞剛 ίωώτϚϧγΣΦϯϥΠϯʮػցֶशɾσʔλ෼ੳʯ
2. 2 自己紹介 多⽥ 貞剛 @tada_infra 株式会社スナックミー SRE/CorpEng 担当 コネヒトマルシェ 初登壇です😌
3. 3 本日お話しする話 AWS DevDay Online Japanでお話しした内容の続きの取り組みにな ります。 データ分析⼿法の改善とその能⼒向上に寄与するための活動をお話 します。
4. データ分析手法の改善 の取組み
5. データ分析手法の改善 • 処理が重い SQL クエリは Athena を使って対応 • SQL クエリの向き先を WRITER からAurora AutoScaling を設定 したAurora の READER に変更
6. データ分析手法の改善 • データ分析において Athena を使っていたが、変数を使えなかっ た • 弊社の分析クエリは変数を使って処理を書いているクエリが多 数あるため書き換えにコストが⾼かった • 専⽤ツールもなかったため⾮エンジニアには学習コストが⾼く、 結局 Athena が使われず元に戻ってしまった • フォローアップもサポートも⾜りてなかった
7. データ分析手法の改善 • データ分析において Athena を使っていたところを BigQuery に 置き換え • BigQuery では変数が使える、かつ Athena のクエリ処理ス ピードより速かった • 最近 UI 良くなりましたよね📊
8. データ分析手法の改善 • データ分析・可視化のツールでredashを使うようにして以下の効 果を狙った • IT リテラシーが⾼くないメンバー向け • クエリの補完や可視化のオプション多数あること • セキュリティの向上 • 社内で使っているクエリをredashに保存、ダッシュボード化 して視線を合わせる
9. データ分析手法の改善
10. データ分析能力向上 の取組み
11. データ分析能力向上の取り組み • スナックミー では⾮エンジニアの⼈がSQLを実⾏している • 現状開発者に依頼してSQL書いてもらって実⾏ • どうしてそのSQLになるのか • どんなデータが⼊っているのか 等がわからないため • 開発者に負担が寄っている構造だと感じた
12. データ分析能力向上の取り組み • SQL 勉強会を通じて⽬指したい姿 • エンジニアへの問い合わせを減らし⾃⼰解決の割合を増やす • 遅い SQL を分析する⽅法等を知ってエンジニアと会話ができ るようにする • redash での習熟度向上
13. まとめ
14. まとめ • 弊社でのデータ活⽤のための取り組みを紹介させていただきまし た • データ分析⼿法の改善 • データ分析能⼒の向上のための⾮エンジニアとの勉強会 • 課題はまだまだあるので改善、克服していきます💪
15. Thank you!