Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
Causal Impactを用いたLINE Pay UIの効果検証とABテスト実施への貢献
Search
LY Corporation Tech
PRO
September 27, 2024
Technology
3
640
Causal Impactを用いたLINE Pay UIの効果検証とABテスト実施への貢献
ABテストを実施していない施策におけるCausal Impactによる効果検証と、手法や施策の限界点からABテスト実施への意思決定に貢献した過程を紹介します
LY Corporation Tech
PRO
September 27, 2024
Tweet
Share
More Decks by LY Corporation Tech
See All by LY Corporation Tech
DETECLAP: Enhancing Audio-Visual Representation Learning with Object Information (Technical seminar on acoustic scene and event analysis)
lycorptech_jp
PRO
0
18
Language-based Audio Moment Retrieval (Technical seminar on acoustic scene and event analysis)
lycorptech_jp
PRO
0
14
Lighthouse: A User-friendly Library for Reproducible Video Moment Retrieval and Highlight Detection (Technical seminar on acoustic scene and event analysis)
lycorptech_jp
PRO
0
19
LeSSに潜む「隠れWF病」とその処方箋
lycorptech_jp
PRO
2
120
新卒2年目エンジニアがLINEギフトの保守性を高めるために取り組んだこと
lycorptech_jp
PRO
2
480
Trusted Types API と Vue.js
lycorptech_jp
PRO
1
370
LeSSをはじめよう〜LeSSをはじめるとき、LeSSをはじめてから、知りたかったこと詰め合わせ〜
lycorptech_jp
PRO
2
230
合併後のインフラ環境におけるアラートフローの問題点洗い出しと改善をした話
lycorptech_jp
PRO
1
120
はじめてのアクセシビリティ実践記
lycorptech_jp
PRO
2
87
Other Decks in Technology
See All in Technology
わたしとトラックポイント / TrackPoint tips
masahirokawahara
1
240
Gradle: The Build System That Loves To Hate You
aurimas
2
140
最速最小からはじめるデータプロダクト / Data Product MVP
amaotone
5
730
신뢰할 수 있는 AI 검색 엔진을 만들기 위한 Liner의 여정
huffon
0
300
現地でMeet Upをやる場合の注意点〜反省点を添えて〜
shotashiratori
0
520
10分でわかるfreee エンジニア向け会社説明資料
freee
18
520k
事業者間調整の行間を読む 調整の具体事例
sugiim
0
1.3k
【技術書典17】OpenFOAM(自宅で極める流体解析)2次元円柱まわりの流れ
kamakiri1225
0
210
生成AIとAWS CDKで実現! 自社ブログレビューの効率化
ymae
2
330
ABEMA のコンテンツ制作を最適化!生成 AI x クラウド映像編集システム / abema-ai-editor
cyberagentdevelopers
PRO
1
180
「最高のチューニング」をしないために / hack@delta 24.10
fujiwara3
21
3.4k
Apple/Google/Amazonの決済システムの違いを踏まえた定期購読課金システムの構築 / abema-billing-system
cyberagentdevelopers
PRO
1
210
Featured
See All Featured
Put a Button on it: Removing Barriers to Going Fast.
kastner
59
3.5k
Designing for humans not robots
tammielis
249
25k
Sharpening the Axe: The Primacy of Toolmaking
bcantrill
37
1.8k
実際に使うSQLの書き方 徹底解説 / pgcon21j-tutorial
soudai
167
49k
[RailsConf 2023 Opening Keynote] The Magic of Rails
eileencodes
28
9.1k
[RailsConf 2023] Rails as a piece of cake
palkan
51
4.9k
Performance Is Good for Brains [We Love Speed 2024]
tammyeverts
3
370
Evolution of real-time – Irina Nazarova, EuRuKo, 2024
irinanazarova
4
290
Designing Dashboards & Data Visualisations in Web Apps
destraynor
228
52k
"I'm Feeling Lucky" - Building Great Search Experiences for Today's Users (#IAC19)
danielanewman
226
22k
Building Better People: How to give real-time feedback that sticks.
wjessup
363
19k
Stop Working from a Prison Cell
hatefulcrawdad
267
20k
Transcript
公開 © LY Corporation ファミリーサービスチーム 安藤 正和 Causal Impactを用いた LINE
Pay UIの効果検証と ABテスト実施への貢献
公開 © LY Corporation 2 自己紹介 名前 安藤正和 部署 DS統括本部
5本部 分析3部ファミリーサービスチーム 主な業務 LINE PayやLINE公式アカウント(無料スタンプ)周りのデータ分析業務 近況 1年前に縁もゆかりもない札幌に引っ越した屯田兵 (居住地の変遷: 広島→大阪→群馬→東京→北海道)
公開 © LY Corporation Agenda 01 LINE Pay概要 02 Balance領域のUI変更
03 効果検証 04 まとめ 3
公開 © LY Corporation 01: LINE Pay概要 4
公開 © LY Corporation 5 LINE Payとは ・2014/12にリリースされたLINEのモバイル送金・決済サービス
公開 © LY Corporation
公開 © LY Corporation 7 そしてサ終へ
公開 © LY Corporation 8 LINE Payの足跡 LINEプリペイドカード マイカラー制度 300億円祭
※QRコード決済初
公開 © LY Corporation 02: Balance領域のUI変更 9
公開 © LY Corporation 10 WalletタブのBalance領域 ・LINE Payの過半数が、Walletタブから利用 Balance領域 LINE
Payのメインタッチポイント 遷移先にPay TOPがあるけど 基本的な機能はBalanceで十分 Pay TOP
公開 © LY Corporation 11 Walletタブの開発 ・Walletの部署が管轄しており、LINEヤフーとして全体最適を目指したい LINE Pay以外のサービス達 ・Pointクラブ
・マイカード ・ギフト ・クーポン (ライバルがひしめく頼もしい仲間が多いWalletタブ)
公開 © LY Corporation ・Walletタブから決済画面まで1タップ ・画面の1/4程度を占有 Ver.3 12 Balance Ver.3
⇨ Ver.4 ・展開式になり、決済までのタップ数が増加 ・(緑になった) Ver.4 展開前→ 展開後↓
公開 © LY Corporation 13 100%中の100%展開されたUI変更 迅速な意思決定 ABテストモジュールがない (この時点で分析チームはUI変更のことを知らず)
公開 © LY Corporation 14 UI変更に対するユーザーからの声 UI改悪されて泣いた レジで開いて、あれ?支払うボタンなくなってない?って戸惑った LINE Payすごく見にくくなった…。
Wallet画面に表示されていたバーコードの階層を深くしたのは改悪 バーコードを開くのに1タップ増え、どこを操作すれば良いかわからなかった
公開 © LY Corporation 15 UI変更の結果 アイコン タップ数の変化率 決済 -13%
チャージ -29% 送金 -39% Balance領域の主要アイコンタップ数の前後比較
公開 © LY Corporation 16 UI変更の結果 アイコン タップ数の変化率 決済 -13%
チャージ -29% 送金 -39% Balance領域の主要アイコンタップ数の前後比較 \(^o^)/
公開 © LY Corporation 17 UI変更の結果 アイコン タップ数の変化率 決済 -13%
チャージ -29% 送金 -39% Balance領域の主要アイコンタップ数の前後比較 \(^o^)/ UI変更前後の3日間の結果比較 →統計的に効果のあるか不明
公開 © LY Corporation 18 そして、分析依頼へ
公開 © LY Corporation 03: 効果検証 19
公開 © LY Corporation ・LINE Pay側: LINE PayのKPIが著しく低下していた場合、UIの巻き戻しを検討 ・Wallet側: UIの巻き戻しは可能だが、ユーザーへの負担が少ない形を模索したい
巻き戻す場合、LINE Payユーザーを対象に最適なUIを検証したい 事業側の意見 20 ヒアリングと分析の目的 DSのやること UI変更によるLINE PayのKPIへの効果を定量化 UIの巻き戻しの意思決定に貢献すること(なる早で)
公開 © LY Corporation ・分析手法 Causal Impact(以下,CI)によるKPI予測値と実測値の差分比較 ・目的変数(KPI) コード決済額 チャージ額
送金額 21 分析デザイン
公開 © LY Corporation ・学習期間 2022/08/01 ~ 2023/08/15 ・予測期間(Balance ver.4適用後)
2023/08/16 ~ 2023/09/10 ・共変量 ・週周期性 ・月周期性 ・祝日 ・給料日 ・LINEポケットマネー返済日(チャージのみ) 22 Causal Impact コード決済額の予測値(青)と実測値(赤)
公開 © LY Corporation ・時系列モデルの予測値と実測値の差分つ かって因果効果を推定する手法 ・CIを使う上での注意点 ・施策前後で共変量の分布が変化していないこと (共変量シフト) ・施策後に目的変数に影響を与える要因(施策など)
がないこと 23 Causal Impact概要 コード決済額の予測値(青)と実測値(赤) 参考文献
公開 © LY Corporation ・コード決済額は-5% ・チャージと送金は効果がなさそう ※1%未満の効果を検出できるとは思えない 24 分析結果 KPI
リフト値 コード決済額 -5.29% チャージ額 -0.893% 送金額 +0.020% CIによる推定結果
公開 © LY Corporation 25 限界点: 予測モデルの適合度 イベントを上手く 予測できていない チャージ取引額
送金取引額 そもそも上手く 当てはまっていない
公開 © LY Corporation ・コード決済: - UI変更で5%程度GMV減少 ・チャージと送金: - フィッティングから信頼性は乏しい
・本施策の詳細な効果検証は困難: - ABテスト無し - 事前の分析準備無し 結果の要約 26 結果の報告と提案 ・UIの差し戻そう! - 1⇨2タップになったことが要因 ・UI変更に伴う効果検証や意思決 定の準備は予めしましょう! - ABテストしましょう - 準備段階からDSを交ぜて 提案
公開 © LY Corporation ・コード決済: - UI変更で5%程度GMV減少 ・チャージと送金: - フィッティングから信頼性は乏しい
・本施策の詳細な効果検証は困難: - ABテスト無し - 事前の分析準備無し 結果の要約 27 結果の報告と提案 ・UIの差し戻そう! - 1⇨2タップになったことが要因 ・UI変更に伴う効果検証や意思決 定の準備は予めしましょう! - ABテストしましょう - 準備段階からDSを交ぜて 提案 報告の結果…
公開 © LY Corporation 28 Balance UIの修正にABテスト実施!!
公開 © LY Corporation ・Target User - LINE Pay登録ユーザー ・Group
- C群: デフォルトでBalance領域が閉じた(非展開)状態 - T群: デフォルトでBalance領域を展開した状態 29 UI修正のABテストスペック C群 T群
公開 © LY Corporation 04: まとめ 30
公開 © LY Corporation 1. walletタブのBalance領域のUI変更が100%でリリースされた 2. ABテストされていなかったため、CIによる効果検証を行った 3. 仕様変更によって、コード決済額は明らかに低下していた
4. 分析結果と限界点も報告することで、UI修正のABテスト実施に貢献出来た 31 まとめ
公開 © LY Corporation ・分析で分からなかったことも報告したことでABテスト実施に貢献出来た - CIのコード決済額の結果だけ共有したら、ABテストにつながっていなかったかも - フィッティングや分析手法の限界点を材料に交渉できた ・ユーザーの声も報告することで、結果の納得感を高めることが出来た
- 数値だけでは分からない事業側にある仮説を補強するアイテムとしてVoCは有効 (ユーザーの声は面白いし、勉強になるので毎週読んでる) 32 今回の学び(良かった点)
社外秘情報 © LY Corporation Thank you!!
公開 © LY Corporation ・展開UI群と非展開UI群でコード決済額に有意差なし ・新規ユーザーに絞っても有意差ない ・コード決済額自体はv4リリースから下がったまま ・UI以外の要因が影響していそう ・v4のリリースから4ヶ月以上経過 →非展開のUIのままでGo!!
34 Appendix: Balance UI修正ABテスト コード決済額の累積推移 青: 非展開群, 緑: 展開群