Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
GunosyにおけるABテスト
Search
ij_spitz
March 18, 2016
Technology
1
450
GunosyにおけるABテスト
2016/03/18
エムスリー x Gunosy Beer bash!(Gunosy.beer#2)
ij_spitz
March 18, 2016
Tweet
Share
More Decks by ij_spitz
See All by ij_spitz
GunosyにおけるABテストの全容
ij_spitz
2
2.1k
プロダクト改善のためのデータ分析入門
ij_spitz
0
70
これからの強化学習_3.1_3.2
ij_spitz
0
99
海外スタートアップにおけるA/Bテスト基盤の紹介
ij_spitz
9
17k
fitbitではじめるオープンデータ
ij_spitz
0
160
食べログデータから見る東新宿と西早稲田のランチ事情
ij_spitz
0
330
Linuxとファイル
ij_spitz
0
76
紳士なおじさんYeomanに学ぶ異性を落とす3つのテクニック
ij_spitz
0
190
Supporter Opinion
ij_spitz
0
58
Other Decks in Technology
See All in Technology
【shownet.conf_】クロージングセッション
shownet
PRO
0
230
Semantic Kernel の Agent 機能試してみた!
okazuki
1
100
リスクから学ぶKubernetesコンテナセキュリティ/k8s-risk-and-security
mochizuki875
1
280
Product Utilization of Large Language Models Starting Today
ymatsuwitter
3
750
クレジットカードを製造する技術
yutadayo
70
34k
【shownet.conf_】トポロジ図の歩き方
shownet
PRO
0
370
【shownet.conf_】AI技術とUX監視の応用でShowNetの基盤を支えるモニタリングシステム
shownet
PRO
0
270
【shownet.conf_】放送局とShowNetが共創する、未来の放送システム ~Media over IP 特別企画の裏側~
shownet
PRO
0
270
小さな勉強会の始め方、広げ方、あるいは友達の作り方 / How to Start, Grow, and Build Connections with Small Study Groups
ar_tama
2
1.2k
【shownet.conf_】ShowNet伝送改めShowNet APN 2024
shownet
PRO
0
330
RAGの性能を評価しよう
kurahara
1
280
XPを始める新人に伝えたい近道の鍵
nakasho
1
270
Featured
See All Featured
[Rails World 2023 - Day 1 Closing Keynote] - The Magic of Rails
eileencodes
29
1.7k
Making the Leap to Tech Lead
cromwellryan
130
8.8k
Understanding Cognitive Biases in Performance Measurement
bluesmoon
26
1.3k
ReactJS: Keep Simple. Everything can be a component!
pedronauck
663
120k
Fireside Chat
paigeccino
32
2.9k
I Don’t Have Time: Getting Over the Fear to Launch Your Podcast
jcasabona
26
1.9k
What's new in Ruby 2.0
geeforr
341
31k
Pencils Down: Stop Designing & Start Developing
hursman
119
11k
The World Runs on Bad Software
bkeepers
PRO
65
11k
CSS Pre-Processors: Stylus, Less & Sass
bermonpainter
355
29k
Adopting Sorbet at Scale
ufuk
73
8.9k
Keith and Marios Guide to Fast Websites
keithpitt
408
22k
Transcript
石塚 淳(Gunosy Inc.) 2016 年 3 月 18 日 GunosyにおけるABテスト
第2回 エムスリー x Gunosy Beer bash!
2 ©Gunosy Inc. 自己紹介 • いしつか じゅん (@ij_spitz) • データ分析チーム
• 入社して1ヶ月半くらい • 前職はソーシャルゲームの分析基盤づくり • 今やっていることはABテスト、アドホック分析など
3 ©Gunosy Inc. 今日話すこと • GunosyとABテスト • ABテストのよくある失敗事例
4 ©Gunosy Inc. GunosyとABテスト • GunosyとABテスト • ABテストのよくある失敗事例
5 ©Gunosy Inc. GunosyとABテスト • Gunosyではあらゆる機能のリリースやアップデー トにABテストを利用している ◦ 記事配信ロジック ◦
UI / UX
6 ©Gunosy Inc. GunosyとABテスト • なぜやるか ◦ 数字は神より正しい ▪ HiPPOに流されないフェアな指針
◦ 施策を定量的に評価するため ▪ 平均への回帰に惑わされない
7 ©Gunosy Inc. ABテストのよくある失敗事例 • GunosyとABテスト • ABテストのよくある失敗事例
8 ©Gunosy Inc. AAテスト • AAテストとは ◦ テスト対象と比較対象に同じパターンを出して、 値のばらつきを確認するテスト •
AAテストをしないとどうなる? ◦ 値の上がり下がりが誤差によるものなのか判断 できない ◦ 誤った判断につながる
9 ©Gunosy Inc. データ通信速度 • データ通信速度が与える影響 ◦ Amazonでは読み込み時間が0.1秒減ると、売 上が1%増加する(2006年Amazon公表) •
気をつけるポイント ◦ デザインや画像の変更 ◦ APIを叩く回数の変更
10 ©Gunosy Inc. 希薄化(dilution) • すべてのユーザーが目的の機能を利用するわけで はない 50% 10% 全ユーザーの50%に公開
目的の機能を利用したユーザーは 50%中の20% 全体の10%が目的の機能を利用したユーザーになる
11 ©Gunosy Inc. 希薄化(dilution) • 気をつけるポイント ◦ 対象となるABのサイズをあらかじめ想定しておく ◦ 集計時に指標を一人当たりで補正するときは機
能を利用したユーザーに限定する
12 ©Gunosy Inc. バイアス • テスト対象にのみに特定の条件が満たされてしまう (条件にバイアスが掛かってしまう) 図はTwitterのエンジニアブログから引用
13 ©Gunosy Inc. 最後に • もっとABテストについて知りたい方はこちら ◦ The Twitter Engineering
Blog ▪ https://blog.twitter.com/tags/experiments?blog=engineering ◦ LinkedIn Engineering Blog ▪ https://engineering.linkedin.com/blog/topic/ab-testing