Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
DSOps #2
Search
Yusuke Kaneko
February 28, 2022
0
27k
DSOps #2
Yusuke Kaneko
February 28, 2022
Tweet
Share
More Decks by Yusuke Kaneko
See All by Yusuke Kaneko
効果検証、入門の入門(後半)
ykaneko1992
3
390
Kdd 2021 読み会(clustering for private interest-based advertising & learning a logistic model from aggregated data)
ykaneko1992
0
22
企業の中の経済学
ykaneko1992
0
32
DSOps #1
ykaneko1992
3
33k
DSOps #4
ykaneko1992
0
30k
DSOps #5-1
ykaneko1992
0
27k
DSOps #5-2
ykaneko1992
0
27k
DSOps #6-1
ykaneko1992
0
26k
DSOps #6-2
ykaneko1992
0
22k
Featured
See All Featured
Docker and Python
trallard
40
3.1k
Keith and Marios Guide to Fast Websites
keithpitt
409
22k
実際に使うSQLの書き方 徹底解説 / pgcon21j-tutorial
soudai
169
50k
The Psychology of Web Performance [Beyond Tellerrand 2023]
tammyeverts
44
2.2k
How to Think Like a Performance Engineer
csswizardry
20
1.1k
A designer walks into a library…
pauljervisheath
204
24k
Writing Fast Ruby
sferik
627
61k
"I'm Feeling Lucky" - Building Great Search Experiences for Today's Users (#IAC19)
danielanewman
226
22k
Dealing with People You Can't Stand - Big Design 2015
cassininazir
364
24k
Measuring & Analyzing Core Web Vitals
bluesmoon
4
120
GraphQLとの向き合い方2022年版
quramy
43
13k
The Success of Rails: Ensuring Growth for the Next 100 Years
eileencodes
44
6.8k
Transcript
DSタスクと 利益との結びつき ~Dynalyst編~ 1/30 2021年度DSOps研修 第2回 担当:加藤 直
担当 加藤 直 (2019年度入社) DynalystのDSチーム所属 担当領域: データ分析、提案 MLモデル作成・運用 MLOps 2/30
今回学んでほしいこと DynalystのDSP運用をモデルに、 お金の流れからDSが取り組むべきこと・問題点を知る │ ├─ 1. RTBの概要とお金の流れ └─ 2. DynalystのDSタスク例
3/30
RTBの概要とお金の流れ 4/30
RTBに関わるプレイヤー 5/30
RTBに関わるプレイヤー 6/30 基本的に、左から右にお金が流れていく
SSP、DSPの関係性 7/30 SSP - メディアから広告枠を買い、DSPに売る - 広告が表示された際にオークションを開催して 最高入札額のDSPに広告表示の権利を与える DSP -
広告主から広告を預かって代理で配信する - 入札額をうまく決定することで効果最大化を図る - 広告がクリックされた際に広告主からお金を貰う
広告表示の流れ - Webページの一例 - 赤枠の部分が広告 8/30
広告表示の流れ - 最初から広告内容が決まってる わけではなく、枠だけが存在 - 広告枠にはJSなどで書かれたタグ が埋め込まれている 9/30 <タグ>
広告表示の流れ 10/30 - サイトへアクセスがあると、リクエストが送信 - SSPへのアクセスが行われる. <タグ> SSP
広告表示の流れ 11/30 <タグ> SSP DSP DSP DSP - SSPがDSPに入札リクエストを送る
- 入札リクエストの中身 - 表示日時 - 表示サイト - 枠のサイズ - デバイスのOS - etc.
広告表示の流れ 12/30 - それぞれのDSPが入札額を決定 - もちろん入札しなくてもよい <タグ> 入札額: 100円 入札額:
80円 SSP DSP DSP DSP
広告表示の流れ 13/30 勝者が落札。Win通知に対して出したい 広告を返し、広告が表示される <タグ> Win! SSP DSP DSP DSP
DynalystのDSタスク例 14/30
Dynalystは主にスマホアプリのリターゲティング広告を配信している リターゲティング広告: - 「前にこのゲームで遊んでたけど◦日間ログインしてない」 というようなユーザーがを対象にした広告 (前提)Dynalystと広告主の取引体系 15/30 Come back
here! I'm bored.
Dynalystが利益を生み出すには 16/30 Dynalystがもっと利益を生み出すためには、大きく 予算を増やす 配信費を最適化する のどちらかの行動を取る必要がある Budget Profit
オークションに勝つ度にSSPに配信費を払い、 広告がClickされたら広告主からお金を貰っている(その上限=予算) Dynalyst周辺のお金の動き 17/30 広告主 SSP
Dynalyst周辺のお金の動き 18/30 予算を増やす 広告主が予算を増やしたくなるような配信 - Dynalystから介入できるのは - 配信した広告の(利益/コスト)が良い → 入札額の最適化
- 配信量を多くする余地がある → クリエイティブ戦略による CTR,CVRの増大
Dynalyst周辺のお金の動き 19/30 配信費を最適化する 高値で入札→お金の無駄 低値で入札→配信機会の損失 配信することの本質的価値を予測して、 それに基づいた最適価格を決定する必要がある → CTR,CVR予測、入札戦略 配信事故が起きるとその分だけ損失発生
→ モニタリング(詳細は時間の都合で省略)
Dynalystで取り組んでいる主なDSタスク クリックやCVがつきそうな広告デザインの配信をおこないたい → クリエイティブ選択 広告の価値を正確に見積もることで、最適な入札価格で入札したい → CTR/CVR予測, 入札戦略
それらに付随する諸問題 → 遅れCV, FeedbackLoop, SelectionBias, 予算ペーシング, ... それぞれの例を紹介していく 20/30
どちらの広告のほうがCTRが良いか? - 広告枠/サイズは同じ Q : A/Bテストすれば? A : 可能だが問題がある クリエイティブ選択
21/30 広告B 広告A Save the town! Zombie Panic!
- クリエイティブは豊富にある - キャラクターを変えたら? - 色を変えたら? - テキストを変えたら? -
新規キャンペーンの度に新クリエイティブ - 新イベ, 新ガチャ, ... A/Bテストの問題点: サンプルサイズ不足, 機会損失 解決方法: Bandit Algorithm クリエイティブ選択 22/30 Save the town! Zombie Panic! Save the town! Save the town! Defeat the enemy! Zombie Army! ︙ ︙
なぜCTR予測やCVR予測が大事なのか eCTRやeCVRに基づいて広告の価値(=入札額)を算出しているので、 これらの予測値の精度を上げることがそのまま - 良い価値の広告をきちんと高値で入札して、配信できる確率を上げる - 悪い価値の広告に無駄に配信コストをかけないようにする といったことに繋がり、Dynalystの利益が向上する →CTR, CVR予測は非常に大事
23/30
CTR,CVR予測にまつわる種々の問題 手法: 例えばDNNなどを使った時に入札は間に合うのか? データサイズ: 学習の時間/メモリなどの計算資源的な問題 不均衡データ: CTRはせいぜい1% データ鮮度: 古いデータを使ったままだと精度は悪化する 遅れCV:
CVがつくまでは時間がかかる 評価: 「精度がいいモデル = DSPにとっていいモデル」は本当に成立する? 本当に平等に評価できてる? 24/30
CTR,CVR予測にまつわる種々の問題 手法: 例えばDNNなどを使った時に入札は間に合うのか? データサイズ: 学習の時間/メモリなどの計算資源的な問題 不均衡データ: CTRはせいぜい1% データ鮮度: 古いデータを使ったままだと精度は悪化する 遅れCV:
CVがつくまでは時間がかかる 評価: 「精度がいいモデル = DSPにとっていいモデル」は本当に成立? 本当に平等に評価できてる? → 結局、売上に影響しないと意味がない 25/30
まとめ 26/30
お金儲けの観点からDSタスクを考えてみた - クリエイティブの最適化 - 配信費の最適化 CTR予測, CVR予測みたいな問題でも、目的をキチンと考える必要がある - 予測精度が上がりました!導入します! -
予測精度が上がって売上が伸びました!導入します! 時間は有限...各タスクがどれくらい売上にインパクトがあるのか 優先順位を考える必要がある DSがやる仕事 = ロジックで売上最大化 27/30
さいごに 28/30
ディスカッション 売上 vs 利益 29/30
売上 vs 利益 一口に「お金を稼ぐ」といっても、実は様々な測り方がある - 売上を最大化する (そもそもの貰える予算を増やしたい) - 利益を最大化する (決められた予算内での儲けを増やしたい)
それぞれをKPIとしたときにどんな未来に繋がるか 30/30
売上 vs 利益 売上を最大化 - 市場におけるDynalystの存在が大きくなる - 売上だけ上がっても儲けが減る恐れがある - 利益がないと単なるボランティアなので企業としての価値がない
利益を最大化 - ダイレクトに儲けが増える - 「売上ちょっと減るけどコストがかなり削減できます」みたいな施策が 通ると、長期的には事業規模が縮小していく 双方のバランスを取りつつ、企業として何を優先すべきか軸を作る必要がある
おわり