Upgrade to Pro — share decks privately, control downloads, hide ads and more …

縮小推定のはなし.pdf

 縮小推定のはなし.pdf

Takayuki Uchiba

March 02, 2019
Tweet

More Decks by Takayuki Uchiba

Other Decks in Science

Transcript

  1. 今回考える問題 • こんな問題を考えたい。 • web広告 : 各キャンペーンのCTRの推定 • セイバーメトリクス :

    各打者の打率の推定 • 社会科学 : 各県の1世帯あたりの平均教育費の推定 campaign 1 campaign 2 campaign d 母CTR = ?% 母CTR = ?% 母CTR = ?% 母集団 4 clicks / 237 imps 8 clicks / 968 imps 2 clicks / 120 imps 標本 … …
  2. 定式化 : 多母集団の推定 • campaignの母CTRを推定するにはどうすればよいか? • 直感 : 標本CTR =

    click数 / imp数で推定 • 理屈 : 標本CTRは有効性と一致性を持つ。 • 二項分布の母比率に対する最尤推定量 • 有効推定量(∵不偏かつ最尤 ⇒ 有効) campaign 1 campaign 2 campaign d 母CTR = ?% 母CTR = ?% 母CTR = ?% 母集団 4 clicks / 237 imps 8 clicks / 968 imps 2 clicks / 120 imps 標本 … …
  3. 例 : 打者の生涯打率推定 • 打者の生涯打率推定 • 対象 : 通算で500打席以上に立った打者 •

    デビューした年度の打率を用いて生涯打率を推定する。 • library(Lahman)のBattingデータセットを用いる。 標本抽出
  4. 例 : 平均2乗誤差による評価 • MSE(平均2乗誤差)の比較 • MSEとは : • どうやらmysteryはMLE(標本比率)より良い推定量らしい。

    • efficiency = mysteryのMSE / MLEのMSE • MLEよりmysteryのほうが、全体的にはground truthに近い値をとっている。
  5. 良く用いられる推定量の良さとは • 不偏性と標準誤差 • MSEのバイアス・バリアンス分解 • 第1項:バイアス, 第2項:推定量の標準誤差 • 不偏推定量

    = バイアスのない推定量 • 平均2乗誤差が最小の推定量を見つけるのは困難。不偏推定量はそこまででもない。 • 標準誤差が最小の不偏推定量を求めればよい。→ 一様最小分散不偏推定量 • Cramer-Rao下限(達成できる場合、有効性を持つという。) • 例:母平均に対する標本平均, 母分散に対する不偏分散, …
  6. 2つの推定量の比較 • 一様最小分散不偏推定量 • 各推定時に期待される値は真のパラメータの値そのもの。 • 推定ごとに得られる値はやや不安定。 • 平均2乗誤差最小推定量 •

    各推定時に期待される値は真のパラメータより少しズレている。 • 推定ごとに得られる値は安定。 • 要するに、真のパラメータより少しズレた値ではあろうけれど、言うて近い値を 安定して得ることが出来る。
  7. Stein現象 • 問題設定 • 3群以上の正規母集団を考えてください。 • 母平均は未知とします。 • 母分散は既知、すべての群で等しいとしてよいことにします。 •

    各群からサイズ1の標本をひとつずつ抽出しましょう。 • 各群の母平均を推定してください。 直感的には、各群の標本の値そのもので推定するしかない。 しかし、もっと良い推定量がある。 James-Stein推定量, Stein (1956)
  8. なぜ他の群の情報が役立つ? • 経験ベイズ推定量による解釈 • 実はJames-Stein推定量は、経験ベイズ推定量と一致している。 • 以下、母分散を1として証明のoutlineを説明します。 • 母平均パラメータの事前分布を正規分布とします。 •

    期待値を0, 分散をAとしましょう。 • 分散Aはmoment法で推定してしまう。(経験ベイズ) • ベイズ更新により以下の事後分布を得る。あとはEAPを考えればよい。
  9. 縮小推定のプライオリティ • 多母集団における標準誤差の改善 • ドメイン知識が存在する場合 • 広告のCTRは基本的に0に近い値を取るなど。 • 原点や平均値など任意の値に対して推定量を縮小できる。 •

    小地域推定 • 各母集団ごとに推定すると、各群で標本サイズが違う場合と標本サイズが小さい 群のほうが大きい群より標準誤差が高くなってしまう。
  10. 最初に考えた問題 • 多母集団の推定問題(特に小地域推定) • web広告 : 各キャンペーンのCTRの推定 • セイバーメトリクス :

    各打者の打率の推定 • 社会科学 : 各県の1世帯あたりの平均教育費の推定 campaign 1 campaign 2 campaign d 母CTR = ?% 母CTR = ?% 母CTR = ?% 母集団 4 clicks / 237 imps 8 clicks / 968 imps 2 clicks / 120 imps 標本 … … 標本サイズが まちまち
  11. 自己紹介 • お仕事 • 2014-現在 : 株式会社すうがくぶんか(現在 : 教務部 部長)

    • 2015-現在 : 株式会社オモロワークス データサイエンティスト • 2018-現在 : 株式会社スカイディスク 技術顧問 • 経歴 • 2015年 : 修士(理学, 早稲田大学)代数幾何学専攻 • 2015年 : 統計検定1級, 人文科学優秀者A