Upgrade to Pro — share decks privately, control downloads, hide ads and more …

Recommending What Video to Watch Next: A Multit...

alpicola
October 05, 2019

Recommending What Video to Watch Next: A Multitask Ranking System

alpicola

October 05, 2019
Tweet

More Decks by alpicola

Other Decks in Research

Transcript

  1. 論文の紹介 今回の RecSys long papers に Google の論文が2本 - Recommending

    What Video to Watch Next: A Multitask Ranking System [Z Zhao et al.] - Sampling-Bias-Corrected Neural Modeling for Large Corpus Item Recommendations [X Yi et al.]
  2. 問題設定 - YouTube の「次の動画」 - Implicit feedback - Multi-objective -

    User engagement (click, watch) - User satisfaction (like, share) - スケーラビリティの要求 - “billions of items and users” - Ranking フェーズ
  3. 論文の貢献 - Multi-gate Mixture-of-Expert (MMoE) [KDD 2018] によるマルチ タスク学習 -

    Wide & Deep [DLRS 2016] 風の選択バイアスの削減手法 - YouTube プロダクション環境での実験
  4. Multi-gate Mixture-of-Expert (MMoE) [J Ma et al., KDD 2018] -

    マルチタスク学習の手法 - Shared-Bottom model (左) と比べ、タスク間の相関による悪 影響を受けにくい
  5. 選択バイアスの削減 - ‘Shallow’ tower (Wide & Deep の wide) で位置バイ

    アスを表現 - User engagementのタスク が対象 - 学習時 position feature に はモデルが依存すぎないよ う drop-out をかける
  6. 実験結果 (バイアス削減) - ベースライン - Input Feature: position featureを他の入力と一緒に使う -

    Adversarial Loss: Adversarial Discriminative Domain Adaptation [CVPR 2017] などの手法を応用
  7. 私の感想 - よりよい user satisfaction のために - マルチタスク学習として解くのはよさそう - Shared-Bottom

    でも十分かも - 各タスクのスコアはどう使う? - 論文では手動設定重みによる weighted sum - バイアス削減 - シンプルな実装なのはよい - インパクトは出てるのだろうか?