Upgrade to Pro — share decks privately, control downloads, hide ads and more …

【論文ゼミ】SSE-PT: Sequential Recommendation Via Per...

Yamato Hara
October 07, 2021

【論文ゼミ】SSE-PT: Sequential Recommendation Via Personalized Transformer

計算知能・マルチメディア研究室 論文ゼミ
紹介論文: https://dl.acm.org/doi/10.1145/3383313.3412258

Yamato Hara

October 07, 2021
Tweet

More Decks by Yamato Hara

Other Decks in Research

Transcript

  1. 論⽂の概要 2 論⽂情報 タイトル : SSE-PT: Sequential Recommendation Via Personalized

    Transformer 引⽤数 : 22回 学会 : RecSys September 22-26, 2020 レコメンド分野のトップカンファレンス 著者情報 著者 : Liwei Wu, Shuqing Li, Cho-Jui Hsieh, James Sharpnack 所属 : University of California, Davis University of California, Los Angles
  2. どんな分野か 4 Recommendationの種類 • General Recommendation • Graph Recommendation •

    Knowledge Aware Recommendation • Sequential Recommendation ユーザーの好み・嗜好は固定ではなく変化するものという仮定
  3. 先⾏研究 7 Kang, Wang-Cheng, and Julian McAuley. "Self-attentive sequential recommendation."

    ICDM2018 SASRec Sequential RecommendationにTransformerを適⽤したモデル ユーザーにパーソナライズされていない︕ Transformer
  4. 提案⼿法 9 Embedding Layer 𝑣 ∶ アイテム 𝑢 ∶ ユーザー

    ベクトル化 ⻑さ𝑇に満たないときはpaddingとして𝟎で埋める
  5. 提案⼿法 14 Prediction Layer ︓Transformer encoderの最後の タイムスタンプにおけるoutput : 時間 𝑡

    でユーザー 𝑖 がアイテム 𝑙 を選ぶ確率 : loss関数 次に選んだであろうアイテム Log(1) = 0 Log(1-0) = 0 類似度
  6. 提案⼿法 16 Stochastic Shared Embeddings 2019年に同著者らが発表した⼿法 Wu, Liwei, et al.

    "Stochastic shared embeddings: Data-driven regularization of embedding layers.” (2019) ある⼀定の確率でエンベディングを他のものと置き換える
  7. 実験 18 環境 CPU : 40-core Intel Xeon E5-2630 v4

    @2.20GHz GPU : GTX 1080 データセット • Steam dataset • Movielens1M, Movielens10M • Amazon product review dataset(Beauty, Games) 評価指標 • Recall ・・・ユーザが実際に嗜好したアイテムのうちレコメンドリストでカバーした割合 • NDCG・・・おすすめ順の適合度を合計し,正規化したもの