RecSys2024 参加報告

DeNAとGO株式会社が共同で開催しているAI技術勉強会の発表資料です。

Transcript

1. AI 2024/11/07 藤川 和樹 ・菅原 悠樹・村上 直輝 株式会社ディー・エヌ・エー RecSys2024 参加報告
2. AI 2 項目 01｜全体概要 02｜Best paper + candidates 03｜RecSys Challenge Workshop 04｜LLM 05｜Industry
3. AI 3 01 全体概要
4. AI 4 ▪ 推薦システム分野におけるトップカンファレンス ▪ 企業による実応用トピックも多いのも一つの特色 ▪ 2024年度はイタリア・バーリにて開催 ▪ Petruzzelli Theater & Politecnico di Bari at University Campus RecSys2024: 概要 https://ja.wikipedia.org/ wiki/バーリ
5. AI 5 ▪ 参加者: 1108名（現地: 913人, バーチャル: 195名） ▪ Accepted papers ▪ Full Research Papers: 58件（採択率: 約22%） ▪ Short Research Papers: 39件（採択率: 約22%） ▪ Industry Track Papers: 34件（採択率: 約47%） ▪ ... RecSys2024: Stats
6. AI ▪ 12sessionsをシングルトラックで実施 ▪ 昨年: 20min/paper → 今年: 5~15min/paper ▪ 主なトピック ▪ 推薦評価・最適化・A/Bテストなどのトピックは健在（16件） ▪ LLMが台頭（14件）、系列推薦も引き続き人気トピック（12件） ▪ Bias/Fairnessも増加傾向（9件） 6 RecSys2024: Sessions 14 9 6 6 4 5 12 5 5 3 4 16
7. AI 7 ▪ Title+Abstractで頻出単語を可視化 ▪ 主な増加傾向単語: ▪ llm（6%→18%）, explainability（1%→5%）, prompt（1%→4%）, knowledge（14%→17%）, fairness（7%→9%）, graph（10%→12%） ▪ 主な減少傾向単語: ▪ sequential（16%→13％）, multi（23%→19%）, algorithm（23%→16%） collaborative（14%→11％）, representation（20％→16%） RecSys2024: 単語分布の変遷で見るトレンドの変化 ※ 割合: その単語をTitle or Abstractに1件でも含む論文数 / 全論文数
8. AI 8 02 Best paper + candidates
9. AI 9 ▪ Towards Empathetic Conversational Recommender Systems ▪ Shandong University, Tencent など ▪ 対話推薦システムで “感情” を考慮することで、より良い推薦に繋げる ▪ （後で詳説） RecSys2024: Best paper [Zhang+] Zhang, Xiaoyu, et al. "Towards empathetic conversational recommender systems." Proceedings of the 18th ACM Conference on Recommender Systems. 2024.
10. AI 10 ▪ Transformers Meet ACT-R: Repeat-Aware and Sequential Listening Session Recommendation ▪ Deezer Research ▪ ACT-R [Anderson+, 1997]（心理学分野の人間の認知プロセスモデル） のDeclative Memory（宣言的記憶モジュール）をTransformerで定式化 ▪ 音楽推薦で重要な「リピートする」行動を自然に定式化 RecSys2024: Best paper candidate ① [Tran+] Declarative Memory Procedural Memory Working Memory Storage Match Retrieval Execution Sensory Register Encoding Information [Anderson+, 1997] Tran, Viet-Anh, et al. "Transformers Meet ACT-R: Repeat-Aware and Sequential Listening Session Recommendation." Proceedings of the 18th ACM Conference on Recommender Systems. 2024.
11. AI 11 ▪ 長期・短期のユーザ埋め込みをACT-Rの定義に従い導出 RecSys2024: Best paper candidate ① [Tran+] Tran, Viet-Anh, et al. "Transformers Meet ACT-R: Repeat-Aware and Sequential Listening Session Recommendation." Proceedings of the 18th ACM Conference on Recommender Systems. 2024. 1.1. Base-Level [BL] 情報へのアクセス頻度・鮮度に 基づいて関連曲を活性化 （ホットトラックの特定） 1.2. Spreading [SPR] セッション内共起に基づいて 関連曲を活性化 （行動ベース推薦） 1.3. Partial Matching [P] 音楽的特徴に基づいて関連曲を活性化 （コンテンツベース推薦） 1. Short-Term User Embedding ACT-R由来のBase-Level, Spreading, Partial Matching 重みを利用 2. Long-Term User Embedding コンテキストに依存せず長期的に 何度も聴かれている音楽を活性化 ※Top-BL: 以前までのセッションでBL値が 最も高いTop20曲
12. AI 12 ▪ Last.fm / Deezer データセットでの実験で有効性を確認 ▪ 繰り返し考慮型モデルは非考慮型（e.g. Sets2Sets）に比べて高性能 ▪ 繰り返し曲だけでなく、新規曲の推薦でも良好な結果 RecSys2024: Best paper candidate ① [Tran+] Tran, Viet-Anh, et al. "Transformers Meet ACT-R: Repeat-Aware and Sequential Listening Session Recommendation." Proceedings of the 18th ACM Conference on Recommender Systems. 2024.
13. AI 13 RecSys2024: Best paper candidate ② [Ungruh+] Ungruh, Robin, et al. "Putting Popularity Bias Mitigation to the Test: A User-Centric Evaluation in Music Recommenders." Proceedings of the 18th ACM Conference on Recommender Systems. 2024. ▪ Putting Popularity Bias Mitigation to the Test: A User-Centric Evaluation in Music Recommenders ▪ Delft University of Technology, Utrecht University ▪ 各種人気バイアス軽減手法のユーザ満足度に対する影響を観察 1　Artist: A　Song: A1 2　Artist: A　Song: A2 3　Artist: B　Song: B1 4　Artist: B　Song: B2 5　Artist: C　Song: C1 #　Artist　　　　Song　　　　　　　Popularity 1　Artist: A　Song: A1 2　Artist: C　Song: C1 3　Artist: B　Song: B2 4　Artist: A　Song: A2 5　Artist: B　Song: B1 #　Artist　　　　Song　　　　　　　Popularity
14. AI 14 RecSys2024: Best paper candidate ② [Ungruh+] Ungruh, Robin, et al. "Putting Popularity Bias Mitigation to the Test: A User-Centric Evaluation in Music Recommenders." Proceedings of the 18th ACM Conference on Recommender Systems. 2024. ▪ 比較手法 ▪ ベースライン ▪ LFM-2b datasetでRankALS（CF）で学習 ▪ FA*IR [Zehlike+, 2017]（item-based） ▪ 曲をHead/Mid/Tailに分類 ▪ RankALSをベースにTailが一定割合（e.g. 0.98）入ることを保証 ▪ CP [Abdollahpouri+, 2021] (user-based) ▪ ユーザ毎にHead/Mid/Tailの視聴割合を計算 ▪ RankALSをベースにユーザの履歴の分布に合わせて推薦リストを調整
15. AI 15 RecSys2024: Best paper candidate ② [Ungruh+] ▪ Spotify4ヶ月以上のアクティブユーザ40名に対して実験 ▪ 25曲の推薦リストから自分のプレイリストに加えたい5曲を選択 ▪ 上記を3手法（baseline, FA*IR, CP）で実施し、アンケートで評価 ▪ 主観指標: 22項目、満足度指標: 22項目、行動意図指標: 10項目 ▪ アンケートの結果、以下を確認 ▪ FA*IR（item based）: Tailを大幅増加（81%）、Discoveryで良い結果 ▪ CP（user based）: Tailをやや増加（28%）、Baselineと大きな差が無い評価 ▪ いずれの公平性手法の適用でも満足度に影響は無し Ungruh, Robin, et al. "Putting Popularity Bias Mitigation to the Test: A User-Centric Evaluation in Music Recommenders." Proceedings of the 18th ACM Conference on Recommender Systems. 2024.
16. AI ▪ Fair Reciprocal Recommendation in Matching Markets ▪ Cyber Agent, 東京大学 ▪ マッチングPF等で行われる相互推薦問題において、Envy-freenessの 概念を用いて被推薦機会の公平性を定義 ▪ ナッシュ社会福祉関数を応用し、より公平な相互推薦手法を提案 16 RecSys2024: Best paper candidate ③ [Tomita+] Tomita, Yoji, and Tomohiko Yokoyama. "Fair Reciprocal Recommendation in Matching Markets." Proceedings of the 18th ACM Conference on Recommender Systems. 2024. Unfair !
17. AI 17 RecSys2024: Best paper candidate ③ [Tomita+] ▪ Envy-fairness ▪ 犬i が得られるマッチ数期待値 = welfareを以下で表す ▪ ここで、変数の定義は以下の通り ▪ どの犬iを見ても同じ値を取る場合、推薦方策A, Bはenvy-freeと言う Tomita, Yoji, and Tomohiko Yokoyama. "Fair Reciprocal Recommendation in Matching Markets." Proceedings of the 18th ACM Conference on Recommender Systems. 2024. : 犬i→猫j を好む確率 : 猫j→犬i を好む確率 : 犬i→猫jでk番目に表示される確率 : 猫j→猫iでl番目に表示される確率 : k番目が好まれる確率 : l番目が好まれる確率
18. AI 18 RecSys2024: Best paper candidate ③ [Tomita+] Tomita, Yoji, and Tomohiko Yokoyama. "Fair Reciprocal Recommendation in Matching Markets." Proceedings of the 18th ACM Conference on Recommender Systems. 2024. ▪ ナッシュ社会福祉（NSW） ▪ Frank-Wolfe法を用いて2つのNSWを交互に最大化 ▪ Initialize A, B ▪ Until convergence, do ▪ Update　　　　　　　　　　 for increasing direction of ▪ ▪ Update　　　　　　　　　　 for increasing direction of ▪ ▪ Return A, B s.t. constraints to X s.t. constraints to Y
19. AI ▪ 200人x200人の実データで実験 ▪ マッチ数を高い水準に留めながら、非常に低いEnvyスコアを実現 19 RecSys2024: Best paper candidate ③ [Tomita+] Tomita, Yoji, and Tomohiko Yokoyama. "Fair Reciprocal Recommendation in Matching Markets." Proceedings of the 18th ACM Conference on Recommender Systems. 2024.
20. AI 20 03 RecSys Challenge Workshop
21. AI 21 ▪ コンペティションに関する研究報告が行われるWS ▪ 2010年から始まって15回目の開催 ▪ 2024年度はEkstra Bladet社のニュース記事推薦タスク ▪ 参加チーム数: 145, 参加者数: 202, 総提出数: 774件 ワークショップ概要 https://recsys.eb.dk/
22. AI 22 ▪ ニュース記事推薦に対する一般的な技術課題 ▪ ニュース記事は更新が早く、鮮度が急速に失われる問題 ▪ ニュースのテーマによって変化する読者の関心への対応 ▪ 読者の行動履歴から興味を分析する仕組みづくりの課題 ▪ 少数言語のコンテンツ対応における課題 ▪ 報道機関としての公共性を維持しながらAIシステムを活用する必要性 ワークショップ概要
23. AI 23 ▪ 翌1週間のユーザへの表示記事の中で、クリックされる記事を予測 ▪ 翌1週間でユーザに表示される記事（数件~数百件）は与えられる → 通常のレコメンドタスクで必要な記事候補生成は不要 ▪ History（過去3週間でユーザがクリックした記事）、Articles（記事に 対するメタデータ）を特徴量として利用可能 コンペティション概要 https://recsys.eb.dk/assets/pdf/recsy s_workshop_sponsor.pdf
24. AI 24 ▪ 以下2種類のデータリークが内在 ▪ テスト期間にimpressionされた記事情報に関するリーク ▪ test setの期間（未来）にユーザに表示された記事が与えられていた ▪ 記事統計量特徴量（e.g. Total Inviews）に関するデータリーク ▪ test setの期間（未来）も含めた統計量が与えられていた ▪ コンペティション期間中に以下の規則が設けられた ▪ コンペティション: リーク使用可 ▪ 論文: リーク使用・未使用の両方のベンチマークを報告 コンペティション概要
25. AI 25 ▪ Transformer, GBDTのスタッキングモデル ▪ Transformer: 全候補記事を入力にクリック有無を予測するListwise手法 ▪ GBDT: 単一候補記事を入力にクリック有無を予測するPointwise手法 ▪ ニュース記事特有のトレンド変化の大きさを考慮した特徴量作成 ▪ 記事出版後経過時間、記事とHistoryとの類似度など ▪ 直近数分/数時間以内の他ユーザへのimpression合計など Team :D ソリューション概要
26. AI 26 ▪ 2nd place (BlackPearl) ▪ 長期・短期のユーザ興味を階層的にモデル化するAttentionベース手法 ▪ 3rd place (Tom3TK) ▪ 多様な観点の情報を特徴量化したLGBMアンサンブル手法 2nd, 3rd ソリューション概要 Iwai, Tomomu, et al. "Harnessing Temporal Dynamics and Content: An Ensemble of Gradient Boosting Machines for News Recommendation." Proceedings of the Recommender Systems Challenge 2024. 2024. 37-41. Xue, Taofeng, et al. "Large Scale Hierarchical User Interest Modeling for Click-through Rate Prediction." Proceedings of the Recommender Systems Challenge 2024. 2024. 53-57.
27. AI 27 04 Main Conference（LLM）
28. AI Large Language Modesl session1 ▪ SeCor: Aligning Semantic and Collaborative representations by Large Language Models for Next-Point-of-Interest Recommendations ▪ Towards Open-World Recommendation with Knowledge Augmentation from Large Language Models ▪ LARR: Large Language Model Aided Real-time Scene Recommendation with Semantic Understanding ▪ Playlist Search Reinvented: LLMs Behind the Curtain ▪ A Hybrid Multi-Agent Conversational Recommender System with LLM and Search Engine in E-commerce ▪ Large Language Models as Evaluators for Recommendation Explanation 28 Large Language Models sessions Large Language Modesl session2 ▪ Unleashing the Retrieval Potential of Large Language Models in Conversational Recommender Systems ▪ The Elephant in the Room: Rethinking the Usage of Pre-trained Language Model in Sequential Recommendation ▪ ReLand: Integrating Large Language Models’ Insights into Industrial Recommenders via a Controllable Reasoning Pool ▪ Bayesian Optimization with LLM-Based Acquisition Functions for Natural Language Preference Elicitation ▪ Towards Empathetic Conversational Recommender Systems (Best paper) ▪ FLIP: Fine-grained Alignment between ID-based Models and Pretrained Language Models for CTR Prediction ▪ A Comparative Analysis of Text-Based Explainable Recommender Systems ▪ Reproducibility of LLM-based Recommender Systems: the case study of P5 paradigm
29. AI 29 ▪ 従来POI推薦（CFなど）の課題 ▪ 文化的意味考慮が難しい ▪ 地理的つながりも座標情報等にとどまる ▪ 渡れない川の対岸を提案 ▪ LLM出力文を利用したPOI推薦の課題 ▪ ハルシネーション ▪ 存在しないPOIを推薦してしまう ▪ 曖昧な場所の推薦 ▪ クイーンズ郡を推薦してしまう SeCor: Aligning Semantic and Collaborative Representations by Large Language Models for Next-Point-of-Interest Recommendations Wang, Shirui et al. "SeCor: Aligning Semantic and Collaborative Representations by Large Language Models for Next-Point-of-Interest Recommendations" Proceedings of the 18th ACM Conference on Recommender Systems. 2024.
30. AI 30 SeCor: Aligning Semantic and Collaborative Representations by Large Language Models for Next-Point-of-Interest Recommendations Wang, Shirui et al. "SeCor: Aligning Semantic and Collaborative Representations by Large Language Models for Next-Point-of-Interest Recommendations" Proceedings of the 18th ACM Conference on Recommender Systems. 2024. ▪ 協調表現と意味表現をLLMで統合して扱うSeCorを提案 ▪ CF埋め込み（LightGCN, DirectAU）をLLMの入力に利用 ▪ 協調表現と意味表現のハイブリッド表現（h_u, h_p）の内積が推薦スコア ▪ LLM出力テキストを利用しないことでハルシネーションを回避
31. AI 31 SeCor: Aligning Semantic and Collaborative Representations by Large Language Models for Next-Point-of-Interest Recommendations Wang, Shirui et al. "SeCor: Aligning Semantic and Collaborative Representations by Large Language Models for Next-Point-of-Interest Recommendations" Proceedings of the 18th ACM Conference on Recommender Systems. 2024. ▪ 複数のベンチマークで精度向上を確認 ▪ CFやLLMでの既存手法より、それらを統合した提案手法のほうが強い ▪ POIの説明テキストを除く（Fig. 6の w/ UI-token）と精度低下 ▪ SeCorでは、POIの意味的な関係を捉えられていることを示唆
32. AI 32 ▪ 対話を通じてユーザー嗜好を引き出し、パーソナライズされた推薦を 行うシステム ▪ LLM等の発展により、柔軟で自然な対話や複数のサブタスクを統合し て扱えるようになってきている 対話型推薦システム：Conversational Recommender Systems RedialデータセットとCRSの例 ※Redial：映画推薦会話のデータセット ・会話ログ ・推薦アイテム ・推薦アイテムに対する評価 Zhang, Xiaoyu, et al. "Towards empathetic conversational recommender systems." Proceedings of the 18th ACM Conference on Recommender Systems. 2024.
33. AI 【Best paper】ECR: Towards empathetic conversational recommender systems 33 ▪ 従来の対話型推薦（CRS）の課題 ▪ データセット内応答を最適と仮定し、データセット内推薦ロジックを 再現する傾向がある ▪ 意思決定において感情は重要な要素である [Jennifer+, 2015] が考慮さ れていない ▪ “感情” を考慮しより良い推薦に繋げるためのフレームワーク Empathetic Conversational Recommender を提案 Zhang, Xiaoyu, et al. "Towards empathetic conversational recommender systems." Proceedings of the 18th ACM Conference on Recommender Systems. 2024.
34. AI 34 ▪ UniCRS [Wang+, 2022] ▪ 推薦応答タスクと推薦タスクを統合して行うフレームワーク ECR: ベースフレームワーク Zhang, Xiaoyu, et al. "Towards empathetic conversational recommender systems." Proceedings of the 18th ACM Conference on Recommender Systems. 2024.
35. AI 35 ▪ UniCRSをベースに感情考慮するように拡張 ▪ ユーザー感情を考慮したアイテム推薦 （Emotion-aware item recommendation） ▪ ユーザー感情に合わせたレスポンス生成 （Emotion-aligned response generation） ECR: 提案手法 Zhang, Xiaoyu, et al. "Towards empathetic conversational recommender systems." Proceedings of the 18th ACM Conference on Recommender Systems. 2024.
36. AI 1. 対話中に出現したentitiesに対するRGCN埋め込みベクトル 2. entityに関連する発話に対する9つの感情確率 a. GPT-2で感情分類タスクを学習・推論（GPT3.5-turboでデータ作成） b. Like, Happy, Negative, Neutral, Agreement, Surprise等 3. 1, 2をconcatinateしたベクトルを線形射影 4. entity分実施しemotion-awareな表現を得る ECR: Emotion-aware item recommendation 36 local entitiesに対する処理 Zhang, Xiaoyu, et al. "Towards empathetic conversational recommender systems." Proceedings of the 18th ACM Conference on Recommender Systems. 2024.
37. AI 1. local entityと感情オーバーラップのあるentity集合を取得 2. 式(5)でglobal entity表現を獲得し、local entitiesと同様にemotion-aware 処理を行う ECR: Emotion-aware item recommendation 37 global entitiesに対する処理 : local entityに紐づく entity集合 : local entity : entityの共起確率 : global entity表現 Zhang, Xiaoyu, et al. "Towards empathetic conversational recommender systems." Proceedings of the 18th ACM Conference on Recommender Systems. 2024.
38. AI ▪ 入力：感情情報や会話履歴, 出力：推薦アイテムとして学習 ▪ 推薦アイテムへのユーザーフィードバックで損失関数の重み付け ECR: Emotion-aware item recommendation 38 Feedback-aware item reweighting : ユーザーフィードバックに基づく重み付け : 感情 + 会話履歴プロンプトに基づく予測値 Zhang, Xiaoyu, et al. "Towards empathetic conversational recommender systems." Proceedings of the 18th ACM Conference on Recommender Systems. 2024.
39. AI ▪ ポジティブな高評価レビュー（emotional reviews）にデータを絞っ て、レスポンス生成を学習 ▪ ハルシネーションの抑制のために知識グラフの活用 ECR: Emotion-aligned response generation 39 Emotion-alined generator Zhang, Xiaoyu, et al. "Towards empathetic conversational recommender systems." Proceedings of the 18th ACM Conference on Recommender Systems. 2024.
40. AI 40 ▪ 以下の3観点で評価 ▪ AUC：Pos/Neg feedbackと推薦順の傾向 ▪ Recall@n：推薦上位nアイテムでの、推薦正解数 ▪ Recall_True@n：推薦上位nアイテムで、Positive評価の推薦正解数 ▪ 結果 ▪ 全ての指標で向上を確認 ECR: 推薦アイテムの評価 Zhang, Xiaoyu, et al. "Towards empathetic conversational recommender systems." Proceedings of the 18th ACM Conference on Recommender Systems. 2024.
41. AI 41 ▪ 以下の方法で評価 ▪ GPT-4-Turboと人が評価 ▪ 感情強度 (Emo Int), 感情的説得力 (Emo Pers), 論理的説得力 (Log Pers), 情報量 (Info), 自然さ (Life) の5項目 ▪ 結果 ▪ UniCRSでの結果が悪く、データセットの標準応答の質が悪いことを示唆 ▪ ECR[DialoGPT] (fine-tuned) で、GPT-3.5-turbo (0 shot)に匹敵 ECR: レスポンス文の評価 Zhang, Xiaoyu, et al. "Towards empathetic conversational recommender systems." Proceedings of the 18th ACM Conference on Recommender Systems. 2024.
42. AI 42 05 Industry
43. AI 43 ▪ YouTube でコンテンツ作成に焦点を当てた 推薦モデルを作成 ▪ short動画の台頭によりコンテンツ作成が より気軽になってきた ▪ インスピレーションを刺激する推薦でコ ンテンツ作成（参加）を促進したい ▪ A/Bテストの結果 ▪ 参加行動が +3Y% 増加 ▪ 参加者が +2Z% 増加 【YouTube】コンテンツ消費だけではなく作成も考えた推薦：概要 Shao, Yuan, et al. "Optimizing for Participation in Recommender System." Proceedings of the 18th ACM Conference on Recommender Systems. 2024.
44. AI 44 コンテンツ作成への参加を最適化する際の課題 ▪ フィードバックの遅延 ▪ 一般的なエンゲージメントラベル（例：いいねやクリック）は即時に得 られるのに対し、ユーザーの参加（例：ビデオのアップロード）はコン テンツの消費後、かなりの時間差を伴って発生 ▪ 最適化目標として直接モデル化するのが難しい ▪ ラベルのスパースさ ▪ 消費と比べ、コンテンツ作成に使えるラベルは非常にスパース ▪ 正例の不足は効果的な推薦モデルを訓練する上で大きな障害になる 【YouTube】コンテンツ消費だけではなく作成も考えた推薦：課題 Shao, Yuan, et al. "Optimizing for Participation in Recommender System." Proceedings of the 18th ACM Conference on Recommender Systems. 2024.
45. AI 45 ▪ 「参加行動↔過去の消費行動&共通属性」 の関連づけ ▪ 活用方法：推薦モデルのラベル選択、参加 を促すコンテンツのキュレーション ▪ 代理的なラベルの利用 ▪ コンテンツ共有・保存など、参加に向かう 行動を代理信号とする ▪ 多目的なモデルアーキテクチャに ▪ 主要タスク：ユーザーを参加へと導く ▪ 補助タスク：消費データを活用し、エン ゲージメントと参加のバランス維持 【YouTube】コンテンツ消費だけではなく作成も考えた推薦：工夫 Shao, Yuan, et al. "Optimizing for Participation in Recommender System." Proceedings of the 18th ACM Conference on Recommender Systems. 2024.
46. AI 46 ▪ ドイツの公共サービスメディア（PSM）放送局ZDFのストリーミング サービスプラットフォームZDFmediathek での Next Video推薦の話 ▪ Self-Attention based Sequential Recommendation model (SASRec) の 損失関数、ネガティブアイテムのサンプリング方法を変更 ▪ 結果 ▪ Popularity Bias (人気の偏り) を減少 ▪ バニラ版と比較してクリック数と視聴量を増加 【ZDF】サンプリングを改善したNext Video推薦：概要 Koneru, Venkata Harshit, et al. "Enhancing Recommendation Quality of the SASRec Model by Mitigating Popularity Bias." Proceedings of the 18th ACM Conference on Recommender Systems. 2024.
47. AI 47 ▪ 3 つの Variant で実験し性能を比較 ▪ Variant 1 : SASRec ▪ Variant 2 : SASRec gBCE ▪ Variant 3 : SASRec gBCE neg ▪ variant 1：バニラ SASRec algorithm ▪ 損失関数：Binary Cross Entropy (BCE) loss ▪ ネガティブアイテムのサンプリング：一様分布から 【ZDF】サンプリングを改善したNext Video推薦：実験設定 Koneru, Venkata Harshit, et al. "Enhancing Recommendation Quality of the SASRec Model by Mitigating Popularity Bias." Proceedings of the 18th ACM Conference on Recommender Systems. 2024.
48. AI 48 ▪ variant 2：SASRec gBCE ▪ 損失関数：generalized Binary Cross Entropy (gBCE) loss ▪ logistic sigmoid function を利用。正例アイテムをスケールして popularity bias を改 善する (去年の RecSys の Best paper の内容) [Aleksandr Vladimirovich Petrov and Craig Macdonald. 2023.] ▪ ネガティブアイテムのサンプリング：top-k negative sampling ▪ ネガティブサンプリングした中から、バックプロパゲーションではスコアが高かった top-k だけを利用する [Timo Wilm, Philipp Normann, Sophie Baumeister, and Paul-Vincent Kobow. 2023.] ▪ variant 3：SASRec gBCE neg ▪ variant2 にネガティブアイテムのサンプリングをする際に工夫を加える ▪ batchwise and in-batch sessionwise negative sampling [Timo Wilm, Philipp Normann, Sophie Baumeister, and Paul-Vincent Kobow. 2023.] 【ZDF】サンプリングを改善したNext Video推薦：実験設定 Koneru, Venkata Harshit, et al. "Enhancing Recommendation Quality of the SASRec Model by Mitigating Popularity Bias." Proceedings of the 18th ACM Conference on Recommender Systems. 2024.
49. AI 49 【ZDF】サンプリングを改善したNext Video推薦：実験設定 Koneru, Venkata Harshit, et al. "Enhancing Recommendation Quality of the SASRec Model by Mitigating Popularity Bias." Proceedings of the 18th ACM Conference on Recommender Systems. 2024.
50. AI 50 ▪ Spotify が検索時のクエリそのものを 推薦することで探索行動を促進 ▪ 途中まで入力すると、サジェストとし て検索クエリが提示される ▪ A/Bテストの結果 ▪ 検索ワードの文字数が10%増加 ▪ ユーザーごとの最大文字数は30%増加 ▪ 探索目的の検索数が 9% 増加 【Spotify】クエリの推薦による探索行動の促進：概要 Lindstrom, Henrik, et al. "Encouraging Exploration in Spotify Search through Query Recommendations." Proceedings of the 18th ACM Conference on Recommender Systems. 2024.
51. AI 51 ▪ アイデア：完全な検索クエリを使って欲しい ▪ より自由で探索的な検索を促進する鍵になる ▪ ユーザーの意図をより良く解釈できる ▪ 手法：クエリの推薦自体は 2 stage制 1. 複数のアプローチで提案クエリを生成 2. point-wise ranker (モデルの詳細は無し) を用いて並び替え 【Spotify】クエリの推薦による探索行動の促進：アイデアと手法 Lindstrom, Henrik, et al. "Encouraging Exploration in Spotify Search through Query Recommendations." Proceedings of the 18th ACM Conference on Recommender Systems. 2024.
52. AI 52 ▪ 複数の方法を組み合わせて提案クエリを作成 ▪ アーティスト名や曲名、プレイリスト名、ポッドキャスト名など、カタ ログアイテムのタイトルからクエリを抽出 ▪ 検索ログからクエリ提案をマイニングし、最後まで入力されたクエリを ログ内から検出するためにクエリ分類器を使用 ▪ Palumbo, Enrico, et al. "Graph learning for exploratory query suggestions in an instant search system." Proceedings of the 32nd ACM International Conference on Information and Knowledge Management. 2023. ▪ ユーザー自身の最近の検索や個人的なアイテム ▪ メタデータや「[アーティスト名] + covers」のような展開ルール ▪ LLM（大規模言語モデル）を活用 ▪ Penha, Gustavo, et al. "Improving content retrievability in search with controllable query generation." Proceedings of the ACM Web Conference 2023. 2023. 【Spotify】クエリの推薦による探索行動の促進：提案クエリの生成 Lindstrom, Henrik, et al. "Encouraging Exploration in Spotify Search through Query Recommendations." Proceedings of the 18th ACM Conference on Recommender Systems. 2024.
53. AI 53 ▪ point-wise ranker (モデルの詳細は無し) を用いて並び替え ▪ 特徴量：接頭辞クエリや提案されたクエリの統計情報、語彙的特徴、検 索スコア、クエリのエントロピー、クエリが導くコンテンツの種類、 ユーザーレベルの特徴、消費パターンなど ▪ ラベル：検索結果ページでストリーミング、保存、プレイリスト追加な どの成功アクションにつながったか ▪ ranker を削除すると推奨クエリのクリック率が20％減少 【Spotify】クエリの推薦による探索行動の促進：提案クエリの生成 Lindstrom, Henrik, et al. "Encouraging Exploration in Spotify Search through Query Recommendations." Proceedings of the 18th ACM Conference on Recommender Systems. 2024.
54. AI 54 ▪ Netflixで検索タスクと推薦タスクに同時に対応する統一なディープ ラーニングモデルを作成 【Netflix】複数タスクを扱う統一的な推薦モデル：概要 Bhattacharya, Moumita, Vito Ostuni, and Sudarshan Lamkhede. "Joint Modeling of Search and Recommendations Via an Unified Contextual Recommender (UniCoRn)." Proceedings of the 18th ACM Conference on Recommender Systems. 2024.
55. AI 55 ▪ 技術負債の解消 ▪ サービス上では複数の検索・推薦タスクが存在 ▪ 一般的にそれぞれに独立した機械学習パイプライン作成 ▪ パイプラインが増えてくると技術的な負債になってしまう ▪ 性能向上 ▪ 各タスクを同時に考慮することで相互に恩恵を受けられる場面がある （クロスドメインレコメンド） ⇒ 一つのモデル・パイプラインで複数の検索・推薦タスクを解きたい 【Netflix】複数タスクを扱う統一的な推薦モデル：モチベーション Bhattacharya, Moumita, Vito Ostuni, and Sudarshan Lamkhede. "Joint Modeling of Search and Recommendations Via an Unified Contextual Recommender (UniCoRn)." Proceedings of the 18th ACM Conference on Recommender Systems. 2024.
56. AI 56 どうやって複数のタスクを統一的に扱うか？ ▪ 共通化したコンテキスト ▪ 検索タスクの入力・推薦タスクの入力を両方とも処理できるような共通 化したコンテキストを定義して利用する ▪ 例：user id, query, country, source entity id, task ▪ タスクごとに欠損している情報が固有に存在するので、ヒューリス ティックに埋める ▪ 例：推薦では検索の query 入力が存在しないので、Videoの表示名を入力 【Netflix】複数タスクを扱う統一的な推薦モデル：手法 Bhattacharya, Moumita, Vito Ostuni, and Sudarshan Lamkhede. "Joint Modeling of Search and Recommendations Via an Unified Contextual Recommender (UniCoRn)." Proceedings of the 18th ACM Conference on Recommender Systems. 2024.
57. AI 57 ▪ 検索タスクにおいてはパーソナライズだけではなくクエリとの関連性 も重要なので、段階的にモデルを作りコントロール 1. ユーザクラスタリングの結果をコンテキストの特徴量として入力 2. それぞれのタスクの推薦モデルの出力を特徴量として入力 3. e2e で学習 ⇒ オフライン指標で検索タスクと推薦タスクそれぞれ7％と10％の向上 【Netflix】複数タスクを扱う統一的な推薦モデル：段階的な工夫 Bhattacharya, Moumita, Vito Ostuni, and Sudarshan Lamkhede. "Joint Modeling of Search and Recommendations Via an Unified Contextual Recommender (UniCoRn)." Proceedings of the 18th ACM Conference on Recommender Systems. 2024.