Upgrade to Pro — share decks privately, control downloads, hide ads and more …

レコメンデーション導入の準備でホーム画面を整えたら、予想以上に大きなビジネスインパクトが出た話...

レコメンデーション導入の準備でホーム画面を整えたら、予想以上に大きなビジネスインパクトが出た話 / Mercari US Buyer UX Improvement 1

Machine Learning Pitch「今期の私は凄かったぞ!!!」 @ 2021/3/31
メルカリUSでのHome画面改善の取り組みと、それによるビジネスインパクトの話をしました。

https://machine-learning-pitch.connpass.com/event/199555/

Lain Matsuoka

April 01, 2021
Tweet

More Decks by Lain Matsuoka

Other Decks in Technology

Transcript

  1. スピーカー紹介 • メルカリがファーストキャリア ◦ MITのPh.D.課程を中退 • メルカリでのキャリア ◦ 日本版メルカリで1年間 ◦

    US版メルカリで1年3ヶ月 • フロントエンド以外は今のところなんでも • 日本ソムリエ協会認定ワインエキスパート ◦ 今は国際資格取得に向けて勉強中
  2. Homeの闇その1: レガシー化した実装 • ステークホルダーが多く、様々な機能が継ぎ足 されていった • USの成長期において実装されたので、コード のクオリティを省みる余裕がなかった? ◦ 外部データに依存したテスト、直列なリク

    エスト、副作用の多用。。。 • メモリーリークの温床になっており、レイテンシ も目も当てられない状態に😇 • そして、全容を知る人は一人もUSに残っていな かった😱
  3. 準備その1: 負債の解消 • モノリスの大規模リファクタリング ◦ ソフトウェア考古学 ◦ レイテンシを半分以下に • Personalized

    Searchコンポーネントを切り出して マイクロサービス化 ◦ Home上の最大の魔窟を整理 ◦ レコメンデーションを導入しやすい形に
  4. 準備その2: 不要なコンポーネントの棚卸し • CTRの低いコンポーネントの消去 ◦ A/Bテストでデルタ法を使って一つ一つ効 果測定 ◦ PMと協力して各ステークホルダーや VPoPから了承を取る

    • ユニバーサルコントロールグループ を導入 ◦ 数%のホールドアウト群 ◦ 改善の効果を常にトラッキングできるよう に • この時点で既に売り上げが少し改善 🚀
  5. • 整理が一段落し、レコメンデーションがやれそうな感じに ◦ 一番売り上げ貢献の大きいPersonalized Searchコンポー ネントが、アプリを開いた時点で目に触れる位置まで上 がってきた • Personalized Search

    ◦ ユーザーの過去の閲覧履歴から、複数の検索条件を生成 して、個々の検索結果を表示する ◦ 閲覧した商品の素性を主に検索条件に使用 ◦ いわゆる ”Retargeting”
  6. 準備その3: リアルタイム化の為のデータ基盤導入 • ユーザーの行動履歴をBigtableに溜め込む ◦ クライアントログ取得のデータパイプライン から分岐 • 一時間ごとのバッチ更新だったPersonalized Searchをリアルタイム化

    • コンポーネントのお掃除と相まって、 Home経由 の購買が大きく改善 ◦ やはりユーザーはリアルタイムのフィード バックを求めていた • そして、この時点でようやくチーム結成 😭 Client Logging Event Personalization Service User Activity DB User Activity Worker
  7. 準備その4: タイムラインへの置き換え • Personalized Searchを、無限スクロールでき る商品フィードへと置き換える ◦ 行動ログから最新の関連商品を提示 ◦ 検索エンジン以外も使えるように

    ◦ 閲覧行動がより滑らかに • 固定数の商品のみを出す形(擬似タイムライ ン)で一旦テスト ◦ Home経由のあらゆるKPIが大幅に改善 ◦ MLチーム史上最大のGMV改善率を記録 した😇🔥
  8. まとめ • レコメンデーションをHomeに導入するための準備だけで大幅にGMVが改善した ◦ リファクタリング、レイテンシ改善、機能削減、効果測定 ◦ リアルタイム化、UI/UXの変更 • 機械学習をやる前にやるべきこと が結構ありそう

    ◦ どこに手を入れると効果が大きいかの見積もり ◦ ユニバーサルコントロールグループの導入など、効果検証の基盤 ◦ 機械学習の恩恵を最大限に引き出すための、サービスの理想的な状態とは? • エンジニアリング力があると視野が広がることも ◦ 負債が溜まっているところにこそチャンスがあったりする ◦ チームを作るには、まず自分が動いて成果を捻り出す