Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
メルカリでの生成AI活用@2023.09.28
Search
Yuki Ishikawa
October 02, 2023
3
4k
メルカリでの生成AI活用@2023.09.28
「Microsoftと語る LLM実装の最前線」でのLTスライドです。
https://cto-a.connpass.com/event/292450/
Yuki Ishikawa
October 02, 2023
Tweet
Share
More Decks by Yuki Ishikawa
See All by Yuki Ishikawa
Behind the Scenes of Generative AI-Driven Products and Productivity Enhancements
mazeltov7
1
580
生成AIによるプロダクトと生産性向上の舞台裏@2024.04.16
mazeltov7
42
25k
「メルカリAIアシスト」 オンラインメディアレク2023.10.17
mazeltov7
0
790
メルカリ生成AI/LLM専任チームの取り組み@MS Build Japan2023
mazeltov7
10
7.8k
Featured
See All Featured
Become a Pro
speakerdeck
PRO
24
5k
GraphQLとの向き合い方2022年版
quramy
43
13k
CoffeeScript is Beautiful & I Never Want to Write Plain JavaScript Again
sstephenson
159
15k
Thoughts on Productivity
jonyablonski
67
4.3k
Performance Is Good for Brains [We Love Speed 2024]
tammyeverts
4
380
Visualizing Your Data: Incorporating Mongo into Loggly Infrastructure
mongodb
42
9.2k
ReactJS: Keep Simple. Everything can be a component!
pedronauck
664
120k
Designing for humans not robots
tammielis
249
25k
実際に使うSQLの書き方 徹底解説 / pgcon21j-tutorial
soudai
167
49k
For a Future-Friendly Web
brad_frost
175
9.4k
GraphQLの誤解/rethinking-graphql
sonatard
67
10k
Bash Introduction
62gerente
608
210k
Transcript
1 Confidential メルカリでの生成AI活用 Yuki Ishikawa
2 Confidential いしかわ ゆうき 石川 佑樹 株式会社メルカリ 執行役員 VP of
Generative AI / LLM 東京大学卒業後、2012年任天堂株式会社入社。2014年にモイ株式会社(ツイ キャス)に入社し、各種開発や新規立ち上げに従事。2017年6月メルカリグループ の株式会社ソウゾウ(旧)に入社。その後、株式会社メルカリへ異動を経て、2020 年7月より株式会社メルペイ執行役員VP of Product。2021年1月から株式会社 ソウゾウ代表取締役CEO。2022年7月から株式会社メルカリ執行役員VPを兼 任。
3 Confidential メルカリでの生成AI活用
4 Confidential 3つの観点 Direction Investment Execution
5 Confidential Direction “AI Driven” • AI Driven For UX
• AI Driven For Engineering • AI Driven For Employee Direction
6 Confidential Direction: AI Driven For UX • AIの進化をみた上で、1,3,5年後のメルカリの姿にどうAIが統合されていくと思う か?
• 生成AI/LLM時代の、AIを活かしたプロダクト体験はどんなものであるべきか? AIを活かした お客さまへのプロダクト体験
7 Confidential Direction: AI Driven For Engineering • AI活用をしやすいデータ・API設計はどういうものか?そのために必要なアクショ ンは何か?
• AIによる自動化やパーソナライズのための必要情報は十分reachableになっ ているか?必要な情報量・幅はあるか? AIを活かすための基盤投資
8 Confidential Direction: AI Driven For Employee • 全ての領域・職種で、AIと協働してパフォーマンスを発揮できているか? •
AIの最新の進歩と可能性を継続的に学習し、業務に適用する仕組みを構築でき ているか? AI活用を前提とした 業務設計・組織設計
9 Confidential Investment 機動的に動ける専任チームの組成 • 技術探索 • 既存プロジェクトへの適応 • 新規事業の企画・実装
Investment
10 Confidential Execution 生成AI/LLM専任チームの ミッション • 生成AI/LLM技術を用いた、新たなお客さま体験創出と事業インパク トの最大化 • 全社の生産性の劇的な向上
Execution
11 Confidential Execution 具体的な取り組み
12 Confidential LLMチームでやっていること Enabling と Building
13 Confidential ① ガイドライン策定 • MLチームだけでなく、一般のSWEのチームもプロダクト実装できるように必要 • メルカリ研究開発組織「R4D」とも連携しつつ策定 • 国内外の状況をキャッチアップしつつ、作る。意外と大変。
② 勉強会・ハッカソン Enabling • 毎週金曜に社内勉強会やってる(ゆるふわ) • 全社のハッカソンにうまく乗っかって、布教活動 • 4月/メルカリJPのハッカソンでLLM Award、6月/メルペイでLLMハッカソン
14 Confidential Building(メルカリ社員専用ツール) 社内の利用促進のため、業務情報を入れても良いメルカリ社員専用の”ChatGPT”を作 成。最近、GPT-4とGoogle PaLMにも対応して、徐々に社内OSS的な運用へ移行。
15 Confidential Enabling & Building(既存プロダクトへの適応) 各Function Team (チーム名はイメージ ) Seller
UX Buyer UX CS Fintech LLM team 企画立案、利用モデルの選定、 prompt engineering、プロダクト実装etc B2C XB
16 Confidential Enabling & Building(既存プロダクトへの適応) ② 共創 ① 主導 Functionチームがリード
し、LLM周りを必要に 応じて専任チームが確認 するなど並走するケース LLM専任チームが オーナーシップをもち、 企画から実装まで実施す るケース
17 Confidential 施策内容 1. 既存プロダクトへの生成AI・LLM活用 ex: SellerUX, BuyerUX, CS, Fintech,
B2C, XB, Marketing, CRM etc 2. 社内ツール実装 ex: 社員専用ChatGPT, Code Interpreter, AI議事録, 多言語化対応 etc 3. 生成AI・LLMを活かした新規事業
18 Confidential モデルの選定 1. LLM APIs ex: Azure OpenAI Service,
OpenAI API, Google PaLM2, Claude etc 2. OSS models ex: Llama2, Dolly2.0, OpenLLaMa, Falcon, OpenCALM etc 3. 内製の基盤モデル
19 Confidential ツールの選定 • Retrieval Augmented Generation ◦ 回答に必要な情報を検索してテキストを生成する ◦
ツール:Azure Cognitive Search, Elasticsearch • Function call ◦ 必要なAPIを自分でコールしてアクションを起こす。 Agent作成には必須 ◦ ツール:OpenAI Function calling, LangChain • LLM Pipeline ◦ 上記のような拡張をつなげる。複雑な機能開発には必須。 ◦ ツール:LangChain, Semantic Kernel
20 Confidential リリース済み・進行中事例を一部紹介
21 Confidential SEO改善(リリース済み) SEOに関わるメルカリ検索画面のタイトルをLLMでいい感じに生成 検索結果のタイトル • 「日傘」と「傘」でキー ワードが重複 • ブランド名の表記
カテゴリ X ブランド名を LLMでいい感じに タイトル生成
22 Confidential 商品情報サジェスト(リリース済み) 商品に不足している情報や、売れやすい商品に共通する情報をAIが提案。ルールベー スの実装をLLMで推定に変更。 例: • 購入時の価格 • ブランド名やキーワード
23 Confidential Mercari ChatGPT Plugin(リリース済み)
24 Confidential Mercari ChatGPT Plugin
25 Confidential CS AI Auto Reply(進行中) • お客さまからの一次お問合せに対し て、AIの自動応答で対応
26 Confidential GenAIクリエイティブのCPN, 広告活用(進行中) • 7月は採用クリエイティブでテスト済み • 8月9月はCPN・広告クリエイティブで 活用
27 Confidential We are Hiring! Software Engineer(Full Stack) メルカリグループのデータや基盤を使ってどんどんサービスを作りたい人募集!