Upgrade to Pro — share decks privately, control downloads, hide ads and more …

メルカリでの生成AI活用@2023.09.28

Yuki Ishikawa
October 02, 2023
790

 メルカリでの生成AI活用@2023.09.28

「Microsoftと語る LLM実装の最前線」でのLTスライドです。
https://cto-a.connpass.com/event/292450/

Yuki Ishikawa

October 02, 2023
Tweet

Transcript

  1. 2 Confidential  いしかわ   ゆうき 石川 佑樹 株式会社メルカリ 執行役員 VP of

    Generative AI / LLM 東京大学卒業後、2012年任天堂株式会社入社。2014年にモイ株式会社(ツイ キャス)に入社し、各種開発や新規立ち上げに従事。2017年6月メルカリグループ の株式会社ソウゾウ(旧)に入社。その後、株式会社メルカリへ異動を経て、2020 年7月より株式会社メルペイ執行役員VP of Product。2021年1月から株式会社 ソウゾウ代表取締役CEO。2022年7月から株式会社メルカリ執行役員VPを兼 任。
  2. 5 Confidential Direction “AI Driven” • AI Driven For UX

    • AI Driven For Engineering • AI Driven For Employee Direction
  3. 6 Confidential Direction: AI Driven For UX • AIの進化をみた上で、1,3,5年後のメルカリの姿にどうAIが統合されていくと思う か?

    • 生成AI/LLM時代の、AIを活かしたプロダクト体験はどんなものであるべきか? AIを活かした お客さまへのプロダクト体験
  4. 7 Confidential Direction: AI Driven For Engineering • AI活用をしやすいデータ・API設計はどういうものか?そのために必要なアクショ ンは何か?

    • AIによる自動化やパーソナライズのための必要情報は十分reachableになっ ているか?必要な情報量・幅はあるか? AIを活かすための基盤投資
  5. 8 Confidential Direction: AI Driven For Employee • 全ての領域・職種で、AIと協働してパフォーマンスを発揮できているか? •

    AIの最新の進歩と可能性を継続的に学習し、業務に適用する仕組みを構築でき ているか? AI活用を前提とした 業務設計・組織設計
  6. 13 Confidential ① ガイドライン策定 • MLチームだけでなく、一般のSWEのチームもプロダクト実装できるように必要 • メルカリ研究開発組織「R4D」とも連携しつつ策定 • 国内外の状況をキャッチアップしつつ、作る。意外と大変。

    ② 勉強会・ハッカソン Enabling • 毎週金曜に社内勉強会やってる(ゆるふわ) • 全社のハッカソンにうまく乗っかって、布教活動 • 4月/メルカリJPのハッカソンでLLM Award、6月/メルペイでLLMハッカソン
  7. 15 Confidential Enabling & Building(既存プロダクトへの適応) 各Function Team (チーム名はイメージ ) Seller

    UX Buyer UX CS Fintech LLM team 企画立案、利用モデルの選定、 prompt engineering、プロダクト実装etc B2C XB
  8. 16 Confidential Enabling & Building(既存プロダクトへの適応) ② 共創 ① 主導 Functionチームがリード

    し、LLM周りを必要に 応じて専任チームが確認 するなど並走するケース LLM専任チームが オーナーシップをもち、 企画から実装まで実施す るケース
  9. 17 Confidential 施策内容 1. 既存プロダクトへの生成AI・LLM活用 ex: SellerUX, BuyerUX, CS, Fintech,

    B2C, XB, Marketing, CRM etc 2. 社内ツール実装 ex: 社員専用ChatGPT, Code Interpreter, AI議事録, 多言語化対応 etc 3. 生成AI・LLMを活かした新規事業
  10. 18 Confidential モデルの選定 1. LLM APIs ex: Azure OpenAI Service,

    OpenAI API, Google PaLM2, Claude etc 2. OSS models ex: Llama2, Dolly2.0, OpenLLaMa, Falcon, OpenCALM etc 3. 内製の基盤モデル
  11. 19 Confidential ツールの選定 • Retrieval Augmented Generation ◦ 回答に必要な情報を検索してテキストを生成する ◦

    ツール:Azure Cognitive Search, Elasticsearch • Function call ◦ 必要なAPIを自分でコールしてアクションを起こす。 Agent作成には必須 ◦ ツール:OpenAI Function calling, LangChain • LLM Pipeline ◦ 上記のような拡張をつなげる。複雑な機能開発には必須。 ◦ ツール:LangChain, Semantic Kernel