LayerXにおけるLLMプロダクト開発の今までとこれから

篠塚 史弥 (@shinofumijp)
生成AI Conf 生成AI革命期に挑んだ一年間の軌跡
2024-04-25

Transcript

1. © LayerX Inc. LayerXにおけるLLMプロダクト開発の今までとこれから 篠塚 史弥 (@shinofumijp) 生成AI Conf 生成AI革命期に挑んだ一年間の軌跡 2024-04-25
2. © LayerX Inc. 2 LayerX AI・LLM事業部エンジニアリングマネージャー LLMプロダクト開発のリードを担当 元FiNC Technologies, CTO X: @shinofumijp 篠塚 史弥
3. © LayerX Inc. 3 LayerXの事業概要 LayerXのご紹介 * 資本準備金含む 会社名　　　　 代表取締役　 創業　　　　　 資本金* 関連会社 株主一覧　 取得認証 ｜ 株式会社LayerX（レイヤーエックス） ｜　代表取締役CEO 福島 良典 　　 代表取締役CTO 松本 勇気 ｜　2018年 ｜　132.6億円 ｜　バクラク事業、Fintech事業、AI・LLM事業 ｜　三井物産デジタル・アセットマネジメント 　　三井物産、LayerX、三井住友信託銀行、SMBC日興証券、JA三井リースによる合弁会社 ｜　 ｜　情報セキュリティマネジメントシステム、　　 　　 JIIMA認証 提供プロダクト 企業や行政のLLMを用いた 業務効率化・データ活用を支援 バクラク事業 企業活動のインフラとなる 法人支出管理（BSM）SaaSを 開発・提供 Fintech事業 ソフトウェアを駆使したアセットマネジメント 証券事業を合弁会社にて展開 AI・LLM事業 IS 747702 / ISO 27001
4. © LayerX Inc. 4 LayerXのLLM事業 LayerXのご紹介 例: 三井物産デジタル・アセットマネジメントでの取組 エンタープライズ企業の業務のリデザイン 様々なファンドにまつ わる契約書 • LLMだからこそできるDX • 単に自動化するのではなく、業務を LLMネイティブな形に変える • 特に、長文の文書処理業務 ファンド管理DB 登記簿等の公的書類 投資サービスへの連携 ファンド運営の 効率化・自動化 LLM
5. © LayerX Inc. 5 例: 非構造的な長文の文書の整理 LLMの現状とLayerXのアプローチ {会社名: 株式会社LLM} xxx契約書 第6条（責任の免除） 甲は、本契約に基づくサービスの提供において、故意 または重大な過失がない限り、いかなる間接的損害に 対しても責任を負わない。 乙による本サービスの利用に関連して発生したデータ の損失または損害について、甲は責任を負わない。 会社名　株式会社LLM {責任制限条項: 間接的損害, データの損失ま たは損害} 長文の文書の意味を汲み取り、ファイルからデータを取得して整理（構造化） デジタル化を阻んでいた 見た目（フォーマット）の違いを吸収 LLM
6. 現在のプロダクト像までの意思決定
7. 7 2022 2023 2024 OpenAI LayerX 11/30 3月 11月 2月 7月 12月 4月 LLM Lab 立ち上げ 2月 AI・LLM事業部 設立 PoC Microsoft Meta Google 9月 3月 Llama公開 Llama2公開 Llama3公開 Microsoft365 Copilot発表 サムアルトマン 参画発表 Bard公開 Gemini公開 VideoPoet 発表 ScreenAI 発表 日本法人設立 GPT-4 Turbo公開 Sora 発表 サムアルトマン復 帰 GPT-4 公開 ChatGPT 公開 GPT-4V 公開 生成AI革命期1年間の軌跡 MSP開発 MVP開発
8. © LayerX Inc. 8 意思決定①： 事業にする LLMの現状とLayerXのアプローチ R&D、既存事業のEnablingにとどまらず単独の事業にする 仮説 LLMにより新しい市場が拓ける
9. © LayerX Inc. 9 意思決定②： プロダクトにする LLMの現状とLayerXのアプローチ ソフトウェアとしての再利用性を高め、大きな固定費を抱えない事業にする 仮説 ロングテール業務がエンタープライズのLLMユースケースの一丁目一番地 多様な領域に機械学習が使えるように 機械学習モデルとアプリケーションの関係 これまでの機械学習 生成AI（LLM）
10. © LayerX Inc. 10 意思決定③： チャットプロダクトから始めない LLMの現状とLayerXのアプローチ AIを前提とする理想の体験(=AI UX)を追求 仮説 お客様業務の効率化を実現するのは単体のLLM品質の外側 - 顧客業務全体の体験設計 - 文書特性に応じた前処理、検索 - 適切なタスク計画
11. 行ってきた活動とこれから
12. © LayerX Inc. 12 マーケット探索 LLMの現状とLayerXのアプローチ • マーケット調査 x 意志 • 見込み顧客との接点づくり • 専門家へのヒアリング 行ってきた活動 • 現在のプロダクトの新規ユースケース開拓 • LLMにより拓かれる新しいマーケットの探索 「プロダクトを開発した先に市場はあるか」の検証 これから
13. © LayerX Inc. 13 PoC LLMの現状とLayerXのアプローチ • 顧客業務、ドメインの深い理解 • 顧客の実データを利用したLLM実験 • 顧客事例でのサクセス 行ってきた活動 • 組織的なスケーラビリティ向上 • R&Dによるケイパビリティ獲得 • LLM Opsの改善 「LLMで解決可能な再現性のある課題か」の検証 これから
14. © LayerX Inc. 14 LLMの現状とLayerXのアプローチ • MVP開発 • 顧客からのフィードバックと改善の繰り返し 行ってきた活動 • MSP開発 • プロダクト開発の本格化 「実際に顧客業務が効率化されるか」を検証 これから プロダクト開発
15. © LayerX Inc. 15 LLMの現状とLayerXのアプローチ 「仮説検証」と言えば聞こえはいいが... 目の前の1つ1つの機会を着実に成果にするべく活動をしてきた
16. © LayerX Inc. 16 より詳しい話は5/8の「生成AIカンファレンス2024」にて LLMの現状とLayerXのアプローチ LayerXからは事業部長の中村が16:25より登壇します 事例を元に、ターゲットユースケースについて話す予定です https://gen-ai-conf.org/
17. © LayerX Inc. 17 カジュアル面談の依頼もお気軽にXから！ @shinofumijp LayerXのAI・LLM事業部の「最初の10人」になりませんか！ SWE、SRE、PM、PdM その他ポジションも積極採用中！ • 経験豊富なメンバーとの事業立ち上げ ◦ 経営陣に上場企業役員経験者が9人在籍 • 0→1フェーズだが、会社はそれなりに成熟 ◦ 約133億円の資金調達 ◦ オフィスも綺麗です！ • スタートアップでは通常開拓しにくい業界での取り 組み実績