Product Utilization of Large Language Models Starting Today

YAPC::Hakodate 2024にて

Transcript

1. © LayerX Inc. 今⽇から始める⼤規模⾔語モデルの プロダクト活⽤ 2024/10/05、@y_matsuwitter
2. © LayerX Inc. 2 今⽇のテーマ はじめに LLMという、新しくかつ普段のプロダクト開発に組み込めるおもしろ 技術を少しでも皆さんが開発に組み込む未来に近づけたい！！ という思いで応募させていただきました。
3. ⽬次 Agenda • 会社紹介と⾃⼰紹介 • LLMという技術のインパクト • LLMのプロダクト活⽤パターン
4. 会社紹介
5. © LayerX Inc. 5 LayerXについて
6. © LayerX Inc. 6 なぜやるのか LayerXについて ⼈⼝減少社会 ⼈の⽣産性 “すべての経済活動を、デジタル化す る” ⽇本社会の構造的課題 LayerXの課題認識 LayerXの事業/ミッションとのつながり ⼈⼝減社会で起こる課題の解決を、ソフトウェアでサポートする お⾦の⽣産性 データの⽣産性 バクラク事業 Fintech事業 AI‧LLM事業
7. © LayerX Inc. 7 「すべての経済活動を、デジタル化する。」をミッションに掲げ、 法⼈⽀出管理サービス「バクラク」や企業内業務のデジタル化を⽀援するサービスを提供してい ます。 事業紹介 バクラク事業 企業活動のインフラとなる法人支出 管理（BSM）SaaSを開発・提供 Fintech事業 ソフトウェアを駆使したアセットマネジメ ント・証券事業を合弁会社にて展開 AI・LLM事業 文書処理を中心とした、LLMの活用による プロセスのリデザイン
8. © LayerX Inc. 8 請求書処理、経費精算、稟議申請、法⼈カードなどの⽀出管 理をなめらかに⼀本化するサービス。 電⼦帳簿保存法やインボイス制度にも対応し、 業務効率化と法令対応の両⽴を実現します。 ⼤⼿企業や地⽅企業、⾃治体など、累計10,000社に導⼊。 バクラク事業 事業紹介 ハタラクを、バクラクに。
9. © LayerX Inc. 9 三井物産株式会社等との合弁会社として 「三井物産デジタル‧アセットマネジメント」を設⽴。 創意⼯夫とデジタルの⼒をもとに、 資産運⽤の様々な「負」を解決し、預⾦のまま活かされな い、 膨⼤な「眠れる銭」を経済活動に還流していきます。 個⼈向け投資サービス「ALTERNA」、 不動産運⽤業務DXサービスなどを開発‧運営。 Fintech事業 事業紹介 ⽬覚めた銭が社会を変える。
10. © LayerX Inc. 10 LayerX創業時から取り組んできた研究開発⼒を活かし、 企業や⾏政内に眠っているデータの 活⽤‧業務効率化の⽀援を⽬指す組織。 ⼤規模⾔語モデル（LLM）を⽤いた ⽂書処理効率化ソリューションを始めとして、 AIをソフトウェアに⾃然に組み込み、 圧倒的に良い体験でエンタープライズ規模の課題を解決しま す。 AI‧LLM事業 事業紹介 AI‧データ関連の先端技術を研究し、 プロダクト開発する組織。
12. ⾃⼰紹介
13. Confidential © 2022 LayerX Inc. 13 ⾃⼰紹介 松本 勇気 (@y_matsuwitter) 株式会社LayerX 代表取締役CTO 株式会社三井物産デジタル‧アセットマネジメント取締役 ⽇本CTO協会 理事 Fintech/AI‧LLM事業部を主に管掌 趣味は筋トレと料理
14. LLMという技術の波
15. © LayerX Inc. 15 機械学習以前のソフトウェア LLMという技術の波 型がないデータは扱えなかったため、現実とソフトウェアを⼈間が橋渡しする必要があった。 ソフトウェア ⼈間 ⽂章 画像 動画 ⾳声 ...etc 業務効率化 ⽣産性向上
16. © LayerX Inc. 16 機械学習（Machine Learning、AI） LLMという技術の波 ソフトウェアにとっての⽬、⼀定ルールを⾃動化。実世界の物事を機械が解釈可能な形式に変換するエン ジンと捉える。⼀⽅、その実現には⾼い専⾨性やコストが求められる。 デジタルデータ化 既存のソフトウェア へ連携 専⽤の機械学習 アルゴリズム ⽂章 画像 動画 ⾳声 ...etc ⽤途に合わせて 学習させる必要 ⼗分な需要や効果がなければ 開発不可能 タグ付け 専⽤の機械学習 アルゴリズム フィルタ...etc 専⾨的スキルが必要 難易度⾼ 既存ソフトウェアで扱えない曖昧な領域 課題
17. © LayerX Inc. 17 事前に様々な巨⼤データから学習。これまでのAIと違い、Prompt次第で多様なタスクに対応可能であ り、また⽂書等の処理能⼒はこれまでのAIよりも⾼い。インターネット‧スマートフォンの次の波。 ⽣成AI、特にLLM LLMという技術の波 巨⼤なデータを元に 事前学習 様々なタスクに 対応可能 これまでコスト的にML対応出来 なかった領域へも対応可能に ⾮構造データのより ⾼度な取り扱い デジタルデータ化 構造データ化 既存のソフトウェア LLM ⽂章 画像 動画 ⾳声 ...etc タグ付け フィルタ...etc 既存ソフトウェアで扱えない曖昧な領域 Prompt Prompt
18. © LayerX Inc. 18 技術理解を徹底しその意義を⾃分なりに理解、そこから仮説を⽣み出し顧客ヒアリングを重ねる。我々の 取り組んできた書類×SaaSにヒントを得て1年弱のR&Dを元に現在にたどり着く。 LayerXでのLLMの取り組みの流れ LLMという技術の波 ChatUIのUXの厳しさ バクラクなどの SaaS取り組み 文書を起点にした 業務プロセスの リデザイン
19. © LayerX Inc. 19 LLMという技術の波 もはや、専⾨的で⾼度なコーディングタスクという領域が減少している。 o1-previewによるさらなる衝撃 ※OpenAI Blogより引⽤ https://openai.com/index/learning-to-reason-with-llms/ 図：数学、コーディング等の論理的課題において⾶躍的な性能向上
20. © LayerX Inc. 20 LLMという技術の波 性能あたり価格は低下の⼀歩をたどっている。このトレンドはしばらく続くだろうと思われる。 LLMの傾向 図：gpt-4系の価格推移、1年で1/12へ。 性能も⼤きく向上している。
21. LLM活⽤のパターン 開発の中で⾒えてきたいくつかの利⽤⼿法
22. 22 © LayerX Inc. LLM活⽤のパターン ソフトウェア開発者にとって今までの 延⻑にないものが作れるのでは？を考える。 過去を振り返ればインターネットやSmartphoneの登場…
23. © LayerX Inc. 23 LLMの活⽤の軸 LLM活⽤のパターン 私の場合、プロダクトで利⽤する場合、以下のような軸でタスクのあり⽅を判断している。 構造化出⼒ ⾮構造化出⼒ ⼈と対話する ソフトウェアと対話する 出⼒形式 出⼒先 JSONやCSV等の決まった形式を出⼒する。出⼒の評価 はしやすい。形式のミスが発⽣する。 ⽂章など形式が決まっていないものを出⼒させる。評 価がしにくいが、エラーが少ない。 ⼈間に対してアウトプットを提⽰する。⼈に評価され るため、⼈によるフィードバックが可能。 ソフトウェアに⽣成物を連携する。⾃動化などに利⽤ するが、ケースによっては型の厳密さ故にエラーに。
24. © LayerX Inc. 24 LLMの利⽤の⼤まかなパターン LLM活⽤のパターン プロダクト活⽤のヒントとして、以下のようなパターンでの活⽤がプロダクトの中であり得る。 アドバイス‧判断の⽀援 ワークフローとプロセス⾃動化 知識の活⽤‧⽣成 X as Codeとの組み合わせ ルールに沿って、⼈間に⼀定の⽰唆や判断を与える。 業務をLLMに置き換える。 社内などの知識を使って、コンテンツや質問への回答を⽣成する。 ソフトウェア等のConfigを⾃動化し、カスタマイズなどを⾏う。 ML的機能のプロトタイピング 機械学習機能をソフトウェアエンジニアが簡易に実現する。
25. © LayerX Inc. 25 知識の活⽤と⽣成 LLM活⽤のパターン ⼈間には上⼿く検索クエリが組み⽴てられない、という前提に経って知識を収集‧活⽤する。クエリの拡 張や検索結果を使った⽂書⽣成など。多くはクエリ拡張で⼗分。 検索クエリや SQLを⽣成し検索 必要に応じて検索結果 からコンテンツ⽣成 ユーザーの コンテキスト 検索キーワー ド等の⼊⼒ LayerXでの⽤途例：各種⾃社製品のマニュアルの検索等
26. © LayerX Inc. 26 アドバイス‧判断の⽀援 LLM活⽤のパターン ⼀定のルールに従って、ユーザーに対してアドバイスや判断の⽀援‧下書きを⾏う。間違いの可能性はあ るため、答えではなくあくまでドラフト的なアウトプットとして提供する必要がある。 ドラフトとして提⽰ LLMがルールに基づき 判断結果を出⼒ ユーザーが 修正や意思決定 ユーザーからの リクエスト ルール‧事例データ LayerXでの⽤途例：営業記録から改善ポイントアドバイス、ルール に従った⽂書のレビュー...etc
27. © LayerX Inc. 27 ワークフローとプロセス⾃動化 LLM活⽤のパターン ⾮構造データの構造化は有⽤な⼿段。ユーザーや運営における業務効率を⾼める視点で活⽤。 ⽂章、画像などの 通常システムで 扱いづらいデータ LLM 後段のシステムへ 連携 構造化データ LayerXでの⽤途例：請求書のアノテーション業務、Ai Workforceそ のものの機能
28. © LayerX Inc. 28 X as Codeとの組み合わせ LLM活⽤のパターン DSL等によってシステムの設定‧カスタマイズを可能にすることで、セットアップ等の重い1shotなタス クをLLMで⾃動⽣成するパターン。今後増えると思われる。 システム設定⾔語 サービスの設定等を DSLや設定⾔語で記述 可能にしておく ユーザーの カスタマイズニーズ LLMでカスタマイズさ れた設定を⽣成 必要に応じて ユーザー等が レビュー LayerXでの⽤途例：（検証中だが）ワークフローエンジンの設定⾃ 動⽣成、お客様向けテナントのセットアップ⾃動化
29. © LayerX Inc. 29 ML機能のプロトタイピング LLM活⽤のパターン レコメンドやタグ付けなどの機能を簡易に実現する。コスト⾯や処理速度など課題もあるが、機械学習的 機能を提供する上で開発が⽤意。 カテゴリ分類‧タグ付け レコメンドエンジン 異常検知 AI-OCR 感情分析 スパムフィルタ 画像認識 データ補完 機械翻訳 パーソナライズ 画像認識 …etc 実現できるアルゴリズム例
30. © LayerX Inc. 30 LLM活⽤のパターン 例：簡単に作るレコメンド 参考： 今⽇から始める ChatGPT+Zapierで雑パーソナライ ズ情報収集 ⽂章が⾃分の好みにあうかLLMに条件 を渡しつつTrue/Falseを返させて判定 している。
31. © LayerX Inc. 31 インタラクションと応答‧対話の⽤途のコツ LLM活⽤のパターン エンドユーザーとの対話部分を代替できるが万能ではないため、⼈のオペレーターへのfallback等オペ レーション上注意することも多い。 より⼤きなモデル ⾼速‧価格重視モデル ⼈へのFallback ユーザーからの コミュニケーション 精度が⾜りないことも多く、最後に⼈が 対応可能な仕組みを⽤意しておく 回答のモニタリング 情報ソースの接続
32. © LayerX Inc. 32 モデルの変化に向き合いつづける LLM活⽤のパターン 常に性能と価格、できるタスクが変化し続ける。1年でも違う世界なので、新たなモデルや⽤途を常に考 えるくらいがこの数年は良いだろう。 価格の変化 昨年から現状で価格あたり性能は12倍改善している。 モデル進化 画像が使えるようになった、コンテキストが⼤きい、 精度が著しく向上、o1-preview…etc
33. まとめ
34. © LayerX Inc. 34 LLMはこれからのプロダクトの当たり前要素の⼀つ まとめ スマホの登場はUIやサービス設計に⼤きな影響を与えましたが、LLMもこれから、⾒たこと無いシステム 設計が次々⽣まれてくると思います。 LLMの衝撃 新たな使い⽅ の模索 より柔軟に多様なタスクを実⾏可能なAIの登場。 また、コーディング能⼒等の論理タスクが進化する⼀⽅で、 年々安価になっている。 知識探索や判断、MLの代わりなど様々な⽤途がある。今後モデ ルの進化とともに更に実装パターンが⾒つかると思われる。 ⾃分のプロダクトにとっての新しい価値を考えて実装しよう！！
35. © LayerX Inc. 35 Ai Workforceの開発チームを常に募集中です まとめ 今⽇の発表に゙興味持っていただけた⽅へ、⼀緒にLLM活⽤の最先端にチャレンジしたいソフトウェアエン ジニア、デザイナー、PdM募集してます！
36. 以上