LLM時代の検索アーキテクチャと技術的意思決定

2026/04/22 Sansan テックリードカンファレンス登壇資料
https://sansan.connpass.com/event/387148/

Transcript

1. © LayerX Inc. LLM時代の検索アーキテクチャと技術的意思決定 2026/04/22 LayerX Ai Workforce事業部 Yusuke Shibui
2. ⾃⼰紹介 shibui yusuke • いろいろ → Stability AI → LayerX（いまここ） • 検索データ, R&Dチームのマネージャー • MLOpsコミュニティ運営 • 最近やりたいこと ⽣成AIの⽣成AI以外のエンジニアリング • Github: @shibuiwilliam • FB: yusuke.shibui • データ検索基盤チームの起ち上げ https://tech.layerx.co.jp/entry/2026/01/20/140000
3. 機械学習を本番システムに組み込む方法を デザインパターンとして整理！ 機械学習を組み込んだ本番システムを 実際にハンズオンで作る！ 【共著】大企業からスタートアップまで、 MLOpsの実践例を集約！ 乞うご期待！ Under development
4. © LayerX Inc. 4 ⼀つの検索エンジンを使い、⼤量のデータの中からほしいものを探す ⼈間の検索 ねこ！
5. © LayerX Inc. 5 LLM時代の検索 LLMを使った検索 LLMのための検索
6. © LayerX Inc. 6 AIエージェントを取り巻くデータ Document Tool/Skill/MCP Skill tool Context/Memory
7. © LayerX Inc. 7 LLM時代の検索と技術的意思決定について話します！ • AIエージェント時代に進化する検索 • ⼈間のための検索CapabilityとAIエージェントのための検索Usability 今⽇話すこと
8. AIエージェント時代に進化する検索
9. © LayerX Inc. 9 LLM/VLMで増えるデータ { "title": "なぜスタートアップなのか", "description": "イノベーションを創出し、⼤きく成⻑するスター トアップは経済成⻑のドライバーとなる存在であることを⽰すス ライド。特に、⽶国経済ではGAFAMのような新興企業が経済成⻑ を牽引していることを強調している。", "graph_overview": { "graph_title": "⽇本（TOPIX）と⽶国（S&P）における直近10年 間の株式市場のパフォーマンスの推移", "x_axis": "年（2010〜2020）", "y_axis": "騰落率（%）", "data_series": [ { "label": "S&P500（GAFAM含む）", "color": "⻘", "trend": "2010年以降、急上昇し約+900%近くまで成⻑。" }, { "label": "S&P500（GAFAM除く）", "color": "⾚", "trend": "緩やかな上昇。約+200〜300%程度の伸び。" }, { "label": "TOPIX", "color": "黒", "trend": "ほぼ横ばいで推移。成⻑率は+100〜200%程度。" } ] }, "graph_meaning": { "main_message": "GAFAMのような新興企業が⽶国経済成⻑を 牽引しており、それらを除くと⽇⽶の株式市場の成⻑差は⼩さい ことを⽰している。", "insight": "スタートアップや新興企業の存在が経済全体の成⻑ に⼤きな影響を与えており、⽇本でも同様にイノベーションを⽣ み出すスタートアップの育成が重要であることを⽰唆している。" } }
10. © LayerX Inc. 10 LLMを駆使したスライド検索 情報抽出 検索 インデックス Query understanding & rewrite
11. © LayerX Inc. 11 AIエージェントのための検索 Tool/Skill/MCP Skill tool Context/Memory 全⽂検索 ベクトル検索 カテゴリ検索 ナレッジグラフ Document
12. © LayerX Inc. 12 検索Requirementの広がり 検索結果がAIエージェントのツールや判断材料として機能する必要がある。 ⼈間のための検索 AIエージェントのための検索 ⼈間向けの「関連性」 AIエージェントのための 構造化された評価可能性と探索可能性 • 満⾜する数件（F1 score） • 新たな発⾒（Serendipity） • 納得感（Explainability） • 短い単語単位のクエリ • 直感的なUI • A/Bテストによる評価 構造化された評価可能性 • AIエージェントが正しく判断する⽬的 • 判断材料とセットで提⽰ • 信頼度と評価基準 探索可能性 • 反復的な探索と再検索 • 関連リンクの構造化 • ⾃⼰反省のためのフィードバックループ
13. © LayerX Inc. 13 検索は単⼀の技術選定だけでなく、AIエージェントのためのソフトウェアアーキテクチャ設計 検索Capabilityの広がり Full of Capabilities Data variety Search methods Search for Agents PDF Image Audio Structured data Keyword Vector Hybrid RAG GraphRAG AgenticRAG Context Search Tool/Skill Search RAG MCP AIエージェント時代の検索は ソフトウェアアーキテクチャ設計 • Tool/MCP/Skill/⼿続きメモリ検 索によるAIエージェントの拡張 • 異なる検索要件をカバーする Capability • AIエージェントのための検索は データ層とメタプログラミング Web Tool
14. ⼈間のための検索Capabilityと AIエージェントのための検索Usability
15. © LayerX Inc. 15 ⼈間のための検索とAIエージェントのための検索 情報検索の構造が異なる：⼈間は認知に制約があるが、AIエージェントはほぼ無制限 ⼈間 AIエージェント 1. 反復コスト 2. 結果処理の並列性 3. ⾃⼰反省 4. コンテキスト統合 5. 成功の基準 ⾼コスト クエリ考え直し、再読 逐次処理 上から順にランキング 脳内思考 脳内で整理 情報漏れや偏り 満⾜化 「⼗分に良い」 低コスト APIコール、数⼗〜数百クエリ 並列処理 全結果⼀括取得、ランキング不要 出⼒思考 コンテキストウィンドウ 構造的、チェーン検索 最適化 継続して深堀ることが可能
16. © LayerX Inc. 16 ⼈間のための検索は⼀つに絞る 選択肢は少ないほうがわかりやすいし、順番に並んでいるほうが読まれやすい Full of Capabilities Data variety Search methods Search for Agents PDF Image Audio Structured data Keyword Vector Hybrid RAG GraphRAG AgenticRAG Context Search Tool/Skill Search RAG MCP Web Tool
17. © LayerX Inc. 17 ⼀つに絞るために開発と試⾏コストを下げる R&D実践例：AIエージェントを⽤いた検索スキーマの⾃動⽣成 分析 スキーマ ⽣成 LLM as a Judge プロンプト ツール⽣成 情報抽出 スキーマ 検索データ
18. © LayerX Inc. 18 AIエージェントは思考と検索を繰り返しながら情報を深堀っていく AIエージェントにおける検索は評価、反復、探索、反省 Skill tool
19. © LayerX Inc. 19 AIエージェントのための検索設計プラクティス AIエージェントのための検索体験設計 1. 結果にメタデータと評価を付与 2. ファセットとフィルタを⾃律探索 3. 検索結果の理由を提供 4. 構造的なクエリ拡張と提案 5. バッチ‧並列‧反復検索 6. Tool/Skill/MCP/⼿続きメモリ API Relevanceスコア ソースの信頼性 結果のカテゴリ分類 情報の鮮度 カバレッジ 段階的詳細化のためメタデータでトリアージ API Response ⾔語: JP 更新⽇: 1yr ソースタイプ ドキュメント ブログ 論⽂ 30 70 40 20 40 検索空間のメタ情報を提供し、⾃律的に探索 ‧マッチした語句 ‧ベクトル類似度 ‧フィルタ条件 ‧ブースト要因 ‧検索ロジック AIエージェントが検索戦略を再考し修正 同義語展開の候補 クエリ分解の提案 スペル修正候補 上位下位概念候補 Agenticな構造的候補提案で検索を拡張 Batch API 製品A 製品B 製品C 製品C詳細 Skill tool 検索はAIエージェントの拡張強化
20. © LayerX Inc. 20 LLM時代の検索に向けたアクション ⼈間のための検索 AIエージェントのための検索 Capabilityの中から⼀つを選び、洗練させる 選択肢と評価材料を構造的に提供し、 AIエージェントが⾃律的に探索する 検索は ツール 技術選定と 改善 検索は 判断材料と 拡張 構造化と 評価可能性 • ⼈間のための検索とAIエージェントのための検索を分けてデザインする • 組織内の検索Capabilityを広げ、⼈間には1つ、AIエージェントには選択肢を与える • ⾃動化可能なフィールドを広く考える
21. LLM時代の検索アーキテクチャと 技術的意思決定 ありがとうございました！
22. © LayerX Inc. 22 We are hiring! AI検索エンジニア AIシニアデータエンジニア https://open.talentio.com/r/1/c/layerx/pages/109629 https://open.talentio.com/r/1/c/layerx/pages/107758