コンテキスト情報を活用し個社最適化されたAI Agentを実現する4つのポイント

山崎 はずむ（株式会社ナレッジワーク / CAIO（Chief AI Officer））
河東 宗祐（株式会社ナレッジワーク / Product Div AIエンジニア）

※AI Engineering Summit Tokyo 2025（2025/12/16）での登壇資料です。
https://ai-engineering-summit-tokyo.findy-tools.io/2025/ttable?m=2025/timetable/c6NrHuC1

＜セッション概要＞
AI Agentを実務に活用し有用な出力を得るためには、個社ごとに必要なコンテキスト情報をデータレイクとして整備し、適切に情報を取得できることが不可欠です。そのためには、①最新データの整備、②インデックス作成等の前処理、③コンテキストに関連する情報の取得、④メモリを含むコンテキストマネジメントが求められます。
本セッションでは、上記の一連の処理について、商談解析処理を行うAI Agentの開発で得られた知見をお話します。前半はプロダクト概要や設計思想を、後半は実装する上での勘所を取り上げます。

Transcript

1. CONFIDENTIAL コンテキスト情報を活用し 個社最適化された AI Agentを 実現する4つのポイント AI Engineering Summit Tokyo 2025 株式会社ナレッジワーク CAIO 山崎はずむ AIエンジニア 河東宗祐
2. © Knowledge Work Inc. 株式会社ナレッジワーク CAIO 山崎 はずむ 講演者プロフィール 株式会社ナレッジワーク AIエンジニア 河東 宗祐 2 東京大学大学院総合文化研究科博士課程満期退学。ニュー ヨーク大学大学院特別研究員。 AI商談記録AI「JamRoll」を提 供するPoeticsの代表取締役に着任。 2025年、ナレッジワーク にPoeticsを売却し、入社。ヨーロッパ最大級のピッチ・コンテ スト、Pitch Your Startup 2018（ルクセンブルク）でアジア企 業として初めて優勝するなど、国際的なピッチ・コンテストで 6 度優勝。書籍『アフター AI』（日経BP）ゲスト解説。 2017年、早稲田大学大学院情報理工学科情報通信学専攻修 士課程修了。大学助手として情報検索・対話システムの研究 に従事。2022年、株式会社 Poetics入社し、対話要約や音声 認識などAI機能を開発。 2025年、株式会社ナレッジワーク入 社。
3. © Knowledge Work Inc. ナレッジワークについて 3 みんなが売れる営業になる セールスイネーブルメント AIなら ナレッジワーク 営業担当の支援をするプロダクト 「ナレッジワーク」を提供しています
4. © Knowledge Work Inc. 4 4 CEO　(Chief Executive Officer） ⿇野 耕司 ex-Link and Motivation 2003年、 慶應義塾大学法学部卒業。 2003年、株 式会社リンクアンドモチベーション入社。 2016年、国 内初の組織改善クラウド「モチベーションクラウド」立 ち上げ。2018年、同社取締役に着任。 2020年4月、 株式会社ナレッジワークを創業。 著書:『THE TEAM 』 (幻冬舎）※10万部突破、『すべての組織 は変えられる』（ PHP研究所） CTO　(Chief Technology Officer） 川中 真耶 ex-Google 2006年、東京大学大学院情報理工学系研究科コン ピュータ科学専攻修士課程修了。日本 IBM東京基礎 研究所では研究者として入社。 2011年、Googleにソ フトウェアエンジニアとして入社。 Chrome browserの 開発に関わった。 2020年4月、株式会社ナレッジワー クを共同創業。「王様達のヴァイキング」（週刊ビッグコ ミックスピリッツ）技術監修。 CSO　(Chief Sales Officer） 古森 茂幹 ex-セールスフォース・ジャパン 1982年、日本ヒューレット・パッカード株式会社に入 社。2009年、同社取締役に就任。 2014年、代表取締 役 副社長執行役員に就任。 2015年、株式会社セー ルスフォース・ドットコム（現・セールスフォース・ジャパ ン）に入社し、副社長に就任。 2024年、同社取締役副 会長に就任。2025年、ナレッジワーク入社。取締役 CSOに就任。 CAIO　(Chief AI Officer） ⼭崎 はずむ ex-Poetics 東京大学大学院総合文化研究科博士課程満期退 学。ニューヨーク大学大学院特別研究員。 AI商談記録 AI「JamRoll」を提供するPoeticsの代表取締役に着 任。2025年、ナレッジワークに Poeticsを売却し、入 社。ヨーロッパ最大級のピッチ・コンテスト、 Pitch Your Startup 2018（ルクセンブルク）でアジア企業として初 めて優勝するなど、国際的なピッチ・コンテストで 6度優 勝。書籍『アフター AI』（日経BP）ゲスト解説。 AIを中心としたテクノロジーの力で 営業という仕事を変革するプロダクトを届けます ナレッジワーク CXOメンバー紹介
5. © Knowledge Work Inc. ナレッジワーク 導入実績（一部の企業様のみご紹介しています） ナレッジワークは、多くの大手企業様に数千名規模でご利用いただいています
6. © Knowledge Work Inc. 6 セールスAIで「ナレッジ」「ワーク」「ラーニング」「ピープル」の 4つの領域を支援することができます ナレッジ領域 営業ナレッジの展開 ラーニング領域 営業向けの学習プログラムの提供 ワーク領域 営業プロセスの推進 ピープル領域 営業スキルの可視化 やるべきことが分かる （MUSTの明確化） できるようになる （CANの最大化） 成果視点 （業務視点） 能力視点 （人材視点） ナレッジ 領域 ワーク 領域 ラーニング 領域 ピープル 領域 セールスAIに必要な4つの領域 AI
7. © Knowledge Work Inc. 7 ナレッジ領域 ワーク領域 ラーニング領域 ピープル領域 ナレッジワークはセールス AIの各領域を連携させて提供できます 資料作成 社内共有 「顧客提案」に向けて 顧客向けの提案書を作成 「商品紹介」「顧客提案」「営業進行」に向けて 営業資料や営業情報をAIを用いて共有・発見 AI営業ロープレ 「商談前」のロープレをAIと実施 社内共有された 営業資料を パワーポイント に連携 セールススキルの ノウハウを元に 学習コースを作成 営業資料を元に 学習コースを作成 社内共有された 営業資料を元に レコメンド 準備した商談を AIが ロープレ ロープレへの AIの フィードバック に基づき、ノウハウや コースをレコメンド ※開発予定 商談の議事録を メモに 連携 セールスAIプロダクトシリーズの位置付けと連携 AI商談推進・社外共有 AI商談記録 「商談前」に商談の資料・ア ジェンダ・メモを支援 「商談後」にAIが商談の 議事録を自動作成・CRM/SFAに自動入力 コース受講 ノウハウ獲得 営業ナレッジを活用した 学習コースの受講 営業担当向けに「商品紹介」「顧客提案」 「営業進行」のセールススキルのノウハウの閲覧 CRM/SFA連携 セールスフォースAppEx ナレッジワークを セールスフォース上で利用
8. © Knowledge Work Inc. M&A 8 商談記録AI JamRollを展開する Poetics社をM&Aしました （Poetics社はナレッジワーク社に吸収合併済み）
9. © Knowledge Work Inc. Poetic社が提供していたプロダクト 9 Poetics社は商談記録 AI JamRollを開発・提供しています Pikes Peak株式会社 ⽥中様
10. © Knowledge Work Inc. Poetics社の強み 10 日本代表としてAWSの 生成AIアクセラレーターに採択 ※グローバルで採択率 2% • 豊橋技術科学大学との共同研究 *が日本音 響学会で優秀賞を受賞 *End-to-endモデルを用いたオーバーラップに頑健な音声認識モデルの評価 • 日本音響学会で論文 *を発表 *擬似ラベルの活用による出現頻度の低い固有表現の音声認識精度の向上 • 音声研究会で研究結果 *を発表 *Speaker DiarizationのFine-tuning:日本語の会話音声における精度の計測と 考察 • 産業応用工学会 国際会議（ ICIAE）で九州 工業大学との共同研究結果 *を発表 *Analysis of Temporal Changes in Prosodic Features of Positive and Negative Emotions in Spontaneous Speech • 日本音響学会で研究結果 *を発表 *感情アノテーション方法の比較と提案 AWS LLM開発⽀援プログラム 論文・研究実績（一部 ) Poetics社はAIについて高く評価されています AI R&Dメンバー AIへの評価 AIに関する研究・論文 ⼭崎はずむ CEO Poeticsの前⾝であるEmpathでは 感情解析AIの海外展開をけん引、 海外のピッチコンテストで10度以 上優勝。国内では⼤⼿企業の⾳声 データ活⽤を⽀援。バックグラウ ンドは⼈⽂学（哲学、⽂学）。東京 ⼤学⼤学院総合⽂化研究科博⼠課程 満期退学。ニューヨーク⼤学⼤特別 招聘研究員。 河東宗祐 AIリード 早稲⽥⼤学⼤学院情報理⼯学科卒業。⼤ 学院にて情報検索‧対話解析などの⾃然 ⾔語処理を専⾨としてトップカンファレ ンスにて発表。卒業後は早稲⽥⼤学情報 理⼯学科助⼿に就任。助⼿任期終了後、 フリーランスのAIエンジニアとして、 コールセンターのテキストマイニング、 ⾳声合成、レシート画像構造化など様々 なプロジェクトを経験。PoeticsのR&D 本部では、LLMなど⾃然⾔語処理と⾳声 認識AIの開発に取り組む。
11. © Knowledge Work Inc. Agenda 目次 • 前提 • プロダクト概要と AI Agent 開発思想 • 営業 AI Agent • コンテキスト活用する個社最適化 AI Agent 開発のポイント • ① データ整備 • ② Index 作成などの前処理 • ③ 関連する情報の取得 • ④ メモリマネジメント • まとめ 11
12. © Knowledge Work Inc. 前提 12
13. © Knowledge Work Inc. 前提: 業務用ソフトウェアの変遷 13 業務用ソフトウェアは AIエージェントにより 再個別化の時代 へ 個別化の時代 オンプレミス 1980～2000年代前半 汎用化の時代 クラウド/SaaS 2000年～2020年代前半 再個別化の時代 AIエージェント 現在 メリット ・自社業務にカスタマイズ デメリット ・保守性、拡張性がない ・個別開発のコストが高い メリット ・拡張性 デメリット ・人がソフトに合わせる メリット ・ソフトが人に合わせる デメリット ・AIのコスト（現状）
14. © Knowledge Work Inc. 前提: SaaSの変化 14 個別化された AIエージェントの構築には業務理解とデータ整備が重要です （Palantirモデルと言われているビジネスの在り方の一部） 個別業務の理解 SaaSからコンサル＋ SaaSへ 個別データの整備 お客様の業務に沿った AIエージェントを作成するには お客様の詳細な業務理解必須 →コンサルティングが重要 （SaaS企業はコンサル＋ SaaSの複合型へ ） お客様の業務に沿った AIエージェントを作成するには お客様の業務のデータが必要 →個別の業務データの整備が必要 (SaaSはデータ供給装置へ ）
15. © Knowledge Work Inc. 前提: SaaSの変化 15 SaaSは人間だけでなく AIエージェントにとって使いやすい ツールへと 進化する必要が急速に高まっています これまでの SaaS これからの SaaS 人間にとって使いやすい （UI大事） 人間とAIエージェントにとって使いやすい （データ整備大事）
16. © Knowledge Work Inc. 前提: SaaSの変化 16 a16zのBig Ideasでもデータ整備、エージェントにとって使いやすいソフトウェアの 再創造が2026年のスタートアップのテーマとしてとりあげられています。 a16zのBig Ideas 2026 混沌としたマルチモーダルデータの整備が スタートアップのチャンスに 人間ではなくエージェントにとって 使いやすいソフトウェアの創造 出典:https://www.a16z.news/p/big-ideas-2026-part-1
17. © Knowledge Work Inc. プロダクト紹介と AI Agent 開発思想 17
18. © Knowledge Work Inc. ナレッジワーク AI商談記録 18 AIによる商談の記録・解析 AIにより商談が記録・解析できます
19. © Knowledge Work Inc. 19 ワーク領域：ナレッジワーク AI商談記録の主な機能 商談記録の様々な機能を網羅的に提供しています 商談内容の分析レポート自動作成 商談の要約に加え、商談後のネクストアクションの提示、商談へ のフィードバックなどをAIが自動作成します 商談の自動文字起こし オンライン（Web会議・IP電話）・オフライン（対面訪問）のあらゆ る商談をAIにより自動で文字起こしできます CRM/SFAの自動入力 商談内容をセールスフォースに自動入力できます ナレッジワーク AI商談推進への連携 商談内容をナレッジワークAI商談推進のミーティングメモに 自動連携できます
20. © Knowledge Work Inc. AI Agent 開発思想 20 Demo （商談記録）
21. © Knowledge Work Inc. AI Agent-Friendlyなデータ整備 21 AIが読み取りやすい形にデータが整備されていることが重要です LLMが利用しやすい Toolの準備 Agentと連携するソフトウェアに AI が使いやすい Toolが 備わっている LLM Friendlyな フォーマット LLMの学習データと同じ データ構造をもたせる （マークダウン） 意味構造を反映した Index 各データを AIが取り出しやすい 形に「索引」をつける ？ ？ 適切なメタ情報の付与 業務理解に基づいた 適切なメタ情報の付与 アクション ナレッジ ？ ？ ？ ？ 営業 フェーズ
22. © Knowledge Work Inc. 階層的コンテクストデータの形成と整理 22 業務理解に基づく営業プロセスやスキルのドキュメントと汎用データとを 階層的に整理していくことが重要です LLM Friendlyな フォーマット 意味構造を反映した Index 適切なメタ情報の付与 営業プロセスやスキルを整理したドキュメント プロダクトデータ 重要 コンテキ スト 汎用 コンテキ スト
23. © Knowledge Work Inc. 営業 AI Agent 具体タスク例 23 AI商談記録 商談の文字起こし AI Agent 営業アドバイス
24. © Knowledge Work Inc. 営業 AI Agent 
 コーディング AI Agent 
 AGENTS.md CLAUDE.md etc. 営業 AI Agent と コーディング AI Agent 比較 コーディングにおいてリポジトリ毎に AGENTS.md や CLAUDE.md を整備しているのと同様に 営業ドメインにおいても 個社毎にドメイン知識を言語化 した方が良い 24 プロジェクトやリポジトリ固有の知識 会社ごとに異なる専門知識・背景知識
25. © Knowledge Work Inc. コンテキスト活用する個社最適化 AI Agent 開発のポイント 25
26. © Knowledge Work Inc. コンテキスト活用する個社最適化 AI Agent 開発のポイント 26 AI Agent 商談の文字起こし 営業アドバイス ツール ファンクション 検索 メモリ （短期） 重要コンテキスト 汎用コンテキスト メモリ （長期）
27. © Knowledge Work Inc. コンテキスト活用する個社最適化 AI Agent 開発のポイント 27 AI Agent 商談の文字起こし 営業アドバイス ツール ファンクション 検索 メモリ （短期） 重要コンテキスト 汎用コンテキスト メモリ （長期） ① ② ④ ③
28. © Knowledge Work Inc. メモリ （短期） ポイント①：データ整備 28 AI Agent 商談の文字起こし 営業アドバイス ツール ファンクション 検索 重要コンテキスト 汎用コンテキスト 重要コンテキストのデータ整備 メモリ （長期） ①
29. © Knowledge Work Inc. 営業アドバイス生成の課題例 1 29 AI Agent 商談Aの文字起こし 営業アドバイス AI Agent 商談Bの文字起こし 営業アドバイス 商談が違えば 注目したい観点も違う 商談のフェーズ毎の注目すべき観点 ↑ 重要コンテキスト = 知識処理の上流過程により寄与する
30. © Knowledge Work Inc. • RaDA: Retrieval-augmented Web Agent Planning with LLMs (ACL Findings 2024) • Webエージェント向けの2段階プランニング手法 • 最初に検索をして、検索結果を元にタスクをサブタスクに分解 検索結果を元にプランニングに利用する研究 30
31. © Knowledge Work Inc. メモリ （短期） ポイント②：インデックス作成などの前処理 31 AI Agent 商談の文字起こし 営業アドバイス ツール ファンクション 検索 重要コンテキスト 汎用コンテキスト メモリ （長期） ② 意味構造を反映した Index
32. © Knowledge Work Inc. 営業アドバイス生成の課題例 2 32 AI Agent 商談Aの文字起こし 営業アドバイス 社内会議Cの文字起こし 雑談 商談Aの打ち合わせ 商談Bの振り返り 別文字起こしと 部分的に関連する しかし、 局所的なデータでは関連性判断が難しく 抽象的な意味ラベルがあると検索が容易
33. © Knowledge Work Inc. • RAPTOR: Recursive Abstractive Processing for Tree-Organized Retrieval (ICLR 2024) • 木構造で階層的な要約を生成し、文書全体を多層的に表現する検索アプ ローチ 階層的なIndexを利用する研究 33
34. © Knowledge Work Inc. メモリ （短期） ポイント③：関連する情報の取得 34 AI Agent 商談の文字起こし 営業アドバイス ツール ファンクション 検索 重要コンテキスト 汎用コンテキスト メモリ （長期） ③ LLM が利用しやすい Tool の準備
35. © Knowledge Work Inc. 「同じ取引先との商談が過去にあれば必ず参照する」 というドメイン知識があった時 • ツール定義１：「商談を検索・参照する」（汎用的） • ツール定義２：「同じ取引先の過去の商談を検索・参照する」（特化的） 上記、ツール定義１に加えてツール定義２も用意するべきかどうか ツール定義の課題 35
36. © Knowledge Work Inc. 汎用的なツール定義 
 +
 ドメイン知識を内包したツール定義 
 汎用的なツール定義のみ 
 ツール定義のトレードオフ 36 少 総ツール定義数 LLM思考 多 通常 簡略化 ドメイン知識を内包したツール定義を利用しつつも、 ツールをフィルタリングできる仕組みも必要
37. © Knowledge Work Inc. • ToolRerank: Adaptive and Hierarchy-Aware Reranking for Tool Retrieval (LREC 2024) • ツール検索手法 • クエリが単一ツールで良いか、複数ツールを必要とするかを判別し、リランキ ングアプローチを切り分ける ツール関連の研究 37
38. © Knowledge Work Inc. メモリ （短期） ポイント④：メモリマネジメント 38 AI Agent 商談の文字起こし 営業アドバイス ツール ファンクション 検索 重要コンテキスト 汎用コンテキスト メモリ （長期） ④ 学ぶ AI Agent
39. © Knowledge Work Inc. 学ぶ AI Agent の実現に向けて： • 個人最適化→次に活用できる情報を抽出して引き継ぎたい • 個社最適化→？ ポイント④：メモリマネジメント 39
40. © Knowledge Work Inc. • Flexibly Utilize Memory for Long-Term Conversation via a Fragment-then-Compose Framework (EMNLP 2025) • 会話履歴を主語-述語-目的語の命題断片に分解し、それらをノードとするグ ラフを構築して記憶する メモリ関連の研究 40
41. © Knowledge Work Inc. • 業務用ソフトウェアは再個別化の時代へ。個別化されたAI Agentの構築には業 務理解とデータ整備が重要 • 専門知識・背景知識といった重要コンテキストをAI Agentの知識処理のより上流 で利用できるよう整備する • 複雑な非構造化データの検索性を向上するために抽象的な意味構造を反映した Indexを構築する • ドメイン知識を内包したツール定義を利用しつつも、ツールをフィルタリングできる 仕組みも必要 まとめ 41
42. © Knowledge Work Inc. 検索エンジニア 
 NLP エンジニア 
 AIエンジニア募集中 42 「ナレッジワーク」における自然言語処理や LLMの性能向上 • ナレッジワーク上の商談データに対するNLP・LLM機能の性能向上 • RAGやFunction Callingを利用したAIエージェントの継続的な改善 • 課題発見のためのデータ分析 • 製品を開発しているエンジニアと協力して機能実装 • AIチームの技術力向上に資するナレッジ整備 「ナレッジワーク」における情報検索や RAGの性能向上 • ナレッジワーク上に格納された営業資料・スクリプト等の検索性向上 • 全文検索エンジン・ベクトル検索エンジンの設計・改善 • 検索・RAGを利用したAIエージェントの継続的な改善 • AIエージェントのログ分析と検索精度改善へのフィードバック • PdM、プロダクトエンジニア、SREチームとの連携による仕様設計 カジュアル面談も受け付けていますのでお気軽にお声がけください
43. © Knowledge Work Inc. ナレッジワークのブースでお待ちしています 43 プロダクトを⽀えるAI機能 自動マスキング カテゴリー自動推薦 資料に自動的にマスキング 資料に付与すべきカテゴリーが AIにより自動で推薦 自動要約・To Do リスト作成 商談の要約に加え、商談後のネクストアクションの提示、商談へ のフィードバックなどをAIが自動作成 自動文字起こし・話者分離 全文文字起こしに加え、話者や発話箇所をAIが予測 音声合成・対話管理 音声合成・音声認識などの技術を用いて AIがいつどんな会話をするかを予測 自動フィードバック 設定した評価項目に合わせてAIが総合評価し ロープレへのフィードバックをAIが自動作成 AIエージェントを⽀えるデータ基盤 フィードバック 顧客名 音声情報 商品名 商談名 BANT+C 発話情報 商談情報（音声情報＋言語情報） MTG参加者 資料情報（画像情報＋言語情報） カテゴリー情報 顧客名 商品名 商談名 スライド情報 キーワード 検索 チャット検索 お気に入り情報 マルチプロダクトの情報を連携して使⽤することによってより顧客により良い体験を提供できる基盤を構築 ナレッジワークの AI機能についてエンジニアが解説しています ぜひ遊びに来てください
45. © Knowledge Work Inc. Appendix 45
46. © Knowledge Work Inc. Autonomous agent 
 The prompt chaining workflow 
 AI Agent 実装いろいろ 46 https://www.anthropic.com/news/building-effective-agents より
47. © Knowledge Work Inc. 広義すぎる Context Engineering 47 “A Survey of Context Engineering for Large Language Models” より
48. © Knowledge Work Inc. 入力の十分性をチェックした情報要求 48
49. © Knowledge Work Inc. 入力の必要性を加味した情報圧縮 49