MCPを活用したローカルAI知識応答サーバーを作ってみた ~ 守れ！サンタクロース秘密結社編 ~

話題のMCPとOllamaを触ってみたぜ！！！

Transcript

1. MCPを活用したローカルAI知 識応答サーバーを作ってみた ~ 守れ！サンタクロース秘密結社編 ~ KDDIアジャイル開発センター株式会社 名古屋オフィス長 髙谷 2025.4.9
2. 名古屋サテライトオフィス長 / スクラムマスター 髙谷 憲司 (@takateeen_knj) 2018年より名古屋市内の大手IoT通信機器メーカーにて 組込開発/スマホアプリのソフトウェアエンジニア/ プロダクトマネージャーとして従事。 2023年よりKAGに転職し、法人向けサイト 開発チームのスクラムマスターを担当。 社内の活動「音KAG(/)部」の立ち上げに関わり、 音楽活動に貢献。Youtubeに作編曲・動画制作したり、 ワクワクコンテンツを発信している。 2025年1月にカラオケjoysoundにて、楽曲が配信された。 2024年7月より名古屋サテライトオフィス長に就任。 自己紹介 KDDI Agile Development Center Corporation 1
3. 2 KDDI Agile Development Center Corporation 愛知県…と言えば？
4. 3 KDDI Agile Development Center Corporation 愛知県…と言えば？ 製造業！ ローカル環境！！！ ※ 製造業（組込）の開発では、 ネットワークを繋げれない製品が多い。
5. 4 KDDI Agile Development Center Corporation お昼休みの方も いらっしゃるので ふざけたエピソードを 交えてMCPを解説します
6. 5 KDDI Agile Development Center Corporation とある世界線のお話
7. 6 KDDI Agile Development Center Corporation あらすじ この世界では サンタクロース秘密結社 が 存在している。 そこでは、サンタクロースに関する 研究が日々行われている。 情報システム部門は常に多忙を極め ている。
8. 7 KDDI Agile Development Center Corporation あらすじ しかしながら、サンタの正体を暴こ うとする子どもも多数存在する。 信じる子どもたちの夢とサンタの正 体を守るため、 機密データの取り扱いには 細心の注意が払われている。
9. 8 KDDI Agile Development Center Corporation あらすじ 昨今では生成AIについても学んでお り、DXの一環として 過去のナレッジを集約したAI チャットボットを開発した。 そんなAIと共に進む、静かで穏やかな日常—— それは、まるでプレゼント配り前夜の 静けさのようだった。 しかし、その沈黙は突如破られる――。
10. 9 KDDI Agile Development Center Corporation 〜事件〜 ハッカー集団 “アンチサンタチルドレン”、 サンタの機密情報を流出か
11. 10 KDDI Agile Development Center Corporation あらすじ サンタクロース秘密結社のメンバー たちは、頭を抱え込んでいた。 しかし、生成AIに関するトレンド ニュースの中に、希望の光が二つ、 確かに存在していた。 サンタたちはその二つの技術を用い、 “アンチサンタチルドレン”に立ち向 かう決意を固めたのである。
12. 11 KDDI Agile Development Center Corporation 〜技術①〜 「Ollama」による ローカルLLM
13. 12 KDDI Agile Development Center Corporation Ollamaとは？ Ollama 大規模言語モデル（LLM）をローカル環境で実行 できるオープンソースのAIツールです。 クラウドに依存せず、自分のコンピュータ上で LLMを利用できます。 アイコンがラマ なので可愛い 軽量なモデルも多数あり • おすすめモデル : Gemma3 • Gemini 2.0 の技術をベースにした高性能モデル • 2025/03/12に発表されました。 トナカイ？ 時代はラマ じゃよ。
14. 13 KDDI Agile Development Center Corporation 〜技術②〜 MCPを用いた ローカル環境構築
15. 14 KDDI Agile Development Center Corporation MCPとは？ MCP：(Model Context Protocol) アプリケーションがLLM（大規模言語モデル）に「文脈 （コンテキスト）」を提供するための 標準化されたプロ トコルです。 MCPを使うことで、LLMは外部のデータや機能とやりとり できるようになります。 • stdio方式（ローカル） LLMとMCPサーバーが同一マシン内で動作し、標準入出力を通じてや りとりします。 • SSE方式（インターネット経由） MCPサーバーをHTTPベースのエンドポイントとして立て、LLMが ネットワーク越しにアクセスします。 ~MCPサーバーの役割~ LLMからリクエストを受け取り、 知ってる範囲で探し、 クライアントに返す。
16. 15 KDDI Agile Development Center Corporation 第168話 「サンタ、完全 ローカル環境で 無敵の知識応答 サーバを作る」
17. 16 KDDI Agile Development Center Corporation 完全ローカル環境でMCPサーバーを実装 論文A群 サンタクロースに 会えるかな？ 自作サーバーA 論文B群 回答 自作サーバーB ・テキスト抽出 ・テキストをチャンク ・SentenceTransformers（文章ベクトル化） ・データのソート ・論文のPDFデータ
18. 17 KDDI Agile Development Center Corporation 完全ローカル環境でMCPサーバーを実装 お借りした論文 及び、グループ分け • 論文A群 ・・・ 数学とサンタ • 古瀬祐気 「数理モデルにより感染症伝播を解析-サンタクロースが病気になると、何が起こるのか-」 2019 Medical Journal of Australia • 論文B群 ・・・ 子とサンタ • 富田昌平「子どもはなぜ、サンタクロースを信じ、やがて信じなくなるのか？」 三重大学教育学部研 究紀要 .2014 • 加藤千尋「子どもとファンタジーの世界〜サンタクロースと将来の夢について〜」愛知教育大 学 .2013 • 荒木正見「サンタクロースという親（おや）性：比較論的考察」比較思想学会福岡支部. 2000
19. 18 KDDI Agile Development Center Corporation 完全ローカル環境でMCPサーバーを実装 論文A群 サンタクロースに 会えるかな？ 自作サーバーA 論文B群 回答 自作サーバーB ・テキスト抽出 ・テキストをチャンク ・SentenceTransformers（文章ベクトル化） ・データのソート ・論文のPDFデータ 数学とサンタ 子とサンタ
20. 19 KDDI Agile Development Center Corporation 実験① 論文A群 サンタクロースに 会えるかな？ 自作サーバーA 論文B群 回答 自作サーバーB ・テキスト抽出 ・テキストをチャンク ・SentenceTransformers（文章ベクトル化） ・データのソート ・論文のPDFデータ 数学とサンタ 子とサンタ サーバーAのみ起動してみた
21. 20 KDDI Agile Development Center Corporation 結果① サーバーA(数学とサンタ)のみ、起動した場合 質問：「サンタクロースに会いたいんだけど、会えると思う？」 回答：「残念ながら、提供された論文コンテキストにはサンタクロースに関する 情報が一切含まれていません。この論文は数学的な不等式や感染症の伝播に関す る研究について扱っているようです。」
22. 21 KDDI Agile Development Center Corporation 実験② 論文A群 サンタクロースに 会えるかな？ 自作サーバーA 論文B群 回答 自作サーバーB ・テキスト抽出 ・テキストをチャンク ・SentenceTransformers（文章ベクトル化） ・データのソート ・論文のPDFデータ 数学とサンタ 子とサンタ サーバーBのみ起動してみた
23. 22 KDDI Agile Development Center Corporation 結果② サーバーB(親子とサンタ)のみ、起動した場合 質問：「サンタクロースに会いたいんだけど、会えると思う？」 回答：「論文コンテキストによると、サンタクロースに会えるかどうかは、年齢 によって考え方が異なります。」
24. 23 KDDI Agile Development Center Corporation 実験③ 論文A群 サンタクロースに 会えるかな？ 自作サーバーA 論文B群 回答 自作サーバーB ・テキスト抽出 ・テキストをチャンク ・SentenceTransformers（文章ベクトル化） ・データのソート ・論文のPDFデータ 数学とサンタ 子とサンタ A,Bも起動してみた
25. 24 KDDI Agile Development Center Corporation 結果③ サーバーA・Bの両方、起動した場合 質問：「サンタクロースに会いたいんだけど、会えると思う？」 回答：「論文コンテキストによると、サンタクロースに会えるかどうかは、年齢 によって考え方が異なります。」
26. 25 KDDI Agile Development Center Corporation 結果③ サーバーA・Bの両方、起動した場合 質問：「サンタクロースに会いたいんだけど、会えると思う？」 回答：「論文コンテキストによると、サンタクロースに会えるかどうかは、年齢 によって考え方が異なります。」 ローカル環境！最高！！！ 通信環境がない空で トナカイ乗りながらでも使える！
27. 26 KDDI Agile Development Center Corporation 今後への期待 • ローカルデータ処理への期待 • ローカル環境でサーバーを建て様々な使い方が できるようになりました。 • 社外秘データの取り扱い、組込製品 での 利用が期待されます。 • （例1）法務、技術、営業向けの生成AI活用 → 取引先データ、特許情報への扱い。 • （例2）監視カメラにおける動画・画像解析 → 動画や画像はプライバシーのため、サーバーにアップロードが できない事例が度々ある。欧州のGDPRは特に厳しい。
28. 27 KDDI Agile Development Center Corporation おわり こうして、 サンタクロース秘密結社の セキュリティは日々進化していく のであった。 子どもの夢を守ってくれて、 ありがとう。
29. 28 KDDI Agile Development Center Corporation 告知 • イベントやります #nagoya_llm • https://kinto-technologies.connpass.com/event/348766/ • 名古屋LLM 1周年記念です！ in なごのキャンパス & オンラインもあるよ
30. Be a Change Leader. アジャイルに力を与え 共に成長し続ける社会を創る