kintone + ローカルLLM = ?

● 社内でも、業務用にLLMを使わせてみたい。
● 全員に使ってもらいたい。
とはいえ……。

フロントエンドにkintoneを使い、ローカルに置いたLLMサーバを呼び出す。
👉 これだけで解決できちゃうのでは？

Transcript

1. kintone + ローカルLLM = ? 2026.1.30 kNN#31 RUSHTECH / 伊藤明裕
2. 自己紹介 ・20代 アセンブラでの開発や汎用機の運用。 ・30代 システム開発プロセス、オブジェクト指向分析／設計／プ ログラミング。 ・40代 マルチメディア、webサービス構築、システム管理、情報 セキュリティ。 ・50代 DX（クラウド活用）、IoT、AI（機械／深層学習）。 ・60代 フィジカルAI。
3. たぶん、こんな悩みがある会社も多いはず。 • 社内でも、業務用にLLMを使わせてみたい。 • 全員に使ってもらいたい。 とはいえ、 • 無料版は情報漏洩の心配があるし、最初から全員にライセンスを配る？ • 社内の情報リテラシーが高くないから自由に使わせるのはちょっと心配。 • ルール整備するにも時間がかかるし、守ってもらえる保証もないし。 • 使い方の教育、プロンプトの書き方の教育などに、あまりコストをかけられないし、や る人もいない。
4. 手軽な対応策の一案として。 フロントエンドにkintoneを使い、ローカルに置いたLLMサーバを呼び出す。 👉 これだけで解決できちゃうのでは？
5. システム構成 kintone システムプロンプト ユーザープロンプト cloudflare Jetson LLM Qwen2.5-14B など kintoneアカウント費 だけ 無料 Jetson Orin Nano: 50k円 (8GB) Jetson AGX Orin: 400k円 (64GB) Jetson AGX Thor: 600k円 (128GB)
7. 実際の応答速度。 • Latency : 127ms (TTFT : Time to First Token) • Readability : 13.59 tokens / seconds
8. 意外と使える。 • 十分速い。（同時に複数人が使うと速度は落ちる） • kintoneを使うメリット ◦ 誰がどれくらい、どう使っているかがわかる。 ◦ どう聞いたらどんな答えがもらえるか、参考にできる。 ◦ 使い方の上手な人のプロンプトを見られる。 👈これが最大のメリット。 • ローカルLLMを使うメリット ◦ どれだけ使っても電気代だけ。 ◦ モデルをいろいろ試せる。 ◦ 情報を意図せず外に漏らしてしまう心配がない。 ただし、モデルの精度が低くハルシネーションも多いので、「あんまり使えない」という印象 を与えかねない。あくまでもとっかかりとして使ってもらう。 ▪ 今までの登壇資料： https://speakerdeck.com/akit37