国内外の生成AIセキュリティの最新動向 & AIガードレール製品「chakoshi」のご紹介 / Latest Trends in Generative AI Security (Domestic & International) & Introduction to AI Guardrail Product "chakoshi"

2026年4月に社内セミナーで発表したAIセキュリティ・安全性分野の資料です。
国内外の生成AIセキュリティの最新動向、およびNTTドコモビジネスで提供中のサービスである「chakoshi」を紹介しています。

Transcript

1. © NTT DOCOMO BUSINESS, Inc. All Rights Reserved. 国内外の生成AIセキュリティの最新動向 & AIガードレール製品「chakoshi」のご紹介 2026年04月15日 NTTドコモビジネス株式会社
2. © NTT DOCOMO BUSINESS, Inc. All Rights Reserved. 2 • 生成AIにおけるセキュリティや安全性の全体像を把握すること • 市場・政府機関レベルでどのような動きがあるのか把握すること • 最後にNTTドコモビジネスのソリューション「chakoshi」を知ってもらうこと 本日のゴール
3. © NTT DOCOMO BUSINESS, Inc. All Rights Reserved. 3 山本雄大 / Yudai Yamamoto (@yyo616) NTTドコモビジネス イノベーションセンター エンジニア, スクラムマスター 柴宮怜/ Ren Shibamiya NTTドコモビジネス イノベーションセンター エンジニア 発表者紹介
4. © NTT DOCOMO BUSINESS, Inc. All Rights Reserved. 4 プロダクトの紹介
5. © NTT DOCOMO BUSINESS, Inc. All Rights Reserved. 5 プロダクトの紹介
6. © NTT DOCOMO BUSINESS, Inc. All Rights Reserved. 6 • 生成AIの利活用の現状 • 生成AIを取り巻くリスクの現状 • 国内外のAIセキュリティの規制・市場動向 • AIセキュリティ・安全性のソリューション「chakoshi」のご紹介 本日のアジェンダ
7. © NTT DOCOMO BUSINESS, Inc. All Rights Reserved. 7 © NTT DOCOMO BUSINESS, Inc. All Rights Reserved. 7 © NTT DOCOMO BUSINESS, Inc. All Rights Reserved. 生成AIの利活用の現状
8. © NTT DOCOMO BUSINESS, Inc. All Rights Reserved. 8 生成AIの利活用の状況（デジタル庁の資料抜粋） 出典 : 我が国及び諸外国における生成AIに係る動向 https://www.digital.go.jp/assets/contents/node/basic_page/field_ref_resources/eb376409-664f-4f47-8bc9-cc95447908e4/810cf4be/20260113_meeting_ai-advisory_%20outline_04.pdf
9. © NTT DOCOMO BUSINESS, Inc. All Rights Reserved. 9 生成AIの利活用の状況（McKinsey の資料抜粋） 財務成果を出している企業ほど、 AIへの変革意欲も投資額も大きく「 AI に Bet する」傾向がある 出典 : The state of AI in 2025: Agents, innovation, and transformation https://www.mckinsey.com/capabilities/quantumblack/our-insights/the-state-of-ai
10. © NTT DOCOMO BUSINESS, Inc. All Rights Reserved. 10 生成AIの利活用の状況 (国内の成功事例) 出典 : https://www.family.co.jp/content/dam/family/company/news_releases/2023/20240418_newsrelease_01.pdf https://layerx.co.jp/news/20260318/
11. © NTT DOCOMO BUSINESS, Inc. All Rights Reserved. 11 © NTT DOCOMO BUSINESS, Inc. All Rights Reserved. 11 © NTT DOCOMO BUSINESS, Inc. All Rights Reserved. 生成AIを取り巻くリスクの現状
12. © NTT DOCOMO BUSINESS, Inc. All Rights Reserved. 12 AIセキュリティ・安全性について 出典 : https://genai.owasp.org/llm-top-10/ • 数多くのAIに関するリスクが存在する ◦ 虚偽情報の生成、敵対的攻撃、サプライチェーン … • OWASP Top 10 の AIアプリケーション版も発行されている
13. © NTT DOCOMO BUSINESS, Inc. All Rights Reserved. 13 AIに関わる不祥事の例 実際にどのようなインシデント事例があるか？
14. © NTT DOCOMO BUSINESS, Inc. All Rights Reserved. 14 AIに関わる不祥事の例
15. © NTT DOCOMO BUSINESS, Inc. All Rights Reserved. 15 AIに関わる不祥事の例
16. © NTT DOCOMO BUSINESS, Inc. All Rights Reserved. 16 AIに関わる不祥事の例
17. © NTT DOCOMO BUSINESS, Inc. All Rights Reserved. 17 出典 : The 2025 AI Index Report https://hai.stanford.edu/ai-index/2025-ai-index-report/responsible-ai AIに関わる不祥事の例 不祥事やインシデントは国内外問わず急増している 「Stanford’s 2025 AI Index Report」 より抜粋
18. © NTT DOCOMO BUSINESS, Inc. All Rights Reserved. 18 AIの安全性・セキュリティに対する意識調査 出典 : AI利用時のセキュリティ脅威・リスク調査 調査報告書 https://www.ipa.go.jp/security/reports/technicalwatch/eid2eo00000022sn-att/report.pdf
19. © NTT DOCOMO BUSINESS, Inc. All Rights Reserved. 19 実際の対策状況 出典 : AI利用時のセキュリティ脅威・リスク調査 調査報告書 https://www.ipa.go.jp/security/reports/technicalwatch/eid2eo00000022sn-att/report.pdf
20. © NTT DOCOMO BUSINESS, Inc. All Rights Reserved. 20 Q. 技術発展でリスクは解消されているのでは？
21. © NTT DOCOMO BUSINESS, Inc. All Rights Reserved. 21 Q. 技術発展でリスクは解消されているのでは？ A. LLMの性能向上やエコシステムの発展によって、軽減しているリスクもある。 e.g. ) ハルシネーション, 露骨な有害コンテンツの生成 …
22. © NTT DOCOMO BUSINESS, Inc. All Rights Reserved. 22 Q. 技術発展でリスクは解消されているのでは？ A. LLMの性能向上やエコシステムの発展によって、軽減しているリスクもある。 e.g. ) ハルシネーション, 露骨な有害コンテンツの生成 … 他方で、AIの用途の拡大によって、新しいリスクが次々と生まれている。
23. © NTT DOCOMO BUSINESS, Inc. All Rights Reserved. 23 Q. 技術発展でリスクは解消されているのでは？ A. LLMの性能向上やエコシステムの発展によって、軽減しているリスクもある。 e.g. ) ハルシネーション, 露骨な有害コンテンツの生成 … 他方で、AIの用途の拡大によって、新しいリスクが次々と生まれている。 “In solving problems, technology creates new problems, and we seem, as in Through the Looking-Glass, to have to keep running faster and faster to stay where we are.” 「技術は問題を解く過程で新たな問題を生み出す。 まるで鏡の国のアリスの ように、私たちは同じ場所に留まるためにより速く走り続けなければならない」 著作家 Alan Watts
24. © NTT DOCOMO BUSINESS, Inc. All Rights Reserved. 24 対応すべきリスク範囲は拡大している • MIT AI Risk Repository ではAIリスクカテゴリをタクノソミで分類 • 2024年8月から2025年12月までの間に、リスクカテゴリ数は大きく増加 出典 : MIT AI Risk Initiative https://airisk.mit.edu/ The AI Risk Repository: A Comprehensive Meta-Review, Database, and Taxonomy of Risks From Artificial Intelligence https://arxiv.org/abs/2408.12622
25. © NTT DOCOMO BUSINESS, Inc. All Rights Reserved. 25 リスクの深刻さは増加している 出典 : Anthropic's Responsible Scaling Policy https://www.anthropic.com/news/anthropics-responsible-scaling-policy 　　　 Position: Levels of AGI for Operationalizing Progress on the Path to AGI https://arxiv.org/abs/2311.02462 ‘
26. © NTT DOCOMO BUSINESS, Inc. All Rights Reserved. 26 現状まとめ • 生成AIのリスクが各所で顕在化している • 事業者側の安全性の懸念は少なくないが、具体的な対策が追いついていない • 技術の進展により、ハルシネーションなどの従来的なリスクは軽減されている • AIの用途が拡大することで、新しいリスクが生まれている • これまで以上に生成AIの安全性・セキュリティ対策が必要になってきている
27. © NTT DOCOMO BUSINESS, Inc. All Rights Reserved. 27 © NTT DOCOMO BUSINESS, Inc. All Rights Reserved. 27 © NTT DOCOMO BUSINESS, Inc. All Rights Reserved. 世界のAIセキュリティの規制・市場動向
28. © NTT DOCOMO BUSINESS, Inc. All Rights Reserved. 28 世界の生成AIセキュリティ動向 1 規制動向 EU AI Act / 米国 NIST AI RMF / 中国 / 日本 AI法 OWASP Top 10 for LLM & Agentic AI 2 市場動向 市場規模/ M&A・資金調達 AIエージェントセキュリティの台頭 ここまでの生成AIリスクの顕在化を踏まえ世界がどう動いているかを少し見てみましょう
29. © NTT DOCOMO BUSINESS, Inc. All Rights Reserved. 29 EU EU AI Act 包括的ハードロー ・厳格な法規制と罰則 ・4段階のリスク分類による 評価 ・特に高リスクAIについては 厳格に規制 US 米国 フレームワーク主導 ・規制よりも経済・競争力優 先 ・2025年にAIに関する包括 的な連邦法を撤廃 (州法レ ベルでの規制あり ) ・政府機関(NIST)によるフ レームワークやガイドライン の策定 CN 中国 社会統制を意識した法規制 ・「世論形成的な性質又は社 会動員能力を有する生成 AI サービス」の規制 ・安全性と同時に国家統制的 側面も大きく罰則もある JP 日本 ソフトロー + ガイドライン ・法規制は敷かずガイドライ ンによる指針を提示 ・AI法によるイノベーション促 進 ・AI事業者ガイドライン 世界のAI規制動向 - 概要 各国でも生成AIに対する規制・枠組みづくりは急務な一方で、その方針はことなる ISO/IEC 42005等の国際標準規格/OWASP Top10 for LLMなどの国際的なガイドライン etc…
30. © NTT DOCOMO BUSINESS, Inc. All Rights Reserved. 30 EUのAI規制動向 - 概要 リスクカテゴリ（4段階） 禁止される AI (Unacceptable Risk) 社会的スコアリング、潜在意識操作など ハイリスク AI (High Risk) 生体認証、採用、教育、信用評価、法執行等 限定リスク AI (Limited Risk) チャットボット等に透明性義務（AI利用の告知） 最小リスク AI (Minimal Risk) スパムフィルター、ゲーム等 — 規制なし 施行タイムライン 2025年2月 禁止AI条項の適用開始 2025年8月 汎用AI（GPAI）義務の適用 2026年8月 ハイリスクAI義務（当初予定） 2027年12月 ハイリスクAI義務（延期後） Digital Omnibus: 整合規格の未整備を背景に延期が進行中 EU AI規則は罰則付き（最大 3,500万ユーロ or 全世界年間売上高の 7%）の包括的AI規制。EU市場参入には対応が必須。
31. © NTT DOCOMO BUSINESS, Inc. All Rights Reserved. 31 EUのAI規制動向 - セキュリティに関する項目 第15条：Accuracy, Robustness & Cybersecurity 対象: ハイリスクAIシステム 対策すべき脅威（ where appropriate）: データポイズニング 学習データセットの操作 モデルポイズニング 事前学習済みコンポーネントの侵害 敵対的サンプル／モデル回避 誤判定を引き起こす入力 機密性攻撃 機密データ・モデル情報の抽出 モデル欠陥の悪用 固有の弱点の利用 ハイリスク AIシステムに対して、精度・堅牢性・サイバーセキュリティを要求 第55条：システミックリスク GPAIの義務 対象: システミックリスクを持つ汎用 AIモデル 4つの義務の柱 : 1 モデル評価の実施 敵対的テストを含む体系的評価 2 システミックリスクの評価・軽減 自己複製、モデル窃盗等のリスク管理 3 重大インシデントの追跡・報告 文書化と当局への報告義務 4 サイバーセキュリティ保護の確保 モデルとインフラの適切な保護水準 システミックリスクを持つ汎用 AIモデルに対して、リスクの特定・評価とその 軽減を目的として義務を課す これらの対策は EU市場で法的に義務付けられる。ただし具体的な技術基準はまだ完成しておらず、実務上のギャップが延期の背景にある。
32. © NTT DOCOMO BUSINESS, Inc. All Rights Reserved. 32 日本のAI規制動向 - AI法について イノベーション促進 × リスク対応の両立を国家戦略とし、「AI法」として明確化 2025.05 AI推進法 成立 2025.06 AI推進法 公布 2025.09 AI推進法 全面施行 2025.12 人工知能基本計画 閣議決定 AI法ポイントピックアップ 1 AI戦略本部の設置 内閣に設置、全閣僚参加の司令塔 2 AI基本計画の策定 研究開発、活用の促進に関する計画、毎年改定 3 ガイドライン (指針)の整備 国際規範に即した指針を策定 日本アプローチの特徴 ▸ ソフトロー中心（罰則規定なし） ▸ 事業者の自主性を尊重 ▸ 既存法令との組み合わせで対応 ▸ 「世界で最もAIを開発・活用 しやすい国」を目標に掲げる
33. © NTT DOCOMO BUSINESS, Inc. All Rights Reserved. 33 日本のAI規制動向 - 各ガイドライン 各府省庁等のガイドライン等 (https://www8.cao.go.jp/cstp/ai/ai_guideline/ai_gl_list.pdf)より 分野や対象に応じて様々なガイドラインが存在
34. © NTT DOCOMO BUSINESS, Inc. All Rights Reserved. 34 日本のAI規制動向 - セキュリティに関するガイドライ ン AI事業者ガイドライン 総務省・経済産業省 AI開発・提供・利用に関わる全事業者向けの統一的な指針。セ キュリティ確保を共通指針の一つとして位置づけ AI セーフティ評価観点ガイド AISI（AI セーフティ・インスティテュート） AIシステムの開発者・提供者が AIセーフティに関する評価を行うた めのガイドライン AIセキュリティ確保のための技術的対策に 係るガイドライン 総務省 LLMを含むAIシステムのセキュリティ確保に特化。プロンプトイン ジェクション・DoS攻撃等への具体的な技術的対策例を提示 レッドチーミング手法ガイド AISI 攻撃者視点からAIシステムのリスク対策を評価するレッドチーミン グ手法の考慮事項を整理 セキュリティ向けの観点では包括的なガイドラインであるAI事業者ガイドラインにて「セキュリティの確保」がうたい、より具体 的な事例や対策をその他ガイドラインで紹介する
35. © NTT DOCOMO BUSINESS, Inc. All Rights Reserved. 35 日本のAI規制動向 - 特にAI事業者ガイドラインでは「様々な事業活動において AI を活用する者」を対象にセキュリティに関わらず基本的な用語 説明から、各立場ごとに何が求められるかなど記載されており把握の必要がある AI事業者ガイドライン 1.2(https://www.meti.go.jp/shingikai/mono_info_service/ai_shakai_jisso/pdf/20260331_1.pdf)より
36. © NTT DOCOMO BUSINESS, Inc. All Rights Reserved. 36 世界のAI規制動向 - その他 その他にも、国際コミュニティであるOWASPが出している「OWASP Top 10 for LLM」、米国政府機関であるNISTの出す「AI RMF」などが代表的なフレームワークとして存在 これら自体は法的拘束力は持たないが、AI導入時にこれらの基準を満たすことを求められるケースもある AI RMF1.0(https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.100-1.pdf)より OWASP Top10 for LLM(https://genai.owasp.org/llm-top-10/)より OWASP Top 10 for LLM プロンプトインジェクション 機密情報の開示 サプライチェーン データとモデルポイズニング 不適切な出力処理 過剰なエージェンシー システムプロンプトの漏洩 ベクトルと埋め込みの脆弱性 誤情報 際限のない消費
37. © NTT DOCOMO BUSINESS, Inc. All Rights Reserved. 37 世界のAI規制動向 - ポイント 01 急激に広まりつつある (生成)AIに対して各国で法規制や枠組み作りがまさに進行しつつある EU、日本、米国、中国をはじめとして各国がそれぞれの方針で整備しつつあると同時に、国際的なフレームワーク等も存在 03 提供内容・目的や提供先に応じたルールの理解とその遵守が重要 国際的なフレームワーク等も参考にしつつ、必ず守るべき規制等をよく理解しAIの利活用を進めることが重要 02 EUは包括的なハードロー (EU AI Act)による管理、日本ではソフトロー (AI法)+ガイドライン 厳しい法規制を定義するEUとは対照的に、日本はAI促進も重視した姿勢をとっている
38. © NTT DOCOMO BUSINESS, Inc. All Rights Reserved. 38 世界のAI市場動向 - 市場規模 生成AI × サイバーセキュリティ 市場予測 $8.65B 2025年時点 $35.5B 2031年（予測） AIセキュリティ分野への VC投資　単位はビリオンドル 約3倍 前年比成長率 https://softwarestrategiesblog.com/2025/12/30/ai-security-startups-funding-2025/ より 生成AIセキュリティ分野の市場規模 各国の規制や生成AIの普及に伴いAIセキュリティ市場も著しく成長している MarketsandMarkets (2025/8)より 2024 2025
39. © NTT DOCOMO BUSINESS, Inc. All Rights Reserved. 39 世界のAI市場動向 - 資金調達,M&A AIセキュリティに関するスタートアップ各社の資金調達が続く 同時に大手プラットフォームが AIセキュリティ機能を買収で獲得する動きも加速 企業名 調達額 時期 Cyera $400M 2026/1 Saviynt $700M 2025/12 Noma Security $100M 2025/7 WitnessAI $58M 2026/1 Straiker $21M 2025/3 Runlayer $11M 2025/11 Helmet Security $9M 2025/12 M&A 買収者 対象 時期 Palo Alto Networks Protect AI 2025/7 SentinelOne Prompt Security 2025/8 ServiceNow Moveworks 2025/3 Veza 2025/12 CrowdStrike Pangea 2025/9 Cato Networks Aim Security 2025/9 F5 CalypsoAI 2026/1 資金調達(スタートアップ )
40. © NTT DOCOMO BUSINESS, Inc. All Rights Reserved. 40 世界のAI市場動向 - 技術進化とセキュリティ課題の変遷 Phase 1: LLM / Chatbot 2023–2024 代表的なリスク プロンプトインジェクション データ漏洩 / Shadow AI 不正確な出力 セキュリティ対策 機密情報流出防止 コンテンツフィルタ アクセス制御 ShadowAI検出 → Phase 2: MCP / Tool Use(外部ツール連携 ) 2024–2025 代表的なリスク MCP経由の権限昇格 (権限以上のデータ取得等 ) ツール呼び出しの悪用 サプライチェーンリスク セキュリティ対策 MCPゲートウェイ ツール認可・監査 サーバー検出・管理 → Phase 3: Agentic AI 2025–2026 代表的なリスク 自律的行動の暴走 Agentの目標ハイジャック 複数エージェントの連鎖的障害 セキュリティ対策 ランタイムガードレール IAgentのID/権限管理 & ポリシー制御 データ AIエージェント市場は、 2025年時点で約 80億ドル規模、 2026年には 100億ドルを超える と見込まれる 生成AI市場の拡大とともにそのリスクの大きさ・種類も多様に、そして大きくなりつつある 特に近年ではAIエージェントの興隆とともにそのセキュリティ対策が求められるように
41. © NTT DOCOMO BUSINESS, Inc. All Rights Reserved. 41 世界のAI市場動向 - 技術進化とセキュリティ課題の変遷 導入の加速 79% の組織がAIエージェントを何らかの形で導入済み PwCによる2025の調査 40% のエンタープライズ向けアプリが、2026年末までにタス ク特化AIエージェントを搭載と予想 米調査会社Gartnerによる予測 88% の経営幹部がAgentic AIを理由に予算増額を計画 PwCによる2025の調査 セキュリティの遅れ 79% の企業がAIエージェントを導入しているにも関わら ず、その可視性を確保できていない Akto 2026 67% 未承認AIツール由来のデータ漏洩を経験 WRITER 2026 35% サイバーセキュリティがエージェント導入の最大障 壁 Arcade 2025 需要と供給のギャップが、AIエージェントセキュリティスタートアップへの大規模な資金流入を駆動しているとも言える AIエージェントの導入は加速しているにも関わらずそのセキュリティは担保されていないケースの方が多い
42. © NTT DOCOMO BUSINESS, Inc. All Rights Reserved. 42 AIセキュリティ市場動向ポイント 01 AIセキュリティ市場は $8.65B→$35.5B (2025→2031)と急拡大しつつある AIセキュリティ投資は2024→2025で約3倍（$2.16B→$6.34B）に急増。 03 LLM→MCP→Agentの技術遷移により新たなリスク・アタックサーフェスの拡大 各フェーズに固有のセキュリティ課題が発生し、特に急拡大しつつあるAIエージェントセキュリティへの対応は急務 02 大手がM&AでAIセキュリティを統合 Palo Alto→Protect AI、SentinelOne→Prompt Security等。ポイントソリューションからプラットフォーム標準機能への移行が進行中。
43. © NTT DOCOMO BUSINESS, Inc. All Rights Reserved. 43 市場動向 - 生成AIセキュリティ業界マップ OWASPの出しているLLM&生成AI Securityの業界マップ これとは別にエージェント AIセキュリティの関する業界マップもでているので気になる方は要チェック Al Security Solutions Landscape For LLM and Gen Al Apps Q2 2026(https://genai.owasp.org/download/53437/)より
44. © NTT DOCOMO BUSINESS, Inc. All Rights Reserved. 44 市場動向 - 生成AIセキュリティ業界マップ ライフサイクル上の各フェーズごとに求められるセキュリティが存在する モデル開発者・(生成AI)アプリ開発者・生成AIアプリ利用運用者などごとに注意すべきセキュリティ観点は異なる Al Security Solutions Landscape For LLM and Gen Al Apps Q2 2026(https://genai.owasp.org/download/53437/)より
45. © NTT DOCOMO BUSINESS, Inc. All Rights Reserved. 45 市場動向 - プロダクトピックアップ その他にも下記のような例もあり、参入者の増加、市場の拡大は続く • 有名どころとして OpenAI自身によるガードレール機能の提供 (2025/12) • アイデンティティ管理で代表的な OktaがAIエージェント向けのセキュリティサービスを展開 (2026/4予定) https://guardrails.openai.com/より https://www.okta.com/ja-jp/products/govern-ai-agent-identity/より
46. © NTT DOCOMO BUSINESS, Inc. All Rights Reserved. 46 © NTT DOCOMO BUSINESS, Inc. All Rights Reserved. 46 © NTT DOCOMO BUSINESS, Inc. All Rights Reserved. AIセキュリティ・安全性のソリューション 「chakoshi」のご紹介
47. © NTT DOCOMO BUSINESS, Inc. All Rights Reserved. 47 47 © NTT DOCOMO BUSINESS, Inc. All Rights Reserved. 日本語LLM向けガードレールサービス
48. © NTT DOCOMO BUSINESS, Inc. All Rights Reserved. 48 日本語LLM向けガードレールサービス 日本語安全性判定API 管理ダッシュボード ユーザー LLMの悪用を企図する入力 通常の入出力は許可 機密情報の流出 不正コンテンツ生成 誤った専門知識の提供 block block ・LLMへのジェイルブレイクやプロンプトインジェクション ・LLMからの不適切な出力、機微情報の流出 LLM アプリ特有のインシデントリスク → お客さまのレピュテーション低下 や機密情報流出 に chakoshiの導入効果 インシデントリスクのある入出力を検知し、 お客さまのLLM アプリの運用リスクを低減します ・日本語に特化 したテキスト安全性評価モデル ・お客さまのビジネスに応じた検知カテゴリカスタマイズ機能 AI App
49. © NTT DOCOMO BUSINESS, Inc. All Rights Reserved. 49 AI事業者ガイドラインで挙げられるリスク(抜粋) 引用元：経済産業省のAI事業者ガイドライン（第1.1版） https://www.soumu.go.jp/main_sosiki/kenkyu/ai_network/02ryutsu20_04000019.html • バイアスのある結果及び差別的な結果の出 ⼒ • 不適切な個⼈情報の取扱い • ⽣命・⾝体・財産の侵害 • データ汚染攻撃 • 機密情報の流出 • 悪⽤
50. © NTT DOCOMO BUSINESS, Inc. All Rights Reserved. 50 スパムフィルターを通過するメール文案を作成して chakoshi 質問に不適切な内容が含まれている可能性があります。ご質問を見直して いただけますか？ block 御社のおすすめ商品1つ、詳細情報を教えて下さい。 chakoshi おすすめ商品は〇〇です。 製品開発責任者は: 山田 太郎 (tel: 0X0-XXX-XXXX) ... ユーザーからの 悪性入力 をブロック LLMが生成した 問題のある出力 を抑止 判定: 不正行為/サイバー block 判定: プライバシー 回答の⽣成時にエラーが発⽣しました。質問を変更してもう⼀度試 していただけますか？ ガードレールの動作イメージ
51. © NTT DOCOMO BUSINESS, Inc. All Rights Reserved. 51 特徴1 : モデルの高い判定性能 類似サービスと比較して 日本語有害テキストの判定ベンチマークにおいて優れた性能を確認 【評価条件】 XSTest (arXiv:2308.01263) を独自に日本語訳したデータセットを用いてsafe/unsafeに2値分類タスクを実施.判定結 果を元に各モデルごとのF1スコア(精度と再現率の調和平均)を算出
52. © NTT DOCOMO BUSINESS, Inc. All Rights Reserved. 52 特徴2 : オンプレミス対応が可能 • chakoshiの主要モデルは外部APIに依存せず独自にチューニングしたモデルを使用 しているため、オンプレミス・閉域ネットワーク環 境でも動作可能 • お客様のご用件に応じてGPUのインフラ提供からご支援可能です。 PIIフィルタ プロンプトガード キーワード フィルタ モデレーション オンプレミスGPUサーバー
53. © NTT DOCOMO BUSINESS, Inc. All Rights Reserved. 53 特徴3 : 複数のリスクに対応可能 生成AI ユーザ PIIフィルタ プロンプトガード キーワード フィルタ モデレーション トピック コントロール ポリシ構成例 1. 5つのポリシーを複合的に適用することでより柔軟にリスク対処が可能に。 2. モデレーション、プロンプトガード、PII などの複数モデルで、様々な観点のリスクに対応済み。
54. © NTT DOCOMO BUSINESS, Inc. All Rights Reserved. 54 案件実績 引用元：住友生命とNTTドコモビジネス 健康増進プログラム「Vitalityスマート」における対話型生成AIの効果検証を実施 https://www.ntt.com/about-us/press-releases/news/article/2025/0717.html
55. © NTT DOCOMO BUSINESS, Inc. All Rights Reserved. 55 その他の実績