業務に組み込む生成AI〜失敗と改善の1年半〜

Transcript

1. 0 PUBLIC 業務に組み込む生成AI 〜失敗と改善の1年半〜 セキュリティ＆データガバナンスセクション クラウドセキュリティアーキテクト 田口 大智(@HirotomoTaguchi)
2. 1 田口 大智 ( X : @hirotomotaguchi) Cloud Security Architect Microsoft MVP for AI 自己紹介 経歴 ⚫ 明治大学：野球部 ⚫ コンサルティング会社：ISO27000（ISMS）、ISMAP 等 現在の仕事 ⚫ 現職： ⚫ セキュリティ系 ⚫ ゼロトラストの概念に基づくIT基盤設計 ⚫ CASB/SWG/EDR/SIEM等の構築運用支援や運用サポート ⚫ AI系 ⚫ AOAI/AI Search の構築支援 趣味 ⚫ ダンス・野球・ゴルフ（初心者）
3. 2 会社概要 社名 株式会社クラウドネイティブ 設立 2017年5月 従業員数 31名 役員 代表取締役 齊藤 愼仁 取締役 磯邉 和彦 取締役 吉田 浩和 取締役 伊藤 歳記 所在地 〒106-0032 東京都港区六本木1-4-5 アークヒルズサウスタワー 16F
4. 3 会社概要 社名 株式会社クラウドネイティブ 設立 2017年5月 従業員数 31名 役員 代表取締役 齊藤 愼仁 取締役 磯邉 和彦 取締役 吉田 浩和 取締役 伊藤 歳記 所在地 〒106-0032 東京都港区六本木1-4-5 アークヒルズサウスタワー 16F
5. 4 成長速度の観点 図1：長篠の戦いイメージ図（DALL·Eで筆者作成）
6. 5 企業専用ChatGPTを入れても会社は何も変わらない(2023年初頭 ・企業専用ChatGPTを導入しても、5-10％のユーザーしか使いこなせない。 ・生成AIが搭載されたSaaSは少しマシだが、大きくは変わらない。 今までの業務 生成AIを使った 業務 メールの 受信 メールの 受信 返信の作成 生成AIを使う と良いと判断 返信を 送信 出力を確認 して編集 プロンプトを 考えてAIに指示 返信を 送信 業務イベントの発生 出力が微妙だったら やり直し プロンプト エンジニアリング 生成AIが適した ユースケースの 理解 生成AIの性質（例：誤りが多い） に関する理解、クリティカルシンキング 創意工夫・知的好奇心 画面 切替 画面 切替 生成AI活用では「プロセスの数」が増える場合があり、さらにそのプロセスに最適化したUI/UXが ないと、ユーザーは楽な方（今までのやり方）を踏襲してしまいます。
7. 6 夢の全社横断検索RAGを入れても会社は変わらない(2023年中盤 次第に廃れてしまい、実用までに大きな崖がある Amazon Kendra AWS Lambda Azure Open AI Data Source (Sample)
8. 7 情シスが生成AIの理想と現実の崖を埋めるアプローチ • 社内向けの教育・啓蒙活動を通じて、ユー ザーがAIを使いこなせるようにする。 • これには、Copilot / Notion AI等の導入 も含む。 • 次ページ以降で解説 ユーザー主体のAI（教育・啓蒙） 業務に組み込むAI 企業専用ChatGPTの導入 どっちも大事だが、業務プロセス主体のAI活用から攻めるのがおすすめ！
9. 8 「業務に組み込む生成AI」とは? 業務プロセスの一部処理を生成AIに代替させ、 自動/半自動的で実行できるようにする こと
10. サポート業務への組み込み 基本的な事例
11. 10 ①. カスタマーサポートAI 代理店業務のカスタマーサポートにおける、チケット起票と同時に 「過去の類似チケット」と「回答の下書き」を自動で表示する様にしました。 URL：https://cloudnative.box.com/s/ucvk5p9fzg0lva5je93a8do6doii4mk0 ▼デモ動画▼
12. 11 ①. カスタマーサポートAI 代理店業務のカスタマーサポートにおける、チケット起票と同時に 「過去の類似チケット」と「回答の下書き」を自動で表示する様にしました。 URL：https://cloudnative.box.com/s/ucvk5p9fzg0lva5je93a8do6doii4mk0 ▼デモ動画▼
13. 12 ①. カスタマーサポートAI 代理店業務のカスタマーサポートにおける、チケット起票と同時に 「過去の類似チケット」と「回答の下書き」を自動で表示する様にしました。 URL：https://cloudnative.box.com/s/ucvk5p9fzg0lva5je93a8do6doii4mk0 ▼デモ動画▼
14. 13 ①. カスタマーサポートAI 代理店業務のカスタマーサポートにおける、チケット起票と同時に 「過去の類似チケット」と「回答の下書き」を自動で表示する様にしました。 URL：https://cloudnative.box.com/s/ucvk5p9fzg0lva5je93a8do6doii4mk0 ▼デモ動画▼ 顧客から の質問 A Iの回答
15. 14 ①. カスタマーサポートAI 代理店業務のカスタマーサポートにおける、チケット起票と同時に 「過去の類似チケット」と「回答の下書き」を自動で表示する様にしました。 URL：https://cloudnative.box.com/s/ucvk5p9fzg0lva5je93a8do6doii4mk0 ▼デモ動画▼
16. 15 振り返り よかった点 ➢ 生成AIに関する学習機会 ➢ 「生成AI活動」という社内活動の市民権を得られた（気がする） ➢ 「研究開発」は側から見て遊んでいるように見えるので肩身が狭い ➢ 最初の（小さな）成果を上げることで市民権を得られたような感覚が得られた（2023年7月 課題 ➢ 入れて終わりとはならない（当たり前） ➢情報を大量に垂れ流しにすると、ユーザーが生成AIの回答を確認しなくなる傾向があり次第 に効果が薄れていきました。 ➢ 改善：ワンクリックでユーザーが欲しい機能を呼び出せるようにした。 ➢ 既存のドキュメントとの統合: Word、Excel、PDF、紙の資料など、従来の形式の情報を扱う 業務への生成AIの適用は困難でした。
17. 16 振り返り よかった点 ➢ 生成AIに関する学習機会 ➢ 「生成AI活動」という社内活動の市民権を得られた（気がする） ➢ 「研究開発」は側から見て遊んでいるように見えるので肩身が狭い ➢ 最初の（小さな）成果を上げることで市民権を得られたような感覚が得られました。 課題 ➢ 完全自動化の弊害 ➢情報を大量に垂れ流しにすると、ユーザーが生成AIの回答を確認しなくなる傾向があり次第 に効果が薄れていきました。 ➢ 改善：ワンクリックでユーザーが欲しい機能を呼び出せるようにした。 ➢ 既存のドキュメントとの統合: Word、Excel、PDF、紙の資料など、従来の形式の情報を扱う 業務への生成AIの適用は困難でした。 顧 客 か ら の 質 問
18. 17 振り返り よかった点 ➢ 生成AIに関する学習機会 ➢ 「生成AI活動」という社内活動の市民権を得られた（気がする） ➢ 「研究開発」は側から見て遊んでいるように見えるので肩身が狭い ➢ 最初の（小さな）成果を上げることで市民権を得られたような感覚が得られた（2023年7月 課題 ➢ 入れて終わりとはならない（当たり前） ➢情報を大量に垂れ流しにすると、ユーザーが生成AIの回答を確認しなくなる傾向があり次第 に効果が薄れていきました。 ➢ 改善：ワンクリックでユーザーが欲しい機能を呼び出せるようにした。 ➢ 既存のドキュメントとの統合: Word、Excel、PDF、紙の資料など、従来の形式の情報を扱う 業務への生成AIの適用は困難でした。
19. 開示請求での利用 少しつっこんだ事例
20. 19 開示請求とは？ 開示請求とは行政機関や企業などが保有する情報の開示を求める手続きです。 注意：開示請求の対応の流れは組織や該当する法令によって異なります。本ページはざっくりとしたイメージです。 職人技 非開示情報を黒塗り 情報公開審査（複数回） 個人情報審査（複数回） 開示の可否を判断 開示請求を受けた組織 職人技 開示請求者 開示する文書 XXXXXXXXX XXXXXXXXX XXXXXXXXX XXXXXXXXX XXXXXXXXX XXXXXXXXX 開示請求 XXXという理由で YYの文書の開示 を求めます。
21. 20 開示請求のつらみ ✓ 個人情報等の特定の機械的にマス キングするわけでない。 ✓ 多くの例外が存在する。 ✓ 法解釈等が多く発生する。 ✓ 通常は10ページほどの分量をチェ ックで、多い場合には数百ページ をチェックしなければならない。 ✓ 人間によるダブルチェック・トリ プルチェックが発生する。 職人技 分量
22. 21 開示請求時に非開示にする情報 開示請求時には全ての情報を出すわけではなく、法令で定められた非開示情報が存在します。 非開示情報 情報の定義 非開示情報の例外 個人に関する情報 特定の個人を識別できる情報、ま たは公表により個人の権利利益を 害するおそれのある情報。 • 法令や慣行で公開が予定されている情報 • 公益のために必要な情報 • 公務員の職務遂行に関連する情報 法人情報 法人や事業を営む個人の事業に関 する情報で、公開することで権利 や競争上の地位を害するおそれの ある情報。 • 人の生命や健康を保護するために必要な情報 • 違法または不当な事業活動により生じる生活上の支障を防ぐため の情報 • 消費者や生活者の保護が必要な場合 法令秘情報 法令や条例によって公開が禁止さ れている情報。具体例として、印 鑑登録原票や地方税に関する秘密 情報など。 • 法令等の規定により開示が必要とされる場合 • 著作権に関する例外 犯罪の予防・捜査等 に関する情報 公開することで犯罪予防や捜査に 支障をきたす可能性がある情報。 • 情報が公開されても、公共の安全や秩序に支障がない場合 • 公益性が個人の権利利益に優先する場合 審議・検討・協議に 関する情報 意見交換や意思決定の中立性を損 なうおそれのある情報。 • 最終決定が下された後の情報 • 公表による利益が明らかに大きい場合 行政運営情報 公表することで監査や取締り、契 約交渉、人事管理などの業務の適 正な遂行に支障を及ぼす情報。 • 監査や取締りが終了し、開示による支障がなくなった場合 • 公表が公益性を持つと判断される場合
23. 22 開示請求業務へのAIの適用（全体像） XXXX 黒塗りリスト  XXXXXXX  XXXXXXX  XXXXXXX  XXXXXXX  XXXXXXX  XXXXXXX  XXXXXXX
24. 23 開示請求業務へのAIの適用（AI処理） OCR結果を3回に分けてAIを実行し、職人の技を再現する！！ XXXX 1. 黒塗りするワードを抽出 2. 黒塗り後の文章を作成 3. 黒塗りの例外を抽出
25. 24 振り返り よかった点 ➢ ノーコードで実現できたため、コーディングが本業ではない情シスでも再現性がある。 ➢ 様々な型式が存在する業務でも生成AIを組み込むことができることを技術的に証明できた。 （実際の効果測定はこれから） ➢ 自治体の黒塗り業務だけではなく、様々な業会における「文書レビュー」に応用できるのでは ないかという着想を経た。 課題 ➢ 実証実験中であり、本格的な導入はこれから ➢ 一歩間違えるとDX（Digital Transformation）の本質とは異なる可能性がある。 ➢ そもそもWordでやる必要があるのか？（開示請求の場合はWordであることが必要） ➢ 汎用性高いので「解くべき課題」を見極めるのが重要
26. 25 まとめ 生成AIは強力な技術ですが、価値を最大限に引き出すためには工夫が必要 業務プロセスへの 組み込む サポート業務が 1丁目1番地 OCRと組み合わせて 書類仕事に適用
27. 26 生成AIの引き出し（軽く宣伝） 製品カット（PaaS） 製品カット（SaaS） ユースケースカット ChatGPT API Amazon Bedrock （Claude） Google Gemini Azure OpenAI* Copilot for M365* Gemini for GWS Box AI* Notion AI* Dashworks Perplexity 引き出しはたくさんあるので、ブース・懇親会でお話しましょう！！ ✓ サポート補助AI ✓ 議事録AI ✓ セキュリティチェックシ ート記入AI ✓ 黒塗りAI（開示請求 ✓ 社内規定AI ✓ 視覚障害者向け読み上げ 音声作成AI ✓ ラベリングAI ✓ AI×OCR