Upgrade to PRO for Only $50/Year—Limited-Time Offer! 🔥

AIを情シスのものにしよう!_クラウドネイティブ_田口 大智

AIを情シスのものにしよう!_クラウドネイティブ_田口 大智

2023年8月23日のジョーシストーークで登壇した際の資料です。YouTubeにも動画が上がっているのでそちらも是非見てください。

<YouTube>
https://youtu.be/fqjtPWuOSJs?si=hRZt6IapHc1O51Y0

More Decks by 田口 大智 / ぐっちー

Other Decks in Technology

Transcript

  1. ⽥⼝ ⼤智 Hirotomo Taguchi Cloud Security Architect 経歴 l 明治⼤学

    - 野球部 l ⽇本マイクロソフト - インターン l コンサルティングファーム - セキュリティコンサルタント l クラウドネイティブ - クラウドセキュリティアーキテクト 所属 l セキュリティ・データガバナンスセクション 得意領域 l セキュリティ規格遵守(ISO27000シリーズ、ISMAP 等) l セキュリティポリシー整備 趣味 l ダンス(Soul/Lock/Waack) ⾃⼰紹介
  2. ⽣成AIの理想と現実 あるべき姿 現状 ü 情シスが”よくわからんけど強⼒そう”な このツールを使いこなす ü おもちゃではなく、⾃社の事業を加速さ せるために使う ü

    確かに流⾏っており、⼀部業界ではかな り利⽤されている(⼀部の開発 等) ü 「事業を加速させる」という点で⾒ると、 まだまだ 理想 現実
  3. 重要情報を取り扱う組織でChatGPTを使うのは茨の道 Web UI API 秘 基本モデル (他者/他社と共通) 秘 ChatGPT(US) BYOD

    秘 秘 機微情報を 投稿してしまう ChatGPT経由で 情報が持ち出されてしまう Web UIの情報が 基本モデルの研究に 利⽤されてしまう BYOD端末等から不正利⽤ 社⽤ 個⼈情報が含まれてい たら第三者提供に該当※ ※参考:ppc.go.jp/files/pdf/generativeAI_notice_leaflet2023.pdf
  4. 【参考】運⽤やCASB(Netskope)でカバーできるのか? オプトアウト(運⽤) アカウント識別(CASB) DLP(CASB) n 学習に利⽤されないように個別で オプトアウト申請を⾏う n 社⽤PCでChatGPTを利⽤する場合 のアカウントを識別する

    n 禁⽌されている⽂⾔が投稿された ら検知する • オプトアウト申請管理が⼤変 • 申請しているアカウント以外 を使われるリスクあり • 会社テナントという概念がな いので管理が超⼤変 • BYODから情報を持ち出され るリスクには対応不可 • DLPで検知するための検知ロ ジックを作るのが⼤変 • 検知ロジックでカバーされな い範囲はすり抜ける オプトアウト アカウント識別 DLP [email protected] [email protected] ! 秘 秘 ⼀部リスクには対策可能だが、全体的に運⽤がしんどい
  5. 現時点での現実解:Azure OpenAI Service 基本モデル (Azure上に構築) 秘 BYOD 秘 アクセス制御& ログ出⼒が可能

    EntraやIntuneと組み合わせると BYODアクセスを⽌められる 基本モデルの研究に 利⽤しない 社⽤ Azure API Management Web UI ChatGPTをブロック
  6. Azure OpenAI Service (Azure) の推しポイント ü基本モデルの学習に利⽤されない üMS社が簡単にデプロイできるテンプレートを⽤意 üAzureの他サービスと簡単に組み合わせて使える ü⽇本リージョンあり üSLAあり

    üサポート窓⼝あり(要サポートプラン) 補⾜:⾚字はOpenAIでは実現できない項⽬ 単なるAIサービスと捉えると他選択肢もあるが、テンプレや便利機能が決め⼿
  7. 精度を上げる⼿法⾊々あるが、情シスにはRAGを推したい Retrieval Augmented Generation 検索 拡張 ⽣成 1 6 3

    4 2 検索しやすい形に変換 5 回答生成 USER 情報ソース ・検索結果をコンテキストとして与えることで回答の精度を向上 ・検索の精度やケースよっては、依然として誤った回答はするので注意 参考:Patterns for Building LLM-based Systems & Products (eugeneyan.com) 注意:わかりやすさを重視して書いています。また、RAGのアーキテクチャや処理の流れはシステムによって異なります。
  8. Azure ML Prompt Flow でRAGを実装する ü AIアプリケーション向 け開発ツール ü RAGを実装するサンプ

    ルコードをそのまま動 かせる ü Pythonのコードを実 ⾏や翻訳APIを叩ける ので、精度を上げるた めの細かい処理が可能 ü Hugging-faceを使っ て、ChatGPT以外の モデルも使える 便利ツールによって開発の難易度がどんどん下がっている!!