Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
AI事業者ガイドラインから読み解く、企業が意識すべきAI活用のポイント
Search
Yoshiki Eguchi
July 11, 2024
Technology
0
660
AI事業者ガイドラインから読み解く、企業が意識すべきAI活用のポイント
Classmethod Odyssey (
https://classmethod.jp/m/odyssey/
) 登壇時の資料です。
Yoshiki Eguchi
July 11, 2024
Tweet
Share
More Decks by Yoshiki Eguchi
See All by Yoshiki Eguchi
MCPはもう止まらない。じゃあどう守る? 〜 社内セキュリティ担当者の視点で考える、MCPのセキュリティと社内への展開
yoshikieguchi
0
68
AIサービス利用ガイドライン策定のすすめ
yoshikieguchi
0
1.2k
社内でChatGPTを利用するためのガイドラインを整備した話
yoshikieguchi
1
2.3k
ビジネスライティング講座
yoshikieguchi
2
12k
Splunk Appのつくりかた / How to create Splunk App
yoshikieguchi
0
2.4k
Other Decks in Technology
See All in Technology
Witchcraft for Memory
pocke
1
220
Azure AI Foundryでマルチエージェントワークフロー
seosoft
0
180
実践! AIエージェント導入記
1mono2prod
0
160
PHPでWebブラウザのレンダリングエンジンを実装する
dip_tech
PRO
0
200
AWS アーキテクチャ作図入門/aws-architecture-diagram-101
ma2shita
29
10k
MySQL5.6から8.4へ 戦いの記録
kyoshidaxx
1
180
Postman AI エージェントビルダー最新情報
nagix
0
100
Windows 11 で AWS Documentation MCP Server 接続実践/practical-aws-documentation-mcp-server-connection-on-windows-11
emiki
0
920
米国国防総省のDevSecOpsライフサイクルをAWSのセキュリティサービスとOSSで実現
syoshie
2
1k
Navigation3でViewModelにデータを渡す方法
mikanichinose
0
220
Oracle Audit Vault and Database Firewall 20 概要
oracle4engineer
PRO
3
1.7k
Oracle Cloud Infrastructure:2025年6月度サービス・アップデート
oracle4engineer
PRO
2
230
Featured
See All Featured
Principles of Awesome APIs and How to Build Them.
keavy
126
17k
Dealing with People You Can't Stand - Big Design 2015
cassininazir
367
26k
Build The Right Thing And Hit Your Dates
maggiecrowley
36
2.8k
The World Runs on Bad Software
bkeepers
PRO
69
11k
Art, The Web, and Tiny UX
lynnandtonic
299
21k
GraphQLの誤解/rethinking-graphql
sonatard
71
11k
KATA
mclloyd
29
14k
Large-scale JavaScript Application Architecture
addyosmani
512
110k
Templates, Plugins, & Blocks: Oh My! Creating the theme that thinks of everything
marktimemedia
31
2.4k
Learning to Love Humans: Emotional Interface Design
aarron
273
40k
Responsive Adventures: Dirty Tricks From The Dark Corners of Front-End
smashingmag
252
21k
Automating Front-end Workflow
addyosmani
1370
200k
Transcript
AI事業者ガイドラインから読み解く、 企業が意識すべきAI活⽤のポイント 2024/7/11 情報システムグループ 危機管理室 江⼝佳記
Xへの投稿の際は、 ハッシュタグ #cm_odyssey でお願いいたします。 2 お願い
アジェンダ • AI事業者ガイドラインの概要 • AIサービスの企業での活⽤ • クラスメソッドでの取り組み 3
自己紹介 江口 佳記 クラスメソッド株式会社 危機管理室 室長 CISO 4
昨年、社内向けAIガイドラインを策定 • 社内においてAIサービスを利⽤ する際のガイドライン • 2023年3⽉策定 • ブログでも共有 (右下QRコードからアクセス可能) 5
社内ガイドラインは策定したが • 社内のAI利⽤ガイドラインを策定しても、 「こうした使い⽅はOKか」という相談は尽 きない • 顧客へのAIサービス⾃体の提供、⾃社サー ビスでのAI活⽤、社内での業務利⽤など、AI 活⽤の想定シーンも増えてきている 6
7 よりAIの活⽤を進めたいが、何を許容し 何を懸念するべきか、取り組みについて のリファレンスがほしい
8 DL⽤ページへのリンク: ということで
AI事業者ガイドラインの概要 9
AI事業者ガイドラインとは • 2024年4⽉に総務省‧経産省が第1.0版を公開 • 既存のガイドラインを統合‧アップデート • 企業での利⽤を「開発者」「提供者」「利⽤ 者」の3ケースで考え、それぞれの考慮事項‧ 共通で取り組むべき事項を整理 10
参考:各主体とその役割 11 主体 役割 AI開発者 (AI Developer) AIシステムを開発する事業者 ・AIモデル・アルゴリズムの開発 ・データ収集、前処理
・AIシステムの構築 AI提供者 (AI Provider) AIシステムを組み込んだサービスを提供する事業者 ・AIシステムの検証、他システムとの連携の実装 ・AIシステム・サービスの提供・運用 AI利用者 (AI Business User) 事業活動においてAIシステム/AIサービスを利用する事業者 ・AI提供者が意図する適正な利用 ・AIシステムの運用 ・業務外利用者に対する影響の考慮 ※同じ企業が複数の主体を兼ねる場合もある (提供者かつ利⽤者など)
このガイドラインを読むことの意味 • 国が事業者へどのようにAIを活⽤してほし いのか、の期待がわかる • 原則の考え⽅がわかる • 開発‧提供‧利⽤の各ケースで何を考慮す べきかが網羅的にわかる 12
注意点 • AIサービスの具体的な活⽤⽅法にフォーカ スした資料ではありません • AIサービスの利⽤をどう統制するか、とい うガバナンスの視点が中⼼の資料です 13
NEW!! 7/5に経産省から「コンテンツ制作のためのAI利活⽤ガイ ドブック」がリリースされました • 「コンテンツ制作」にフォーカスしていますが、AI利活⽤の具体例が紹介されたガイドブックです • 同時にリリースされた「 コンテンツ産業における先端的技術活⽤に関する調査 事業報告書」も有⽤な 情報が詰め込まれていてオススメです!
• AI利活⽤の事例を知りたい⽅はぜひ確認してみてください 14
原則の話 15
⼈間中⼼のAI社会原則 16 • 2019年3⽉に国が策定した原則 • AIを活⽤する社会の在り⽅の原則を提⽰し たもの • 次スライドで紹介する3つの価値を理念と して尊重する
基本理念の3つの価値 • ⼈間の尊厳が尊重される社会(Dignity) • 多様な背景を持つ⼈々が多様な幸せを追求 できる社会(Diversity and Inclusion) • 持続可能な社会(Sustainability)
17
噛み砕いて⾔うと • ⼈間の尊厳が尊重される ➢ ⼈間 > AI、あくまでAIは道具 • 多様な背景を持つ⼈々が多様な幸せを追求できる ➢
AIが多様な価値観を妨げない、むしろ発展させ ていくべき • 持続可能 ➢ 環境問題へ配慮する、AIをそのために活⽤する 18
あくまで⼈間が中⼼ AIは⼈間を⽀えるもの 19
取り組みの指針 20
共通指針 • AI開発者、AI提供者、AI利⽤者それぞれが共通 で取り組むべき指針 • 以下のカテゴリで構成されている 21 ⼈間中⼼ 安全性 公平性
プライバシー 保護 セキュリティ確 保 透明性 アカウンタビリ ティ 教育‧ リテラシー 公正競争確保 イノベーション ▪:各主体が連携し、バリューチェーン全体で取り組むべき事項 ▪:社会と連携して取り組むことが期待される事項
⼈間中⼼‧安全性‧公平性 ⼈間中⼼の原則に基づいて、AIが⼈間の尊厳を尊重し、危 害を加えたり不公正な出⼒をしないよう配慮する • 個⼈の⾃律を尊重し、AIに⼈間の意思決定や感情を不当 に操作させない(⼈間中⼼) • 権利侵害が発⽣しないようコントロールする(安全性) • AIに単独で判断させず、適切なタイミングで⼈間の判断
を介在させる(公平性) 22
透明性‧アカウンタビリティ システムの透明性を確保し、ステークホル ダーに対して合理的な範囲で情報を提供する • ログの記録‧保存など、検証可能性の確保(透明性) • 「共通の指針」の対応状況の説明(アカウンタビリティ) 23
教育‧リテラシー 主体内の AI に関わる⼈員に対して、AI の知識‧リテ ラシー‧倫理感など必要な教育を⾏う。社外のステー クホルダーに対しても教育を⾏うことが期待される • AIリテラシーの確保 •
教育‧リスキリング • ステークホルダーへのフォローアップ 24
その他の項⽬ 25 カテゴリ 概要 具体的な項目(抜粋) プライバシー保護 ステークホルダーのプライバシーが尊重・保護され るよう対応を取る ・個人情報保護法にもとづいた対応の 確保
・国際的な個人データ保護の原則およ び基準の参照 セキュリティ確保 不正操作によって AI の振る舞いに意図せぬ変更 又は停止が生じることのないように、セキュリティを 確保する ・AIシステム・サービスに影響するセ キュリティ対策 ・最新動向への留意 公正競争確保 AI をめぐる公正な競争環境の維持に努める - イノベーション 社会全体のイノベーションの促進に貢献する ・オープンイノベーション等の推進 ・相互接続性・運用製への留意 ・適切な情報提供
共通指針のざっくりまとめ • AIの出⼒が不正確‧不公正な出⼒ではないか、適切に⼈ 間が介在して対処する • セキュリティ確保やプライバシー保護に加え、AIシステ ム全体での透明性‧アカウンタビリティを確保する • 各ステークホルダーへAIリテラシーを向上する教育を⾏ う
• AIにより社会やイノベーションに貢献する 26
AI開発者向けの指針 • データ前処理‧学習時 ◦ 適切なデータ利⽤、データに含まれるバイアスへの配慮 • AI開発時 ◦ ⼈間の⽣命‧⾝体‧財産、精神および環境に配慮した開発 ◦
リスクを抑えるガードレールの設置 ◦ 開発時からのセキュリティ対策(セキュリティ‧バイ‧デザイン) etc • AI開発後 ◦ 攻撃⼿法等の最新動向への留意 ◦ ステークホルダーへの情報提供 ◦ 開発関連状況の⽂章化 etc 27
AI提供者向けの指針 • システム実装時 ◦ 適正利⽤に資する提供 ◦ プライバシー保護、セキュリティ対策の仕組みの導⼊ ◦ システムアーキテクチャの⽂書化 •
システム‧サービス提供後 ◦ 適正利⽤の検証、プライバシー侵害への対策 ◦ 脆弱性への対応 ◦ ステークホルダーへの情報提供 ◦ サービス規約等の⽂書化 etc 28
AI利⽤者向けの指針 • 安全を考慮した適正利⽤ • ⼊⼒データ‧プロンプトに含まれるバイアスへの配慮 • 個⼈情報の不適切⼊⼒、プライバシー侵害への対策 • セキュリティ対策の実施 •
ステークホルダーへの情報提供 • AI提供者からの⽂書の保管‧活⽤、サービス規約の遵守 29
アプローチ検討⽤ツール • AI事業者ガイドラインの別添資料として、「具体的なアプローチ検討のための ワークシート」が提供されている(Excel形式) • ワークシートに記⼊することで、指針にどう取り組むかを検討できる ◦ 記載事項がすべて必須なわけではなく、カスタマイズして活⽤することが 前提 30
AIサービスの企業での活⽤ 31
• AIサービスのメリット(便益)を理解する • AIサービスのリスクも把握する • リスクを分析したうえで、AIサービスをど う利⽤するか、ガイドラインの指針を参照 しつつ検討する • AIガバナンスを構築していくことが理想
32
企業活動におけるAIによる便益の例 「AI事業者ガイドライン(第1.0版)別添資料より抜粋(図7) 33
AI利⽤のリスク • 不正確な情報の出⼒ • 機密情報の流出 • 不適切な個⼈情報の取り扱い • フェイクニュース等への悪⽤ etc
34
“リスクを恐れるあまり、「リスクがゼロになるま でAIを活⽤しないこと」⼜は「完全なセーフガー ドを引く」ということを通じて各主体が動くこと ができなくなることも⼀種のリスクである” ※「AI事業者ガイドライン(第1.0版)別添資料より抜粋 35
クラスメソッドでの取り組み 36
AI倫理ポリシーの策定 • 社内AI利⽤ガイドラインの上位⽂書として 策定 • ガイドライン「共通の指針」の各項⽬を意 識し⽂⾯を考案 • コーポレートサイトにて公開済み 37
https://classmethod.jp/ai-policy/ 38
(作成時の草案) 39
リスク分析 利⽤するAIサービスについてリスクアセスメント項⽬を定 義、分析を実施 40
ガイドラインの⾒直し • 標準で利⽤を許容するAIサービスについてのガイドラインを新たに策定 • ⼊⼒データ⾃体の制限より、「避けてほしいこと」を主に記述 • 内容にはAI事業者ガイドラインで触れられている事項を反映 41
アプローチ検討ワークシートの作成 • 現在作業中 • なかなか各項⽬について具体的なアプローチを記述するのは難しい ◦ プライバシーとモニタリングのバランスなど、悩ましい部分もある ◦ 記⼊し終えたら知⾒を共有したい 42
AIガバナンスの構築 • AI倫理ポリシー‧利⽤ガイドラインなど、パー ツは出来ている • 前掲のワークシートが完成すると、AIガバナン スで⽬指すべきゴールが出来てくる想定 • 運⽤しモニタリングするサイクルへの落とし込 みに今後取り組んでいく
43
AI事業者ガイドラインを読んでの⾃分のなかでの変化 • AI事業者ガイドラインに⽬を通すことで、どんなことを原 則として考えるべきか、何を優先して対応すべきかの「基 準」がはっきりした • 社内でAIの運⽤について相談された場合でも、AI事業者ガ イドラインを意識することで判断がしやすくなった ◦ 「AI事業者ガイドラインにはこう書いてある」というと
相⼿も納得しやすい 44
まとめ 45
• 政府による「AI事業者ガイドライン」により、企業がAI に取り組むべき国の期待‧指針が理解できる • ガイドラインは、AIはあくまで⼈間に寄り添う存在であ り、⼈間が適切に介在し活⽤していくべきものであるこ とを⽰している • 企業ではこの指針をもとにAI活⽤を検討し、AI利⽤のポ リシー‧ガバナンスを検討してみるのが良い
46
ご清聴 ありがとうございました! 47
None
None