生成AIと法の動向

Crisp Codeでは生成AIを活用したコンサルティングを行っております。

https://crispcode.co.jp

Transcript

1. © Crisp Code inc. Crisp Code inc.　 代表取締役社長　 小谷 爽 生成AIと法の動向 2024.02.01 EO京都 AI勉強会 ※ 一部部外秘の箇所があります。不特定多数に公開されないよう、お願い致します。
2. 情報漏洩を防ぐ生成AIの活用法 生成AIの個人情報の取り扱い 海外のAI規制 生成AIと著作権をめぐる議論 著作権の基本と侵害認定プロセス 自己紹介・Crisp Codeの紹介 目次 © Crisp Code inc. 生成AIと法の動向 2
3. Profile 自己紹介・Crisp Codeの紹介 © Crisp Code inc. 生成AIと法の動向 3
4. 代表紹介 © Crisp Code inc. 生成AIと法の動向 4 代表取締役社長 CEO 小谷 爽 1993.07 京都府京都市にて出生 1995.04 イギリス・ロンドンに4年間移住 2007.06 中学1年生の時、独学でホームページ開設 2012.03 須磨学園高等学校 卒業 2017.04 Crisp Code 創業　 代表就任 2019.03 関西大学 システム理工学部 電気電子情報工学科 卒業 2019.04 ITベンダーに7ヶ月間勤務 2019.04 株式会社Crisp Code 設立 代表取締役社長CEO就任
5. 組織概要 © Crisp Code inc. ここにスライドのタイトルが入ります 5 会社名 株式会社 Crisp Code [クリスプコード] 設立 2019年4月設立 [2017年4月創業] 本社所在地 〒530-0015 大阪府大阪市北区中崎西1-1-6 吉村ビル701 メンバー 22名 (従業員・業務委託含む) 役員 代表取締役社長 CEO　 小谷 爽 事業内容 システム・アプリ開発 デザインテックソリューション ウェブ制作・運用保守 グラフィックデザイン 主要取引銀行 りそな銀行・大阪シティ信用金庫・三井住友銀行・PayPay銀行
6. Exciting the world on “DesignTech”. デザイン × テクノロジーで世界をワクワクさせる Crisp Code - Mission © Crisp Code inc. 生成AIと法の動向 6
7. なぜ デザイン × テクノロジー が重要なのか © Crisp Code inc. 生成AIと法の動向 7 デザインとテクノロジーを掛け合わせることは、単に美しい見た目にすることや最新技術を使うことではありません。デザインとテクノロジーを融合す ることは、ユーザー体験を根本から変革することができる強力な組み合わせなのです。 Design × Technology = サービスのUX向上 使いやすく魅力的なUIデザインを先進的なテクノロジー が支え、顧客に満足度の高い体験を提供できます サービスのブランディング 競争が激しい市場では独自のデザインで差別化を図り、 テクノロジーが実現させブランドの認知力が高まります 持続可能なサービスの提供 顧客ニーズに応え続ける持続可能なサービスのため、 デザインとテクノロジーの両面から解決策を提供します 新たな価値提供 デザイン思考は問題解決に新たな視点をもたらし、 テクノロジーは解決策を具現化することができます
8. サービス概要 © Crisp Code inc. 生成AIと法の動向 8 System / Application システム・アプリ開発 - ASP / Saas受託開発 - iOS / Androidアプリ受託開発 - クラウドソリューション Web / Maintenance ウェブ制作・運用保守 - コーポレートサイト制作 / リニューアル - ECサイト制作 - SEO / MEO対策 - Crisp Code Supportline Graphic Design グラフィックデザイン - フライヤー / パンフレットデザイン - UI / UXデザイン - ロゴマーク / 名刺デザイン - キャラクター / ラベルデザイン Corporate Social Responsibility 社会貢献活動 / CSR - OSAKA WEB SUMMIT 企画 / 主催 - Crisp Code Academy - Crisp Code Bootcamp - 大学講演 DesignTech Solution デザインテックソリューション - 技術顧問 - WEBコンサルティング - UI / UXデザインコンサルティング
9. 主な直接取引企業・団体 © Crisp Code inc. 生成AIと法の動向 9 弊社は大学や上場企業を含む中小企業など、累計150社以上もの企業様と直接お取引させていただいております。 一部のみ掲載、順不同
10. Risks of Generative AI 生成AIとリスクの循環 © Crisp Code inc. 生成AIと法の動向 10
11. 出典記事 © Crisp Code inc. 生成AIと法の動向 11 今回の内容は、以下の記事を参考にしておりますƒ  生成AIと著作権の関係を基本から分かりやすく解説 https://keiyaku-watch.jp/media/gyoukaitopic/generate-ai/ シティライツ法律事務所 / 弁護士　 高橋治 £  AIが生成した文章やイラストの著作権はどうなる？著作権侵害にあたるか、弁護士が解説！ https://www.authense.jp/komon/blog/dx-legaltech/2838/
 Authense法律事務所 / 弁護士　 早川政哉 £  世界初の本格的な｢AI規制法｣がEUで年内成立へ…他国の動向は？ https://www.businessinsider.jp/post-276605 BUSINESS INSIDER Hali Hays 著
12. 出典記事 © Crisp Code inc. 生成AIと法の動向 12 今回の内容は、以下の記事を参考にしております˜  生成AIのリスクを整理する｜３つの観点でリスクと対策を解説 https://www.nri-secure.co.jp/blog/generative-ai-risks NRIセキュア 加瀬 篤   10万件のChatGPTアカウントが闇市場に、どう盗んだのか誰が欲しがるのか https://xtech.nikkei.com/atcl/nxt/column/18/00676/070900138/ 日経クロステック／日経NETWORK 勝村 幸博  
13. リスクの所有 © Crisp Code inc. 生成AIと法の動向 13 生成AIにはさまざまなリスクがあり、3つのカテゴリに分類されます。これらのリスクは相互に関連しているものの、独自の対象を抱えています。 利用者 “ 情報漏† “ 間違った情報の利… “ 権利侵害 “ 犯罪者の生産性を上げm “ 権利侵害されm “ ディープフェイク “ 法令違Š “ 規範違反の学習データ利… “ プロンプトインジェクション 社会 サービス提供者 問題のある出力を 利用してしまう 問題のある出力を してしまう 規制される 規制する 権利を侵害される 権利を侵害してしまう
 (訴えられる)
14. Copyright Infringement and Process 著作権の基本と侵害認定プロセス © Crisp Code inc. 生成AIと法の動向 14
15. 著作権とは © Crisp Code inc. 生成AIと法の動向 15 まずは著作権とは何か、見てみましょう。 著作権は、単なるアイデアやコンセプトを保護するものではなく、創作的な表現としてアウトプットされていなければ 保護の対象にはなりません。 保護のための登録などの手続きを必要とせず、創作と同時に権利が発生します。 著作権とは、人間の の成果に権利として法的保護を与えたもの 創作活動 著作権は、創作と同時に権利が発生する（ ） 無方式主義
16. 著作権侵害の認定プロセス © Crisp Code inc. 生成AIと法の動向 16 著作権侵害の認定には「類似性」と「依拠姓」が必要とされます。 類似性 × 依拠性 ↓ 表現上の本質的な特徴を直接感得 できること ↓ 創作的表現において共通性が見ら れることが必要 ↓ 既存の著作物に接して自らの作品 の中に用いたか ↓ 類似が偶然の一致に過ぎない場合 は依拠性が認められない
17. Generative AI and Copyright 生成AIと著作権をめぐる議論 © Crisp Code inc. 生成AIと法の動向 17
18. 生成AIに関する社会・政府の動向 © Crisp Code inc. 生成AIと法の動向 18 AI開発を後押しする立法的な動きとしては、2018年の改正著作権法が大きく影響しています。 柔軟な権利制限規 w 法30条の4 : 情報解析の用に供する場合等、著作物に表現された思想または感情の享受を目的 としない利用行為は原則として著作権者の許諾なく行える ↓ AIの教師データ(AIが学習に利用するデータ)に著作物を利用することが可能となり、AI技術が急速に発展
19. 文化庁の見解 © Crisp Code inc. 生成AIと法の動向 19 2023年5月15日、内閣府AI戦略チームの第3回会合にて、「AIと著作権の関係等について」と題するスライド資料が提示されました。本資料には、著作 権法を所管する文化庁の基本的な考え方が示されています。 k AI開発・学習段階：法30条の4の権利制限規定が及びう• k 生成・利用段階：従来の著作物侵害の判断における考え方が原則としてそのまま当てはまる ↓ 「法30条の4が情報解析等における著作物の利用を認めている」 = “日本の著作権法はAIに優しい” という話が 独り歩きしているが、 である 「AI開発・学習段階」のことを言っているに過ぎないことを改めて強調した資料 ↓ 生成AIの時代にあっても、「創作」や「著作権侵害」に対する考え方の基本は変わっていない
20. 生成AIの学習データとして著作物は用いられる？ © Crisp Code inc. 生成AIと法の動向 20 著作権者の承諾なく利用できますが、著作権者の利益を不当に害する場合がないか検討が必要となります。 著作権者の利益を不当に害さない限り、AIが学習用データとして著作物を用いることはできる 著作権者の利益を不当に害する例は？ “例えば、大量の情報を容易に情報解析に活用できる形で整理したデータベースの著作物が販売されている場合に、当該 データベースを は、当該データベースの販売に関する市場と衝突するものとして「著作 権者の利益を不当に害することとなる場合」に該当するものと考えられる。 情報解析目的で複製等する行為 [引用元] 文化庁「デジタル化・ネットワーク化の進展に対応した柔軟な権利制限規定に関する基本的な考え方」 (問9、9ページ)
21. 生成AIによる生成物に著作権は発生する？ © Crisp Code inc. 生成AIと法の動向 21 現時点で具体的な方向性を認めるのは難しいようですが… 短い単語からなるプロンプトを入力してAIに出力させただけでは、著作物とは認められない。 プロンプトの長さや表現内容に工夫を加えて、AIによる生成に人が関与した場合は著作物と認めら れる可能性がある。 著作権が認められる場合は？ “ ¨ 創作意図 : 過程において、人の思想や感情を創作的に表現している„ ¨ 創作的寄与 : 創作過程において具体的な表現結果を得ようと人が関与しているか [引用元] 新たな情報財検討委員会報告書－データ・人工知能（AI）の利活用促進による産業競争力強化の基盤となる知財システムの構築に向けて－36頁
22. 画風を学習させた生成AIを用いて生成したものは、著作権侵害？ © Crisp Code inc. 生成AIと法の動向 22 前述の類似性 × 依拠性によって侵害かどうかが判断されます。 画風 = アイデア のみが類似する生成物は、著作権侵害とならない。
 しかし、既存の著作物の本質的な特徴を直接感得でき(類似性)、それに依拠して創作されたもの(依 拠性)であれば著作権侵害となる。 依拠性をどのように認めるかは、諸説ある状況 “ Ð 学習データに生成された画像と似ている著作物が含まれているだけでは依拠性の要件に該当しないとする見³ Ð 学習データに当該著作物が含まれていることをもって依拠性を認める見³ Ð 元の著作物が生成AIにどの程度寄与しているかを分析し、依拠性の要件を満たすか判断すべきという見解 [引 用元] AIが生成した文章や イラスト の著作権はどうなる？著作権侵害にあたるか、弁護士 が解説！ (https://www.authense.jp/komon/blog/dx-legaltech/2838/ )
23. Foreign AI Regulations 海外のAI規制 © Crisp Code inc. 生成AIと法の動向 23
24. 海外のAI規制 © Crisp Code inc. 生成AIと法の動向 24 EUのAI法が2023年に改定され、AIモデルやツールを「高リスク」あるいは更に厳しい「非容認」カテゴリに分類するようになったとのことです。 高リスクカテゴリに属するAI 高リスクカテゴリに属する分野のAIツールは、リリース前に評価 され承認を受ける必要があると定められました。 非容認カテゴリに属する分野のAIツールは、EU圏内での利用を禁止すると 定められました。 非容認カテゴリに属するAI ¿ 生体認º ¿ 教½ ¿ 労務管» ¿ 法体· ¿ 法執行 ¿ リモート生体認証システム : 主に顔認証技& ¿ ソーシャルスコアリング : 資産や個人の特徴に基づいたカテゴライH ¿ 認知行動操作 : 音声コマンドで動作するAI搭載玩具
25. Foreign AI Regulations 生成AIの個人情報の取り扱い © Crisp Code inc. 生成AIと法の動向 25
26. ChatGPTのアカウントが闇サイトで売買されている!? © Crisp Code inc. 生成AIと法の動向 26 2023年5月までに10万1,000件を超えるChatGPTの アカウントが、ダークウェブ上で売買されているの をご存知ですか？これウイルスに感染したパソコン からChatGPTにログインする情報が売買されている のですが、攻撃者はなぜアカウントが売り物になる と考えているのでしょうか。
 攻撃者が得たいのはChatGPTとの会話履歴に含まれ ている機密情報。ChatGPTには機密情報を入れない よう制限していたり、そもそも業務で利用するのを 禁止している会社があると思いますが、実際は機密 情報を入力してしまうユーザーが後を絶たないそう です。 (左図 : ChatGPTに機密情報を入力したユーザーの割 合 [出所：米LayerX])
27. ChatGPTに入力した内容は情報漏洩の危険性がある © Crisp Code inc. 生成AIと法の動向 27 OpenAIの新サービス「ChatGPT Enterprise」は、顧客が入力した企業情報や会話データをAIモデルの学習に使用することはないとしていますが、それ 以外のプラン(無料または有料プラン)ではセキュリティとプライバシーに関する対策は行われているものの、ユーザーを匿名化して学習データに使用され る可能性があるとしています。無料または有料プランで学習されないようにするには、設定 > データ制御 > チャット履歴とトレーニングをOFFにするこ とで防ぐことができますが、ChatGPT Enterpriseほど安全とは言えないことに注意が必要です。
28. ChatGPTもGeminiも学習データは国外に保存される © Crisp Code inc. 生成AIと法の動向 28 ChatGPTやGeminiは海外のサーバを利用しているため、機密情報（個人情報、政府、軍事関連など）を安易に入力することは危険です。海外のサーバに 保存されているデータは海外の法律が適用されるため注意しましょう。
29. How to use AI to Prevent Information Leakage 情報漏洩を防ぐ生成AIの活用法 © Crisp Code inc. 生成AIと法の動向 29
30. 各社がローカル実行できるAIを発表 © Crisp Code inc. 生成AIと法の動向 30 AIを活用したいけれど、情報漏洩が心配という世間の声を反映したのか、各社からローカル(インターネットから切り離したマシン)で実行できるAIが 続々と発表されました。最新の情報や高度な計算はできないものの、パブリックにできないデータを学習させることで自社独自のAIを構築する時代が現 実味を帯びてきました。 NVIDIA社はChat With RTXを発表。独自のコ ンテンツ(ドキュメント、メモ、映像、その他 データ)に接続されたLLMをカスタマイズでき るデモアプリ。135GBもの空き容量が必要。
 https://www.nvidia.com/ja-jp/ai-on-rtx/chat-with-rtx-generative-ai/ Goog leはGemmaを発表。Geminiと 同じ技術 を用いた 軽量 オープンモデル。 事前ト レー ニン グがされていることに より、 PCにインストー ルするとす ぐに 使えることがメリット。
 https:// blog.goog le/techno log y/deve lopers/gemma-open-mode ls/ Meta社はL lama 2を発表。 小型ながら高 性能な モデルで、計算パ ワーやリ ソースが 遥かに 少な くて 済むと 謳っている 。 
 https:// llama.meta.com/ 現 在Gemmaと Llamaは 開発 者向けですが、い ずれAIの 民主化が 進むと 思われます。
31. © Crisp Code inc. 生成AIと法の動向 31