CSS2025_AWS2_Ethical_Design

コンピュータセキュリティシンポジウム(CSS)2025
4E3: AWS企画セッション2「人とAIの協働・共生に向けた未来社会デザインと法律」
のパネルディスカッションにて発表した資料です。

Transcript

1. プライバシー研究者・実務者としての学際領域の歩み、 エシカルデザインとの出会い 坂本 一仁 1 コンピュータセキュリティシンポジウム(CSS)2025 4E3: AWS企画セッション2「人とAIの協働・共生に向けた未来社会デザインと法律」
2. 自己紹介 2 2014〜 オンラインプライバシーの研究 Cookieを利用したトラッキングの調査 オプトアウト時の挙動調査 2009/04〜 情報セキュリティの研究 クライアントサイドセキュリティ 民間の研究所 2015 個人情報保護法改正 GDPR施行 2021〜 ダークパターンの調査 同意画面のダークパターン調査 デジタルウェルビーイングに関する 勉強会開催 2020〜 プロダクトマネジメント 同意管理ツールの提供 (株)フェアビルド / 静岡大学 2024〜 起業・独立 エシカルデザイン領域に 注力し活動 (株)DataSign 某庁 2009 2018 2020 2021 2014 2024
3. オンラインプライバシー 3 インターネットに常時接続された環境で発生するプライバシーの課題 不透明な データ収集 ダークパターン これらの課題を解決するためには学際領域にならざるを得ない
4. 2014年〜2019年（研究活動中心） • Cookieを利用したオンライントラッキングの調査等の開始 • セキュリティ心理学とトラスト(SPT)研究会専門・運営委員等 • プライバシーワークショップ(PWS)参加 4 課題解決のための学際的研究・事業活動の歩み 2020年〜2024年（事業開発中心） 2024年〜 （プライバシーガバナンス / エシカルデザイン） • 同意管理ツール(SaaS事業)の立ち上げ、プロダクトマネジメント • プライバシー規制対応製品の事業開発等 • 行政機関でのプライバシーガバナンスの推進 • デザインによってエシカルなプロダクト・サービスを生み出す組織構築の支援 研究的アプローチから ビジネスアプローチへ ビジネスアプローチから 公共・倫理的アプローチへ
5. 学際的研究・事業活動で 獲得した視座① 人間は非合理な行動をする 人間は複雑系の中で生きている 5
6. システム1 ✓ 無意識的、直感的に速い判断 ✓ 知的努力はほぼ不要 ✓ 容易に認知バイアスにかかる ✓ スムーズに進むと心地よさを感じる ✓ 頻度が多いと親しみを感じる 6 行動経済学における二重過程理論 (Dual process theory) システム2 ✓ 意識的、論理的に遅い判断 ✓ 知的努力が必要 ✓ 懐疑的に比較検討する ✓ 負荷が多すぎるとサボる ✓ 仕事量に個人差がある 判断の支援を求める 状況を監視 ウェブ、アプリ操作はこちら側 同意などの判断はこちら側ですべき ダークパターン では悪用 人間は非合理な行動をする
7. 7 行動経済学における人間の二面性（エコンとヒューマン） エコン (ホモエコノミクス /合理的経済人) ヒューマン (限定された合理性) 技術者はヒューマンをエコンに 近づけるアプローチ（教育等） に頼りがちだが、限界がある ✓ 情報を完全に把握し注意力・計算力がある ✓ 一貫・安定した選好をする ✓ 完璧に自己制御、先延ばししない ✓ 参照点に依存しない ✓ 学習が常に有効 ✓ 注意力・時間が有限、経験則に頼る ✓ 文脈・フレーミングで選好が変わる ✓ 「今」に弱く、先延ばしする ✓ 損失回避・現状維持バイアスが働く ✓ 学習は不完全、習慣・設計に左右される 実際にはヒューマンの特性に合わせた 設計やナッジを併用する必要がある 人間は非合理な行動をする
8. 閉じたシステム 8 人間は複雑系の中で生きている はじめから 複雑系にいる 怠け者のヒューマン を想定するか 複雑系 (開いたシステム群) 外に出してみて 問題点を改善 していくか
9. 学際的研究・事業活動で 獲得した視座② 未来を想像し、 ステークホルダーを巻き込み、 課題を発見する 9
10. 10 デザイン・フューチャリング (未来洞察デザイン) 望ましい未来を想像し、 どのような戦略を取れるか。 デザイン・フューチャリング―未来 を探り、変化に導く思考ツール グロース，ベネディクト/マンディ ア，アイリーン【著】/百合田 香織 【訳】/水野 大二郎【序文】
11. 11 CoDaプロジェクト (参加型デザインの取り組み事例) 「使う人」と「作る人」の両方が参加 し、パーソナルデータの活用を考える Co-Design (共創) の取り組み。 ※ CoDaの発表資料から引用 https://coda-pj.org/
12. 学際的研究・事業活動で 獲得した視座③ AI時代、 サービス・プロダクトの差別化は ますます困難になる エシカルな営みが価値を持つ時代 へ 12
13. エシカルデザインについて 13 エシカルデザイン デジタルプロダクツの エシカルデザイン マテリアルプロダクツの エシカルデザイン こちら側 デジタルウェルビーイング向上 データ倫理 • プライバシー・バイ・デザイン デザイン倫理 • 非ダークパターン サーキュラーエコノミー ・・・
14. なぜエシカルデザインなのか デジタルエシックスで日本の変革を加速せよ (2024年, 今岡 他) 14 技術によって、消費者を操作することはできるかもしれません。でも、できるからといってやるべき なのだろうか？子どもや若者をスクリーン中毒にすることが技術的に可能だからといって、それをやっ てもいいのか？テクノロジーを制限する法律はないからといって、我々はやるべきなのだろうか？そこ で出てくるのが、エシックスです。たとえできるとしても、やらない、ということです。 (中略) 社会におけるビジネスの役割も変わりつつあります。企業の役割とは利益を上げることですが、それ がますます問われるようになっています。 (中略) どれだけきれいな水を人々に提供したか、どれだけ倫理的なデザインを学校に導入したか、どれだけ の学びをもたらしたのか。そんなふうに、財務報告と社会的インパクトのバランスを取ることが、すで に世界で起き始めています。今後30年では、ますます増えるでしょう。 まずは社会に価値をもたらし、その上で利益を得る。その逆ではありません。こうしたことに無関心 である企業は、新たな市場を開拓したり、優秀な人材を採用することがますます難しくなるでしょう。 そんな組織では、誰も働こうとしないからです。 あなたの企業が長く存続してきて、それと同じくらい ビジネスにとどまりたいと考えるのであれば、これは重大な問題です。ビジネスの最前線を走り続けた いなら、いち早くこの変化に対応しなくてはいけません。 エシカルデザインについて クリスチャン・ベンソンさんのコラムから抜粋
15. たとえできるとしても、やらない 15 その姿勢・行動の価値を、どのように最大化できるか？ どのように実現できるか？
16. 16 どのように倫理的なサービス・プロダクトをデザインするのか、その実践手法を学ぶ勉強会を開催中。 どのように実現できるか？ → エシカルデザイン勉強会 https://ethicaldesign.connpass.com/event/362440/ たとえできるとしても、やらない
17. 17 短期的な成長から長期的な成長への価値移行... その姿勢・行動の価値を、どのように最大化できるか？ たとえできるとしても、やらない どう実現できるかは模索中...