「AI倫理」以前_近藤憲児

Transcript

1. 「AI倫理」 
 以前
 近藤憲児
2. 近藤憲児(こんどうけんじ)
 • 株式会社スタディスト AI 開発リード
 • その他、生成 AI の導入・活用支援
 • Udemy 講師
 • 生成 AI に関するご相談を
 お待ちしております！！
 自己紹介

3. 今日のテーマ 
 「AI に期待する役割」 の変容の事例共有と考察 「AI倫理」に少しだけ親しみを持つ
4. ケース1: AI 翻訳 
 https://note.com/reiya_tachihara/n/n7fabafac5fc5?sub_rt=share_b
5. ケース1: AI 翻訳 
 AI 翻訳に 中立性を期待
6. ケース2: 病院でのあるプロジェクト 
 • 数年に一度、政府から病院に対して、ある調査を依頼される • その調査は大変コストがかかる (数ヶ月単位のプロジェクト ) • 調査は複数の部署で分担して 行われる • 調査結果は政府に報告しなければならない • その調査に間違いがあった場合には、追徴金が数億円 になること もある
7. ケース2: 病院でのあるプロジェクト 
 とにかく調査が辛い 。追徴金の額がでかすぎ て、みんなピリピリしている。 調査過程が複雑すぎて、スタッフの ”勘” に頼 る場面もある 。 もしも追徴金を払わねばならないとなったとき に、構造上、間違った部署が責められることに なり辛い。
8. ケース2: 病院でのあるプロジェクト 
 いっそ、 AI が代わりに確認してくれたほうがいい 人間がやってもテキトーな部分があるから、 AI が出した結果のほうがむしろ信頼できる AI ですら間違うものがあるなら、それはそれで仕 方ないと、各部署も納得感がある (生成 AI という 話を踏まえて) AI がスケープゴートになれてしまう
9. ケース3: YouTuber 
 https://www.youtube.com/shorts/VFwe_JeGWlk https://x.com/charlow_illust/status/1802977468606812267
10. ケース3: YouTuber 

11. ケース3: YouTuber 
 「ChatGPT がこう言ってる」 が説得力を帯びている
12. いずれのケースも 
 「AI は中立・公平性 や正確性を持つ」
 という期待や信頼 が世の中で醸成されつつある ことを示唆している
 
 • 「AI 翻訳ならば信頼できる」
 • 「AI ならば、追徴金数億円というというところに、左右されず正確に仕事をし てくれるはず」
 • 「AI ならば論争の的となることに左右されず、正確なことを言ってくれるはず」
 観察

13. AGI の訪れ 
 これから AI はさらに賢くなっていく 
 AI ができることが増えていく 。
 それに伴い、このトレンドの延長線上になにが見える？
 AI の 権威性 がより強くなるんじゃないか
 (先ほどの病院・YouTuberの例の延長)

14. 「権威からの論証」という誤謬 
 例: 「アインシュタインは、神はサイコロを振らないという言葉で量子力学を否定した。 故に、量子力学は間違いである」
 → この推論は正しくない。アインシュタインの権威性は、量子力学の科学的正し さには影響しない。
 「権威からの論証 」とは以下のような誤った推論 のこと • 〇〇(権威のある人物) が XXX という主張をしていた • → したがって、XXX は真である
15. 「権威からの論証」という誤謬 
 「権威からの論証」は推論のプロセスとしては誤りだが、一方で、日常生活でこれ が生じてしまうことは仕方がない 
 
 医学や法律 など、自分が詳しく知らない分野に対してはその主張の正しさを評価 できないため、やむを得ず「権威からの論証」で意思決定をしている 
 
 • 「お医者さんがこう言ってるんだから...」
 • 「弁護士の方がこう言ってるんだから...」
 • 「AI がこう言ってるんだから...」 

16. 「権威からの論証」という誤謬 
 「権威からの論証」は推論のプロセスとしては誤りだが、日常生活でこれが生じて しまうことは仕方がない 
 
 医学や法律 など、自分が詳しく知らない分野に対してはその主張の正しさを評価 できないため、やむを得ず「権威からの論証」で意思決定をしている 
 
 • 「お医者さんがこう言ってるんだから...」
 • 「弁護士の方がこう言ってるんだから...」
 • 「AI がこう言ってるんだから...」 
 AI の発展により AI の発言が単に説得力を持つ というだけではなく、 人間の重要な意思決定の場面 でも AI の発言が尊重されていくんじゃないか
17. このトレンドが進むとどうなりそう？ 
 AI が
 • スポーツの審判をする
 • 業務・残業を指示する
 • 裁判官となって判決を下す
 • 入試/採用試験の採点を行う
 • 医療診断をする
 • 融資審査をする
 • 政府の政策立案をする
 • 学術論文の査読をする
 • 企業の人事評価をする
 • 芸術コンクールの審査をする
 • 刑務所の仮釈放審査をする
 • 災害時の資源配分をする 
 • …
 例えば「災害時の資源配分」を AI に委ね るのは ”今は” 抵抗があるかもしれない が、いずれみんながこれを受け入れるよう になるんじゃないか...
18. もちろん、リスクはある 
 Hallucination(幻覚) はまだある
 https://toyokeizai.net/articles/-/681523?display=b
19. もちろん、リスクはある 
 差別もする
 https://gigazine.net/news/20220627-ai-robot-racist-sexist/
20. 「AI 倫理」 
 こうした話題に
 「AI倫理」
 というキーワードで
 真正面から取り組む向きがある

21. 「AI 倫理」 
 https://www8.cao.go.jp/cstp/ai/ningen/r4_1kai/siryo1.pdf G7・G20で AI倫理に関する原則やガイドラインを提唱

22. 「AI 倫理」 
 https://www.microsoft.com/ja-jp/ai/responsible-ai クラウドベンダー各社の「責任ある AI 」
 https://aws.amazon.com/jp/machine-learning/responsible-ai/
23. 最後に: 作る側と使う側の責任 
 AIを作る側・提供する側 の責任:
 • 透明性の確保 : AIシステムの仕組みと限 界を明らかにする
 • バイアスの最小化 : 学習データと判断プ ロセスの公平性を追求
 • 安全性の担保 : AIシステムの誤用や悪用 を防ぐ対策を講じる
 • 説明責任の履行 : AIの判断根拠を説明 できるようにする
 • 継続的な改善 : 社会の変化に応じてシス テムを更新する
 AIを使う側の責任:
 • 批判的思考の維持 : AIの判断を鵜呑み にせず、検証する姿勢
 • AIリテラシーの向上 : AIの特性と限界を 理解する努力
 • 適切な利用範囲の理解 : AIを使うべき場 面と人間が判断すべき場面の区別
 • フィードバックの提供 : AIシステムの問題 点や改善点を報告
 • 人間の判断の重要性認識 : 倫理的判断 や創造性における人間の役割を認識