大学業務における生成AI活用の現在地 -基本編-

AIを取り巻き変化する社会の中でAI利用者としての大学職員や大学組織に求められる認識や営為について、AI事業者ガイドラインをもとにお話ししました。またスライドデザインを一新し、従来のスライドよりもロジックや空白を再構成することに努めました。

Transcript

1. 大学業務における 生成AI活用の現在地 -基本編- 2024年6月20日 九州大学 大学教職員職能開発FD 「⽣成AIを大学の教育・学習・業務にどのように組み込むか？」 九州大学IR室 学術推進専門員 森木 銀河
2. はじめに 1 ChatGPT,Copilot等の テキスト生成AIサービスを「生成AI」と呼称します 技術的知見の詳細は扱いません • 基盤モデル・大規模言語モデルに使用されているアーキテクチャ • 基盤モデル・大規模言語モデルの学習・推論過程(トークナイズ含) • 画像・動画・音声等に関するAIサービス • プロンプトエンジニアリング
3. 2 森木 銀河 モリキ ギンガ 生成AI関連 2019年4月 東京都市大学 総務部管理課 専任事務職員 2021年11月 九州大学 IR室 学術推進専門員 2022年7月-8月 画像生成AI Midjourney/Stable Diffusionを使い始める 歌詞を元に画像を生成・画像を元にMV作成 2023年1月-3月 ChatGPTを使い始める 架空の大学職員を生成して実験したり業務への影響を考えたり 2024年4月(兼任) 愛媛大学 教育・学生支援機構教育企画室 プロジェクトフェロー 2023年4月 大学が公表した生成AIポリシーをデータベース化・公開(継続) 大学教職員向け講演・研修・ワークショップに多数登壇 その他…個人開発、プロンプトガイド構築(P4Us)、調査、執筆 @gmoriki @pogohopper8 • 佐賀県佐賀市 出身 • 修士[教育学] • クジラとゾウが好き 「大学職員風味のなにか」です
4. 主な個人プロダクト 3 大学職員のためのプロンプトガイドを構築 自律エージェント用プロンプトを開発 https://promptforus.com/ 大学の生成AIポリシー・データベースを公開
5. 4 大学教職員(AI利用者)が身につけるべきリテラシーを理解する 今日のねらい AI利用者 AI提供者 AI開発者 AI システムを開発する事業 者（AIを研究開発する事業 者を含む） AI システムをアプリケーション、 製品、既存のシステム、ビジネ スプロセス等に組み込んだサー ビスとしてAI利用者（AI Business User）、場合によっ ては業務外利用者に提供する事 業者 事業活動において、AIシス テム又はAIサービスを利用 する事業者 例：OpenAI社(GPT-4開発) 例：Microsoft社(Copilot提供) 例：大学職員(Copilot利用) AI事業者ガイドライン（第1.0版）(2024), https://www.meti.go.jp/press/2024/04/20240419004/20240419004.html 次回：2024年８月20日に「実践編」を予定しています
6. 5 2. まずは、自分が使う 1. 生成AIを理解する 3. 気をつけるべきポイントをおさえる 4. 組織的に活用する 大学業務における生成AI活用の現在地-基本編-
7. 6 2. まずは、自分が使う 1. 生成AIを理解する 3. 気をつけるべきポイントをおさえる 4. 組織的に活用する 大学業務における生成AI活用の現在地-基本編-
8. 7 AIとは何か AI 人間と同様の知識を実現させよう という取り組みやその技術 ※確立された定義は存在しない = 定義はさまざま 「生成AI時代の人材育成」「AI用語の包含関係」 https://www.meti.go.jp/shingikai/mono_info_service/digital_jinzai/pdf/008_05_00.pdf
9. 8 これまでのAI AI 機械学習 深層学習 人間と同様の知識を実現させよう という取り組みやその技術 特定のタスクやトレーニングにより 実行できるようになるAI 人が特徴を定義 「生成AI時代の人材育成」「AI用語の包含関係」に基づき作成 https://www.meti.go.jp/shingikai/mono_info_service/digital_jinzai/pdf/008_05_00.pdf ※確立された定義は存在しない マシンが特徴を自動定義 例： スパムメール判定器（識別） 売り上げ予測（回帰）
10. 9 これまでのAI AI 機械学習 深層学習 人間と同様の知識を実現させよう という取り組みやその技術 特定のタスクやトレーニングにより 実行できるようになるAI 人が特徴を定義 マシンが特徴を自動定義 ◼ インターネットの普及により AIが学習可能なデータが増えたこと ◼ ハードウェアの進展によりコン ピュータの処理性能が向上したこと 「生成AI時代の人材育成」「AI用語の包含関係」に基づき作成 https://www.meti.go.jp/shingikai/mono_info_service/digital_jinzai/pdf/008_05_00.pdf 本当にわかりやすいAI入門,https://speakerdeck.com/segavvy/ben-dang-niwakariyasuiairu-men?slide=55 ルール自体を考えることまで コンピュータが実行 人間が考えたルールを コンピュータが実行 ※確立された定義は存在しない 機械学習発展の背景
11. 10 AIの活用事例 国立大学協会,2021, 「「ＡＩチャットボット」、「RPA」などによる業務プロセスの変革と働き方改革」『国立大学』, 62号. AIは大学業務に活用されてきた
12. 11 AIの活用事例 自治体におけるAI活用・導入ガイドブック＜導入手順編＞(2022),「主要なAI導入分野における機能別分類」 https://www.soumu.go.jp/main_content/000820109.pdf 予測 実行 画像や動画の特徴認識 手書きや活字の認識 数値予測 需要と供給の調整 行動パターンの提案 非定形業務の自動化 識別 AIは自治体業務に活用されてきた AIの機能別分類
13. 生成AI 12 AIの発展と「⽣成AI」の普及 AI 機械学習 深層学習 誰でも・気軽に AIの恩恵を享受できる 生成AIサービスの普及 AI技術 の進展 2022年11月 OpenAI社がChatGPTをリリース 社会
14. 13 ⽣成AIとは何か 文章、画像、プログラム等を生成できるAIモデルにもとづくAIの総称 (AIモデル…入力データ又は情報にもとづいて推論（inference）又は予測を生成する数学的構造) 画像・音楽・動画を 生成するAI、 入力可能なAIもある AIモデル 入力 生成物 入力された文章をもとに、文章を生成するAIの場合 日本の 首都は？ 東京都です AI事業者ガイドライン（第1.0版）(2024), https://www.meti.go.jp/press/2024/04/20240419004/20240419004.html
15. 14 補足：AIモデルの作り方 入力 生成物 日本の 首都は？ 東京都です AI事業者ガイドライン（第1.0版）(2024), https://www.meti.go.jp/press/2024/04/20240419004/20240419004.html AIモデル (チューニング前) 事前にAI開発者がインターネット上の文書等を 大量に学習・調整させている 学習用 データセット ＋ハイパーパラメータ AIモデル (チューニング済み) 学習 調整 (アライ メント) ※ GPT-3を訓練してInstruct GPTを作る過程を簡略化して説明しています 文章、画像、プログラム等を生成できるAIモデルにもとづくAIの総称 (AIモデル…入力データ又は情報にもとづいて推論（inference）又は予測を生成する数学的構造) ChatGPT の内部で 使用中
16. 15 ChatGPTとは何か ▍対話型テキスト生成AIサービス LLM = Large Language Model GPT = Generative Pretrained Transformer ⚫ 自然言語処理タスクに特化したLLM(大規模言語モデル)、GPTファミリーを使用している ⚫ GPTは「入力されたテキストのコンテキストに基づいて、 次に来る単語の確率分布を生成し、その確率に基づいて次の単語を予測する」AIモデル ⚫ 日常会話、レポートの作成、思考の整理、テーブル化…汎用的にタスクを遂行可能 対話 翻訳 文書作成 …etc. 日本の首都は？ 東京都ですね 通奏低音を英語に翻訳にして basso continuo メール文書いて お世話になって…
17. 16 映画と劇の違いを 3点に要約して AIモデル (LLM) 利用者 生成AIサービス 生成物 指示(プロンプト) ChatGPTとは何か ChatGPTに指示(プロンプト)を入力する 1. 制作過程と技術：映画 はフィルムやデジタルメ ディアに録画され、編集 や特殊効果を含む後処理 が行われます。… 2. 視覚的体験：… 3. 観客との関わり：… 事前に大量の学習用データセット、ハイパーパラメータを使用して学習済みモデルを作成しています
18. 17 ChatGPTを使う ① 指示(プロンプト)を入力する ② 回答(生成物)が返ってくる ③ 続けて指示を出すことも可 (新しいチャットを開始する) (AIモデルを選択する) (ファイルを添付する) GPT-3.5 GPT-4 GPT-4o <<< ≒ 選択可能なAIモデルの性能
19. 18 GPT-4oを使う Webページの内容を表形式に書き出す 写真に写っている大学の場所を尋ねる
20. 19 GPT-4oを使う でもお高いんでしょ？💸 無料ユーザーでも使えます メッセージ数に制限有。およそ10回/5h?? ▍主なメリット • GPT-3.5よりも性能が高いGPT-4クラスのAIを利用できる • Web検索機能を利用できる • コードインタプリタ機能(Pythonのサンドボックス,実行環境)を利用できる • 写真や画像、各種ファイルを入力することができる • GPTs(ChatGPTのカスタマイズ版)を利用・共有できる
21. 20 Copilotとは何か ▍Web検索等が可能な対話型テキスト生成AIサービス Copilot in Bingを想定して説明しています.Microsoftが言うCopilot概念はクラウドソリューションの総称だったりします. ⚫ OpenAI社のAIモデル(GPTファミリーや画像生成モデルのDALL・E)を使用している ⚫ Web検索を介したテキストの生成、画像生成や作曲が可能 ⚫ みんな大好きMiorosoft製。Office製品やブラウザ、OSにも組み込まれている Web検索 画像生成 …etc.
22. 21 Copilotとは何か Copilotに指示(プロンプト)を入力する 生成AIサービス 生成物 Web検索 実際はバックエンドプログラム(オーケストレータ)が検索システムとLLMを仲介し、指示の検索クエリ化、回答生成等を担当 明日の 福岡市の天気は？ 利用者 指示(プロンプト) 「福岡の天気 明日」 AIモデル (LLM) 明日の福岡市の天気予報 によると、天気は「ほと んど晴れ」で、最高気温 は30度、最低気温は21度 となる見込みです。どう いった予定でも、… 回答の根拠となるWebサイト 検索結果を もとに回答を生成 [明日の天気情報] 検索結果を インプット 検索クエリを生成
23. 22 Copilotを使う 日本のニュース記事等を参照 ハーバード大学HPを参照✅ ハーバード大学の 生成AI利用方針について 調査してください ハーバード大学の…(中略) ### 条件 ### - searchクエリは 英語で作成すること ▍ハーバード大学の公式情報を調査する
24. 23 いろいろあるよ⽣成AI サービス名 長所 短所 ChatGPT 汎用性↑↑ とりあえずこれ選んどけ筆頭 初見に厳しい セキュリティ↓ Copilot in Bing 検索性能↑ データ保護↑ 入力の柔軟性↓ Claude 日本語表現↑ in context learning↑ 回答の厳密さ↓ Gemini 長文(long context)入力↑ Googleアプリ連携↑ 回答の信頼度↓ ※ 私見です.評価指標を用いた厳密な性能比較ではありません
25. 24 補足：いろいろありすぎるよ⽣成AI https://theresanaiforthat.com/ 12,829個のAIアプリケーションが公開中 (2024年6月19日現在,主要なGPTs含む) 14,921個：AIを活用可能なタスク 4,803個：AIを活用可能な仕事 毎日1個、試用しても約35年かかる
26. 25 ⽣成AIの意味も数も広範かつさまざま 職員自身や組織の目的に合う 生成AIを選ぼう 生成AI ＝ 文章、画像、プログラム等を生成できる AIモデルにもとづくAIの総称
27. 26 2. まずは、自分が使う 1. 生成AIを理解する 3. 気をつけるべきポイントをおさえる 4. 組織的に活用する 大学業務における生成AI活用の現在地-基本編-
28. 使いましょう 27 😱 AIがあるから〇〇はもう不要！ 😱 AIに仕事を奪われちゃう！ 🙂 よくわからないから知らない 😉 どうやって使おうかな… 🤩 AIは革命！人間の仕事の自動化！ 🙂 どっちでもいいや
29. なぜ「使ってみる」必要があるのか 28 AI技術の進展 環境・リスク分析 AIサービスの 普及 AIを取り巻き変化する社会 [過渡期] AI利用者 (大学組織) AI提供者 AI開発者 使ってみることが 環境・リスク分析の 前提だから
30. 29 AI技術の進展 分野に特化したAIではなく 汎用的な知能を持つAIが開発され続けている (汎用技術になりうるAI) https://wandb.ai/wandb-japan/llm-leaderboard/reports/Nejumi-LLM-Neo--Vmlldzo2MTkyMTU0 anthropic.claude-3-opus-20240229-v1:0 [商用] gpt-4-turbo-2024-04-09 [商用] gemini-pro [商用] meta-llama/Meta-Llama-3-70B-Instruct [オープン] MT-bench-jp Rader Chart ▍大規模言語モデルの開発・改善 • OpenAIが2023年3月に「GPT-4」をリリース 米国司法試験に合格する実力を持つ(受験者の中で上位10%相当の成績) • ChatGPTがライティングタスクの生産性向上に貢献(e.g. NOY&Zhang,2023) ライティングの平均所要時間が40%減少・出力品質が18%向上 • 既にGPT-4に比肩するモデルが開発されている「Claude 3 Opus」「Llama3 70B」等 AI利用者 AI提供者 AI開発者
31. 30 AIサービスの普及 • 指示をもとに対話するサービス • リンク先情報を要約・表示する (確率的に推論を出力する)モジュール Arcブラウザ ChatGPT 対話型生成AI 対話型じゃない生成AI • 誰でも使えるがゆえに 目的の言語化や明文化が必要 • ブラウザが持つ機能の一部なので ユーザーが指示を書く必要はない AI利用者がAIと明示的に対話する場面、 気づいたらAIを利用している場面が増える ※Arc Max(スライド作成時点でMacのみ対応) AI利用者 AI提供者 AI開発者
32. 31 環境・リスク分析 総務省,インターネットの誕生, https://www.soumu.go.jp/hakusho-kids/life/what/what_12.html ▍AIを取り巻き変化する社会の環境・リスクを分析する ◼ AI利用による便益とリスクを理解する ◼ AIの社会的な受容を理解する ◼ 大学組織のAIの習熟度を理解する ▍生成AIはただの便利ツールでも一過性の話題でもない • 電気やインターネットのような「汎用技術」である可能性が高い(!!) • CUI的なインターフェースであり、汎用的だが確率的に推論を出力するモジュール ✓ 今までは専門家が提供した特化型AIが多かったが、 今後は容易に利用できる汎用型AIが増え、AI利用者も責任を負う可能性がある 使ってみて、議論を重ねて、 AIに対応できる大学組織になる AI利用者 AI提供者 AI開発者 環境・リスク分析のためには 「使ってみる」しかない
33. まずは、使ってみる 32 世界が変わる ヤバい AI革命 AI時代の生き方 業務は自動化 人間不要 AIは人間の仕事を奪う AIは人間の思考力を奪う AIは嘘つきで使えない AIは人間社会の鏡 思考を拡張してくれる 効率化できる部分もある 極端な 過小評価 極端な 過大評価 中庸な 等身大の評価 AI AI AI ここが生成AIの「現在地」
34. 33 業務に活用する 使ったことがある 使ってみて、業務に活用する 嘘つくけんあんまい使えんね 生成AIが得意なことは何か 予算の管理 資金の調達 入学手続きの管理 学生データの管理 カリキュラムの調整 教授陣のサポート 研究助成金の管理 学術イベントの企画 留学生支援 キャリア支援 卒業式の準備 施設の管理 安全対策の実施 図書館の運営 ITサポート 学内広報 学生相談 部活動の支援 環境対策の推進 外部評価の対応 生成AIをどのように活用できそうか
35. ⽣成AIが得意なことは何か 34 岩橋,生成AIの活用方法 - 2024年現在、 結局どのように使えばいいのだろうか？ https://speakerdeck.com/nttcom/how-to-use-generative-ai-in-2024?slide=27 (本スライド中の◆は発表者の意見です) ▍生成AIならではの効用があるもの ◆ 必要とされる要件やデータ（具象）に対して整理・変換（抽象）を行うこと • アウトプットを人間に分かるように出力できる • ルールを定義することにより類似したものを大量に生成できる • 非構造データから特徴・傾向をあぶり出し整理する ▍生成AIにできることに過度な期待が含まれるもの • 顧客接点などにおける人の完全代替・直接顧客対応 • 生成AIの応答精度が100%を前提とした業務・使い方 • 過去の学習からは導き出せない内容の自動生成 ▍そもそも生成AIではないもの • 構造化データを用いた機会学習の出力（統計解析・定量予測・各種の産業最適化問題 など） • 予め定めたルールに従った出力（ルールベースチャットボット、定型文作成 など）
36. 35 業務の効率化・自動化 生成AIによる 能力の拡張 ⽣成AIをどのように活用できそうか
37. 36 業務の効率化・自動化 あなたは、プロの編集者です。 下記文章について、誤字・脱字及び語尾の言い回しに気を付け、より適切な表現に修正してください。 #文章 これまで4月にプロジェクトチームを設置して、そのプラス面、マイナス面を見極めながら、この導入につ いて検討してまいりました。全曲展開するにあたり、デジタルサービス局内で6月からですね。この ChatGPTの試行環境を提供致しまして、その状況についてのアンケート結果でございます。前提として、文 章生成AIを利用できる業務というのはもちろん、職員の業務の全体の中の業務の中で限られるものと認識を しています。 生成AIに入力するプロンプト例 東京都,都職員のアイデアが詰まった文章生成AI活用事例集, https://www.digitalservice.metro.tokyo.lg.jp/documents/d/digitalservice/ai_prompt/ 既存の業務やタスクを補助・代替するツールとしての運用 業務 利用者 生成AI 指示(プロンプト) 回答 要請 回答の活用
38. 37 能力の拡張 利用者の思考や能力を伸ばす(拡張)するツールとしての運用 利用者 生成AI 回答 プログラミングを勉強したい Excelの関数を作ってほしい なぜ働かないといけないのか 企画や仮説を改善したい 回答の活用 思考 利用者の頭の中 指示(プロンプト) 次の2ステップで、私の仮説を改善してください。 ### 仮説 ### 大学業務が問題を抱えるの全ての原因は〇〇である ### ステップ ### - 仮説の特長を批判的かつ建設的に分析する - 明るい未来をつくるための提言に言い換える 生成AIに入力するプロンプト例 IPアドレスとは何ですか？ その技術の目的と解決したい技術的課題を 踏まえて回答してください 無条件に褒めてくれ〜〜でも無理に頑張れ と言って私を鼓舞させるのではなく、あり のままの私を認めてほしい。あなたの回答 の一言一句が私の労働生産性に直結します。
39. なぜ「使ってみる」必要があるのか 38 AI技術の進展 環境・リスク分析 AIサービスの 普及 AIを取り巻き変化する社会 [過渡期] AI利用者 (大学組織) AI提供者 AI開発者 使ってみることが 環境・リスク分析の 前提だから
40. 39 2. まずは、自分が使う 1. 生成AIを理解する 3. 気をつけるべきポイントをおさえる 4. 組織的に活用する 大学業務における生成AI活用の現在地-基本編-
41. 40 尽きぬ懸念 Q. 先生や学生が生成AIで論文を書いたらどうするんだ Q. AIを使ったせいで機密情報が漏洩したらどうするんだ Q. AIを使って研究能力や思考力が低下したらどうするんだ Q. AIが生成した文章と人が書いた文章を確実に見分ける方法を教えて
42. 41 尽きぬ懸念 Q. 先生や学生が生成AIで論文を書いたらどうするんだ A. そもそも剽窃はダメ 運用ガイドラインや環境を整備する Q. AIを使ったせいで機密情報が漏洩したらどうするんだ A. そもそも機密情報の漏洩はダメ 運用ガイドラインや環境を整備する Q. AIを使って研究能力や思考力が低下したらどうするんだ A. 低下させないようなAIリテラシーを身につける環境を整備する Q. AIが生成した文章と人が書いた文章を確実に見分ける方法を教えて A. そんなものはない 既知の問題を増長させるリスクと AI特有のリスクがある
43. ⽣成AIのリスクを理解する 42 生成AIの限界と課題 適切な利用方法
44. 3種類のリスク 43 総じて、LLM(大規模言語モデル)の限界と課題を説明します ※ 検索システムによってリスクを改善・抑制できる場合もあります 入力 生成AI 生成物 生成AIの仕様 入力の課題 生成物の課題 日本の 首都は？ 東京都です
45. 入力の課題 44 入力は AIモデルの学習や改善に使用される 個人情報保護法に抵触する 可能性がある 入力 生成AI 生成物
46. 45 入力の課題 個人情報等の機密情報は入力しない ▍AIモデルの学習や改善に使用される可能性がある • ChatGPTに入力されたデータはAIの開発・改善に使用される可能性がある • APIを経由 / 一部機能を使用すれば開発・改善に使用されない ※ ただし不正行為の防止等の目的でデータを監視される可能性がある OpenAI,”Terms of use”,https://openai.com/policies/terms-of-use ▍個人情報保護法に抵触する可能性がある • 個人情報取扱事業者が、あらかじめ本人の同意を得ることなく生成AIサービスに 個人データを含むプロンプトを入力し、当該個人データが当該プロンプトに対する 応答結果の出力以外の目的で取り扱われる場合、 当該個人情報取扱事業者は個人情報保護法の規定に違反することとなる可能性がある。 個人情報保護委員会,”生成AIサービスの利用に関する注意喚起等”,https://www.ppc.go.jp/news/careful_information/230602_AI_utilize_alert/
47. ⽣成AIの仕様 46 生成AIは 学習に使用されたデータに影響を受ける 再現性が低い 指示(プロンプト)に影響を受ける 可能性がある 入力 生成AI 生成物
48. 47 ⽣成AIの仕様 ▍再現性が低い可能性がある • 「ある単語や文章の次に来る単語や文章を推測し、 「統計的にそれらしい応答」を生成する」AIであり、原則として再現性は保証されない 文部科学省,”初等中等教育段階における生成AIの利用に関する暫定的なガイドライン”, https://www.mext.go.jp/content/20230710-mxt_shuukyo02-000030823_003.pdf ▍学習に使用されたデータ等に影響を受ける可能性がある • 回答は学習用データセットやアライメント(調整)の傾向に依存する 例：「結婚式」に関する回答が「教会式の結婚式」に偏る傾向にある OpenAI,” Models”, https://platform.openai.com/docs/models/overview ▍プロンプトに影響を受ける可能性がある • 「結果の品質は提供する情報の量とそのクオリティ(=プロンプトの書き方) によって異なる」 ”Prompt Engineering Guide”, https://www.promptingguide.ai/jp/introduction/basics 使用する生成AIの仕様を把握する
49. 著作権法等によって保護されている 事実と異なる ⽣成物の課題 48 生成物は 可能性がある 入力 生成AI 生成物
50. 49 ⽣成物の課題 ▍著作権法等によって保護されている可能性がある • 生成物が著作権侵害に係る判断は、「人がAIを利用せず絵を描いた場合などの、 通常の場合と同様に判断」される ⇒類似性かつ依拠性を満たすかどうか • 類似性：「他人の著作物の「表現上の本質的な特徴を直接感得できること」」 • 依拠性：「既存の著作物に接して、それを自己の作品の中に用いること」 文化庁,”AIと著作権”,https://www.bunka.go.jp/seisaku/chosakuken/pdf/93903601_01.pdf 文化庁,AI と著作権に関する考え方について,https://www.bunka.go.jp/seisaku/bunkashingikai/chosakuken/pdf/94037901_01.pdf ▍事実と異なる可能性がある • 「事実と全く異なる内容や、⽂脈と無関係な内容などが出⼒される」 いわゆる幻覚（ハルシネーション＝Hallucination）が生じる。 • 現時点で明確な原因はわかっておらず、完全に無くす方法も無い 文部科学省,”初等中等教育段階における生成AIの利用に関する暫定的なガイドライン”, https://www.mext.go.jp/content/20230710-mxt_shuukyo02-000030823_003.pdf 生成物の正確性と誠実性には注意する • 弁護士がChatGPTを使って架空の判例を引用した民事訴訟資料を作成・提出した • 大学教員がChatGPTに「学生がChatGPTを使って課題を解いたかどうか」を判断させた https://www.nikkei.com/article/DGXZQOGN30E450Q3A530C2000000/ https://www.nbcnews.com/tech/chatgpt-texas-college-instructor-backlash-rcna84888 過去に生じたインシデント事例
51. 50 補足：Hallucination(ハルシネーション) 教えて.AI, https://oshiete.ai/workspace 「日本で一番古い大学」を6つの異なる生成AIモデルに訊いてみた かろうじて一部正解 [GPT-4o] 一部正解 [Claude 3 Opus] ※ 出力の正確さだけが生成AIモデルの評価基準ではない
52. 3種類のリスク 51 入力 生成AI 生成物 生成AIの仕様 入力の課題 生成物の課題 人間中心 安全性 公平性 プライバシー保護 セキュリティ確保 透明性 アカウンタビリティ AI事業者ガイドライン（第1.0版）(2024), https://www.meti.go.jp/press/2024/04/20240419004/20240419004.html AI事業者ガイドライン 「共通の指針」より
53. 52 補足：AI事業者ガイドラインにおける「共通の指針」 AI事業者ガイドライン（第1.0版）(2024), https://www.meti.go.jp/press/2024/04/20240419004/20240419004.html 人間中心 安全性 公平性 プライバシー保護 セキュリティ確保 透明性 アカウンタビリティ 教育・リテラシー 公正競争確保 イノベーション AI利用者にとって 特に重要となる事項
54. ⽣成AIのリスクを管理する 53 生成AIの限界と課題 適切な利用方法
55. ⽣成AIの適切な利用方法 54 生成物を検証する 試行錯誤する 次回：2024年８月20日に「実践編」を予定しています
56. 55 ⽣成物を検証する AIから得られる生成物は「AIの提案」であるため 利用者が検証する必要がある 指示を出す 不適切な利用 回答を得る 生成物を事実として扱う 指示を出す 適切な利用 回答を得る 生成物を検証する 生成物を活用する 生成物を活用する
57. 56 試行錯誤する 回答内容の不確実性、AI発展の不確実性を理解し、 自分の目的・意図・期待に合わせて試行錯誤する 指示を出す 不適切な利用 回答を得る 生成物を事実として扱う 指示を出す 適切な利用 回答を得る 生成物を検証する 生成物を活用する 生成物を活用する 指示の修正 指示の改善
58. • 自分の指示・意図の通り？ • リスクは許容できる 水準に抑えられるか？ • 利用者は生成物に 責任を持てる？…etc. ⽣成AIの利用から⽣成物の活用までのチャート 57 生成物 生成物の検証 責任を持つ 試行錯誤 • 文章案・構成案 • 修正されたプログラム • 思考の整理…etc. 企画案考えて 生成AIの利用 生成物の活用 ケーススタディ 生成AI フィードバック
59. 58 2. まずは、自分が使う 1. 生成AIを理解する 3. 気をつけるべきポイントをおさえる 4. 組織的に活用する 大学業務における生成AI活用の現在地-基本編-
60. 「使ってみる」の次は「組織的に活用する」 59 AI技術の進展 環境・リスク分析 AIサービスの 普及 AIを取り巻き変化する社会 [過渡期] AI利用者 (大学組織) AI提供者 AI開発者 AIリテラシーの醸成 技術検証
61. 組織的に活用する 60 AI利用者のためのガイドラインを策定する 生成AIサービスを活用できる人材を育成する 生成AIサービスを運用する 生成AIサービスを導入する AIを活用できる業務を特定する AIリテラシーの 醸成 技術検証 ギャップ を埋める
62. 組織的に活用する 61 とりあえず他大学の事例を見てみよう 長文スライドが続きます
63. 62 ⽣成AIの導入事例 https://utelecon.adm.u-tokyo.ac.jp/notice/2024/0327-ai-service https://utelecon.adm.u-tokyo.ac.jp/notice/2023/10-aichat ▍生成AIポリシーの公表（2023年4月） • 生成AIツールの利用を一律に禁止せず、 教育・研究等における活用可能性を積極的に探る方針 • 生成AIの利用にあたっては適切な利用を促している ▍全学構成員向けの生成AIサービスの提供（2023年10月～） • 情報システム本部では、全学の構成員が利用できる 生成AIサービスの提供に取り組んでいる • 2024年4月より当面は、運用負担・費用負担が小さい Microsoft Copilotによる生成AIチャットの提供を中心に位置付ける。 ▍生成AIに関するノウハウの共有と高度なサービスの検討 • 学内で生成AIに関するノウハウが共有できる環境の整備を続ける。 • より高度な生成AIサービス（Copilot for Microsoft 365など）の導入や 学内情報を簡単に引き出せるサービスの開発について検討を続ける。 東京大学
64. 63 ⽣成AIの導入事例 https://miibo.jp/chat/0acdbfa2-551a-4e80-84b1- d79da9dd25f718e02f9b53822a?name=%E6%9D%B1%E5%8C%97%E5%A4%A7%E5%AD%A6%E3%83%81%E3%83%A3%E3%83%83%E3%83%88% E3%83%9C%E3%83%83%E3%83%88 ▍生成AIポリシーの公表（2023年3月） • 学内のAI専門家や理事と意識合わせの上、学生・教職員向けに表明 ▍生成AIサービス「法人GAI」を導入（2023年5月発表） • 業務のためにギブリー社の「法人GAI」を導入 • 試験的に約200人の教職員にアカウントを発行 • 「どのような業務にどのように活用できるかを実証的に確認する」ために 生成AIサービスを導入・試行しており、「通知文等の日本語・英語の校正」に 最も活用されている • 将来的にはを「事務のスペシャリスト」として活用し、業務の効率化を目指す。 ▍大学HPへ生成AIチャットボットを導入（2024年4月） • 業務外利用者向けにChatBotを導入(miibo製) • 従来のチャットボット運用が抱える課題を 生成AIが解消することを目指している 東北大学
65. 64 ⽣成AIの導入事例 ▍生成AIポリシーの決定（2023年6月～7月） • ChatGPTがもたらすプライバシー、アクセシビリティなどの問題を認識した • 一方で、研究大学としてAIツールを学生や研究者に提供する必要性も理解した • 生成AI諮問委員会が報告書を発表し、 安全で公平にアクセス可能な独自のAIツールの開発を提言した。 ▍カスタムAIツールの開発（2023年7月～8月） • 大学のニーズに合わせたカスタムAIツールの開発に着手 • マイクロソフトと提携し、プライバシーを保護する方法を採用した • 8月21日までに、Q&Aツール（U-M GPT）、ノーコードプラットフォーム（U- M Maizey）、開発者向けツールキット（U-M GPT Toolkit）の3つのツールを 完成させた ▍ツールの活用と今後の展望（2023年8月～） • リリース後も更新を続け、学生や教職員によって日常的にツールが活用されている • 他大学からの問い合わせも多数あり、ミシガン大学は知見を共有している • 今後は、パーソナルなAIの提供や、医療分野向けツールの改良を計画している • AIを責任を持って適切に使いこなすスキルを学生に身につけさせることを目指す https://er.educause.edu/articles/2024/2/how-and-why-the-university-of-michigan-built-its-own-closed-generative-ai-tools https://www.detroitnews.com/story/news/local/michigan/2023/08/21/university-of-michigan-to-provide-custom-ai-tools-to- school/70643140007/ ミシガン大学
66. 「使ってみる」の次は 57 AI技術の進展 環境・ リ スク 分析 AIサービスの 普及 AIを取り 巻き 変化する社会 [過渡期] AI利用者 (大学組織) AI提供者 AI開発者 大学の事例を確認してわかること 65 (国内大学を散見する限り…)導入報告や実施報告はあれど、 そのプロセスや成果はなかなか公表されない 一部の大学では公表されています 具体的な プロセスは？ 🤔 ✅ 技術検証の実施に絡めて教職員のAIリテラシーを育成している
67. 66 ⽣成AIの導入事例 [技術検証のプロセスまるわかり編] 府省庁・地方自治体の職員を対象とした技術検証・伴走 (2023年12月-2024年3月) 2023年度 デジタル庁・行政における生成AIの適切な利活用に向けた技術検証, https://www.digital.go.jp/news/19c125e9-35c5-48ba-a63f-f817bce95715 デジタル庁
68. 67 ⽣成AIの導入事例 [技術検証のプロセスまるわかり編] 生成AIを実際の業務に使ってみて、生成AIの活用可能性を検証 2023年度 デジタル庁・行政における生成AIの適切な利活用に向けた技術検証, https://www.digital.go.jp/news/19c125e9-35c5-48ba-a63f-f817bce95715 デジタル庁
69. 68 ⽣成AIの導入事例 [技術検証の成果まるわかり編] 1. 時間の削減だけでなく品質向上も狙える 2. 業務を工程に分解し、生成AIを使うべきでない箇所を意識する 3. 「書く」だけでなく「読む」も得意 4. 活用用途をチャットインターフェースに限定しない 5. 「業務改善」だけでなく「システム改善」のためにも テキスト生成AIの検証環境は重要 6. 初心者向けにコピペで使える状態が重要 7. 作文に不慣れな人や、 一般的な業務知識に乏しい人はテキスト生成AIの恩恵を受けやすい 8. 繰り返し発生し、工程が切り出しやすい業務は テキスト生成AIの恩恵を受けやすい 9. ソースコードの作成業務はテキスト生成AIの恩恵を受けやすい 10. 情報検索機能は個別具体のニーズに応じた特化開発の余地がある デジタル庁2023年度事業 行政での生成AI利活用検証から見えた10の学び (1/3),https://digital-gov.note.jp/n/n606cde8cc73e 行政での生成AI利活用検証から見えた10の学び デジタル庁
70. 組織的に活用する 69 AI利用者のためのガイドラインを策定する 生成AIサービスを活用できる人材を育成する 生成AIサービスを運用する 生成AIサービスを導入する AIを活用できる業務を特定する AIリテラシーの 醸成 技術検証 ギャップ を埋める
71. 70 AIを活用できる業務を特定する 生成AIが得意なこと 課題の重要度 申請書 受領 台帳への 登録 過去の事例 調査 決裁・ 完了報告 申請書 受領 台帳への 登録 過去の事例 調査 決裁・ 完了報告 活用できる タスクを探す 活用できる 業務を探す ▍活用できる業務を探す • 優先して解決すべき課題や困難かつ、 生成AIが価値を発揮できる領域を探す • 生成AIが得意なことはさまざま 具体的な情報の抽象化 回答スタイルの個別最適化 非構造化データの特徴・傾向の整理 ▍活用できるタスクを探す • 業務をタスクに分解し、 AIを活用できる領域を探す • AIを前提とする業務フローを構築する (言うは易く行うは難し)
72. 71 ⽣成AIサービスを運用する AI事業者ガイドライン（第1.0版）(2024), https://www.meti.go.jp/press/2024/04/20240419004/20240419004.html AIを取り巻き変化する社会における AI利用者のためのAIガバナンスを確立する ▍AIガバナンス ◼ AIのリスクを受容可能な水準で 管理しつつ、AIの便益を最大化する設計並びに運用 リスクを 管理する 便益を 最大化する 外部環境 の変化 透明性等 の確保 AI利用者をリスクから守る必要があるが、AIの便益もリスクも発展しているため 「一度決めたルールを守り抜く」運用は困難であり、現実的ではない 羽深(2023),『ＡＩガバナンス入門──リスクマネジメントから社会設計まで』,ハヤカワ新書
73. 72 ⽣成AIサービスを運用する AI事業者ガイドライン（第1.0版）(2024), https://www.meti.go.jp/press/2024/04/20240419004/20240419004.html AIガバナンスのためにアジャイル・ガバナンスを実践する AI利用者 (大学組織) AI提供者 AI開発者 AIシステム・サービスの開発・提供・利用に関わる全ての主体が実施する ▍PDCAサイクルとの主な違い • Plan(システムデザイン)の前提となる 「環境・リスク分析」や「ゴール設定」を 継続的に見直すプロセス • ステークホルダーへのアカウンタビリティの 確保を不可欠の要素としていること
74. 組織的に活用する 73 AI利用者のためのガイドラインを策定する 生成AIサービスを活用できる人材を育成する 生成AIサービスを運用する 生成AIサービスを導入する AIを活用できる業務を特定する AIリテラシーの 醸成 技術検証 ギャップ を埋める AIのリスクを受容可能な水準で管理し、 AIの便益を最大化するための取り組み
75. 74 補足：AI導入に取り組むと、必ず「AI以外」の問題にぶつかる 業務プロセスの壁 組織・カルチャーの壁 ビジネスモデルの壁 AI導入で企業が挫折するのはなぜ？―AI「以外」の壁にどう立ち向かうか, https://note.com/dory111111/n/na817a0544da3 • 既存業務の中でAIを 導入できる部分を特 定する • 業務そのものを組み 替える • 「AIを使えない人」 をケアする • AIを活用するインセ ンティブの設定 • そもそも大学はAI導 入に適した組織モデ ルなのか？ • 経営層のコミットメ ントが求められる 他業種における正解や前例は少ないため、 大学としてAI導入を進める必要がある
76. まとめ 75
77. 76 2. まずは、自分が使う 1. 生成AIを理解する 3. 気をつけるべきポイントをおさえる 4. 組織的に活用する 大学業務における生成AI活用の現在地-基本編-
78. まとめ 77 ⽣成AIを使ったうえで 長所と短所と可能性を議論しよう リスクを適切に管理しよう 組織的に活用する準備を始めよう ⽣成AIは文章、画像、プログラム等を⽣成できる AIモデルにもとづくAIの総称である
79. 今後の展望 78 AIの事前・事後学習に使用できるデータを整備する 業務知識の蓄積がAI利用体験の質を左右する 組織的な取り組みを公表し、議論する・批評される 内部に閉じた取り組みはガラパゴス化するリスクがある 餅は餅屋…AI開発者やAI提供者への相談は必須 餅は餅屋… 経営層が音頭を取らないとAI導入は頓挫する 法務コンプラ部門や情報部門に任せっぱなしにしない
80. さいごに 79 本研修の実施主体は九州大学、 「基幹教育院 次世代型大学教育開発センター」「未来人材育成機構」です ▍「生成AIを大学の教育・学習・業務にどのように組み込むか？」シリーズ • 第4弾：教育現場における生成AIの導入事例 -隣の教室の授業法-（7月10日） • 第5弾：大学業務における生成AI活用の現在地 -実践編-（8月20日） ▍ご意見・ご相談・ご連絡、大歓迎です（返信は遅いかも） • moriki.ginga.749@m.kyushu-u.ac.jp • 学内からでも学外からでもどうぞ
81. ご清聴いただきありがとうございました 80 Q. 要するに何が言いたいの？ A. 私たち大学職員がAIに囲まれてAIを利用している社会が 訪れているかもしれないので現在地を把握しておきましょう Q. あんま使ってないけどよくわからんから規制してもいいか A. まず使わないと規制も推進も始まらないので全員使ってみてください Q. 心構えはいいから使えるプロンプトを教えてくれ A. プロンプトガイドを運用しています：https://promptforus.com/ Q. 業務が忙しくてそんなに暇じゃない A. ぶっちゃけ現場の実態はそうだと感じます(私もそうです) 手垢がついた表現ですが、できるところからやりましょう Q. n年後はどうなっている？ A. この手の未来予測にあまり意味はないので今現在使えるAIを使ってみてください
82. 付録
83. 82 補足：⽣成AIのユースケースを特定する 個人 業務プロセスの改善 新しい価値の創出 定型業務の自動化 非定型業務の高度化 組織 効率化 高度化
84. 勉強の最適化 思考の壁打ち 83 補足：⽣成AIのユースケースを特定する 個人 業務プロセスの改善 新しい価値の創出 定型業務の自動化 非定型業務の高度化 組織 効率化 高度化 議事録の作成 文章の翻訳 課題の体系化 分掌の整理 シーズの発掘 戦略の策定
85. 84 ポリシーからガイドラインへの発展 ポリシー コンパス • 組織の方針や基本原理を示す • 基準としての機能を果たす ガイドライン 地図 • より具体的な道筋を示す • 状況に応じた機動的対応を果たす
86. 85 AI利用者のためのガイドラインを策定する 生成AI社内ガイドラインのメリット (福岡ら,2023) 1. 正しい利用の促進 2. 法的・倫理的リスクの回避 3. 基準の明確化による安心感 4. 企業内の一貫性の確保 5. 社内コミュニケーションの促進 組織的活用のために必要 従来のツールと異なる点を理解する 福岡真之介・松下外,『生成AIの法的リスクと対策』,2023,日経BP
87. 86 補足：ガイドラインの項目例 項目番号 項目名 概要 1 生成AIに対する基本方針 組織としてどのように利用することを考えているか 2 生成AIの利用目的 どのような目的で利用できるか(業務効率化、翻訳等) 3 ガイドラインの対象者 業務内容や職種による違いはあるか 4 ガイドラインの対象行為 どのような利用行為を対象とするか 5 誤情報への注意喚起 利用における留意点は何か 6 機密情報の取り扱い どのような場合に機密情報を利用できる/できないか 7 知的財産権への対応 利用における留意点は何か 8 個人情報・パーソナルデータの取り扱い どのような場合に個人情報を利用できる/できないか 9 不適切利用の禁止 どのような利用行為を禁止とするか 10 倫理的な利用 法律以外の観点から何を検討する必要があるのか 11 生成AIの利用制限 どのような場合に利用できないか 12 利用する生成AIやデータの利用規約の順守 どの利用規約を順守すべきか 13 透明性と説明責任 利用者が果たすべき責任は何か 14 学習データの正確性 どのような指針を掲げているか 15 対象会社の範囲 (グループ会社等がある場合)どの組織が対象か 16 利用の手続 利用のためにどのような手続きを取るべきか 17 問い合わせ先・相談窓口 問い合わせ先・相談窓口はどこか 福岡真之介・松下外,『生成AIの法的リスクと対策』,2023,日経BP
88. 87 ⽣成AIサービスを活用できる人材を育成する AI開発者・提供者ではなくAI利用者の人材育成 • 事務職員全員がAI技術を研究・開発・提供できる必要はない（むり） • AI利用者として、いま誰もが利用できるサービスを、有効に使えることが大切 • 現在、AI利用者同士で議論できる機会が少なすぎる ⽣成AIの特性を理解したうえで利用し、 教育・研究・業務の効率化・品質向上・最適化を目指す人材 従来のデジタル人材に求められる要件と酷似している： 本研修の取り組みそのものです
89. 88 ⽣成AIサービスを導入する ChatGPT等の Webサービスを利用 LLM APIを組み込んだ 社内サービスを整備・利用 https://twitter.com/tka0120/status/1671512617276375049/photo/4 を参考に作成 ⇒セキュアかつ 利用ログの取得・分析が可能 ③ システム 入力 出力 API呼出 API返値 生成AIサービス システム 入力 出力 API呼出 API返値 生成AIサービス (画面) システム 入力 出力 API呼出 API返値 利用者＋組織内環境 ② ① LLMを組み込んだ Webサービスを利用 LLM LLM LLM 利用パターン
90. 89 ⽣成AIサービスを導入する 金田(2023)「システム構成の基礎を学ぶ」日経クロステックを参考に作成 レベル0 OpenAIアプリ等を そのまま使う レベル1 セキュアかつガバナンス を効かせた構成で使う レベル2 他システムと 連携させて使う 活用レベル
91. 90 ⽣成AIサービスを導入する 活用レベル0 活用レベル1 活用レベル2 利用パターン1 使用する 利用パターン2 使用する 利用パターン3 組織的環境を 構築する もっと活用する 生成AI活用のための組織体制の整備とは、 利用パターンを理解し、生成AIを組織として運用・活用すること 例： ヘルプデスク(武蔵野大学) 例： チャットサービス(東京大学) 活用レベル 利用パターン
92. 91 補足：いきなり高い活用レベルを整備する必要はない 活用レベル0 活用レベル1 活用レベル2 利用パターン1 使用する 利用パターン2 使用する 利用パターン3 組織的環境を 構築する もっと活用する 生成AI活用のための組織体制の整備とは、 利用パターンを理解し、生成AIを組織として運用・活用すること 最初は活用レベル0の無料版を利用し、普及を図り、学内の理解を得る/小さな成果を出す 積極的な活用が見込めてから活用レベルを上げる(生成AI導入による効果を財務責任者へ説明) ➢ アクションプラン例
93. 92 補足：AIガバナンスとアジャイルガバナンス AI の利活用によって生じるリスクをステークホルダーにとって受容可能な水準で管理し つつ、そこからもたらされる正のインパクト（便益）を最大化することを目的とする、 ステークホルダーによる技術的、組織的、及び社会的システムの設計並びに運用。 AI事業者ガイドライン（第1.0版）(2024), https://www.meti.go.jp/press/2024/04/20240419004/20240419004.html 事前にルール又は手続が固定されたAIガバナンスではなく、企業・法規制・インフラ・ 市場・社会規範といった様々なガバナンスシステムにおいて、「環境・リスク分析」 「ゴール設定」「システムデザイン」「運用」「評価」といったサイクルを、マルチス テークホルダーで継続的かつ高速に回転させていく、「アジャイル・ガバナンス」の実 践が重要となる。