生成系AI(ChatGPT等)講習会/chatgpt_workshop202306

生成系AI（ChatGPT等）の仕組み
生成系AI（ChatGPT等）を使う上での注意点
教育場面での生成系AI（ChatGPT等）の使用例：教員側／学生側
質疑応答
生成系AI（ChatGPT等）の試用（実習形式）
関連情報へのリンク

Transcript

1. 生成系AI（ChatGPT等） 講習会 2023年6月22日 宮崎産業経営大学 岡 夏樹 ダウンロードするとスライド中のリンクがクリックできます
2. 話の流れ • 生成系AI（ChatGPT等）の仕組み • 生成系AI（ChatGPT等）を使う上での注意点 • 教育場面での生成系AI（ChatGPT等）の使用例 • 教員側 • 学生側 • 質疑応答 • 生成系AI（ChatGPT等）の試用（実習形式） • 関連情報へのリンク
3. 生成系AIに至る技術の流れ • 深層学習以降のAI研究の流れ • AI（人工知能）研究の最前線：社会はどのように変わるだろう？ → こ のスライドのpp. 13-27を参照 • (第3版)「知能の構成的解明の研究動向と今後の展望」についての個人 的見解：Chain of thought promptingやpostdictionを中心として → その後の研究動向のうち、大規模言語モデルによる論理的な思考や事 実との整合性については、このスライドのpp. 2-14を参照
4. 生成系AI（ChatGPT等）の仕組み Transformer decoder What is the law ? <eos> The 次のトークン（単語）を確率的に予測
5. 生成系AI（ChatGPT等）の仕組み Transformer decoder What is the law ? <eos>The term 次のトークン（単語）を確率的に予測
6. 生成系AI（ChatGPT等）の仕組み Transformer decoder What is the law ?<eos>The term “ 次のトークン（単語）を確率的に予測
7. 生成系AI（ChatGPT等）の仕組み Transformer decoder What is the law ?<eos>The term “ law 次のトークン（単語）を確率的に予測
8. 生成系AI（ChatGPT等）の仕組み Transformer decoder What is the law ?<eos>The term “ law ” 次のトークン（単語）を確率的に予測
9. 生成系AI（ChatGPT等）の仕組み Transformer decoder What is the law ?<eos>The term “ law ” refers 次のトークン（単語）を確率的に予測
10. 「マスクされた自己注意」と 「順伝播ニューラルネットワーク」
11. 次のトークンを予測するだけだが、プロンプトを うまく書くと、追加学習なしでいろいろなタスク ができる (Language Models are Few-Shot Learners) • 入力プロンプト → タスクに応じた注意パターンを生成（モデ ルをタスクごとに適応） • トークン予測学習を通して、タスク固有の回路（処理）の動的 な作り方を学習したと言える → 人の役割は、自然言語でうまく指示して、大規模言語モデル が持つ知識(?)を引き出すこと（引き出せるような回路をタスク に応じて動的に作り出すこと）
12. 生成系AI（ChatGPT等）の学習 Training language models to follow instructions with human feedback 1. 事前学習：様々な種類の大量の文書（いろいろな言語やプロ グラムも含む）で、次のトークンの予測を「自己教師付き学 習」 2. 対話向けの微調整 (fine tuning)：プロンプトに対する模範解 答を収集し、教師付き学習で微調整 3. 言語モデルの複数の回答を人手でランク付け → 報酬モデル （プロンプトに対する各回答の適切さ）を学習 4. 報酬モデルを使って、言語モデルを強化学習（報酬がもらえ る回答の生成確率を上げる）
13. https://cdn.openai.com/papers/gpt-4.pdf
14. https://cdn.openai.com/papers/gpt-4.pdf 特に、司法試験の模 擬試験で、受験者の 上位10％に入るスコ アで合格しています。
15. 話の流れ • 生成系AI（ChatGPT等）の仕組み • 生成系AI（ChatGPT等）を使う上での注意点 • 教育場面での生成系AI（ChatGPT等）の使用例 • 教員側 • 学生側 • 質疑応答 • 生成系AI（ChatGPT等）の試用（実習形式） • 関連情報へのリンク
16. 生成系AI（ChatGPT等）を使う上での注 意点 • 事実とは違うことも自信たっぷりに話す。←（人の評価からの 強化学習を除いた、土台となる部分は）事実と合っているかど うかは全く気にしていない。 • Bing Chatは、根拠となるWebページへのリンクを提示しつつ 説明するので、根拠があるのかと信じそうになるが、これも要 注意。リンク先の内容と異なることを平気で書いてくる。 • 想像以上にたくさんのことを知っているが、それを聞き出すに は、いろいろなコツがいる。
17. 生成系AI（ChatGPT等）を使う上での注 意点（つづき） • 龍宮から戻った浦島太郎。最近のこと（龍宮にいた間のこと） は知らない。知っているのは、学習データに含まれた時期のこ とだけ。検索機能を持ったボットの場合はこの限りではない。 →最近のことをレポート試験に出題すれば安心というわけでは ないので注意 • 英語圏で育ったので、英語で話しかけた方が的確な応答が期待 できる。日本に関する情報は勉強不足で、いい加減な話をしば しばする。 • おしゃべりなので、あなたが話したことを、他の人にしゃべっ てしまうかも。
18. 生成系AI（ChatGPT等）を使う上での注 意点（つづき） • 学習データとして使われた情報の著作権を侵害している可能性
19. 生成系AI（ChatGPT等）が苦手なこと→「論理的に考え て。」「一段階ずつ推論して。」のようにお願いすれば、ある程度それらしい返答 になるが、十分ではない。応答は確率的なので正誤に再現性があるとは限らない。 GPT-3.5 GPT-4 Bing Chat バランスよく Bard 論理的に筋道だっ た推論 × △ × × 算数（植木算） × 〇 〇 〇 数え上げ × 〇 × 〇 アンダーライン付きの〇×△は、対話にリンク
22. 話の流れ • 生成系AI（ChatGPT等）の仕組み • 生成系AI（ChatGPT等）を使う上での注意点 • 教育場面での生成系AI（ChatGPT等）の使用例 • 教員側 • 学生側 • 質疑応答 • 生成系AI（ChatGPT等）の試用（実習形式） • 関連情報へのリンク
23. 言語生成系AIを学生が使いこなせるよう にしたいと考える理由 • 言語生成系AIは社会を変革する力を持っている • 使いこなさないとその力は実感できない • 学生には社会を変革する側の人になって欲しい
24. 回答の丸写しへの対策 • 「提出が目的」vs.「自分の成長が目的」 • 後者が目的になるようにするのが教師の（周りの大人の）役割 • その助けとして、学生が自ら考えることを促すように、AI側に ふるまわせるプロンプト→次のページ
25. 教育場面での生成系AI（ChatGPT等）の 使用例 • 対話による主体的な学びを可能にするプロンプト（→学生が毎回こ んな感じのプロンプトを入れること無しに同様な応答を可能にする には、KhanmigoのようにChatGPT APIを使ってシステムを作る必要 あり） • プロンプト例： 指示：学生が依頼または尋ねたことに対して、あなたは少しずつ段階的にヒン トを出したり、問いかけたりして、学生が自ら考えるように促して下さい。そ のような対話を繰り返す中で、学生が自分で考える力をつけ、問題解決や解答 に至るようにして下さい。 学生：[解いて欲しい問題やレポート課題をここに入力] 教授（ヒントや問いかけ）：
27. 対話による学び：GPT-3.5 vs. GPT-4 • 対話による主体的な学びを可能にするプロンプト：GPT-3.5 〇 • Khanmigo：ChatGPT API (GPT-4) 〇 • ナッジの効果と倫理： GPT-3.5 △ • ナッジの効果と倫理： GPT-4 〇 • ナッジの効果と倫理：Bing chat △ • ナッジの効果と倫理：Bard △ • 作文AI家庭教師プロンプト（うめ）： GPT-4 〇； GPT-3.5 △ → マンガ
28. GPT-4 → 次ページに つづく
30. 検討課題 • 自ら考えるよう学生を促す質の高い対話を可能とするためには、 GPT-4の使用が望ましいと思われる • GPT-4はChatGPT Plusの契約が必要：有料（$20／月） • ChatGPT Plusは、ChatGPT pluginsが使えるメリットも → 投資価値の判断 参考：全学生・教員にChatGPTの有償ライセンスを付与 神山 まるごと高専
31. think-pair-share活動へのチャットボットの 導入 → think-pair-share & chat-pair-share 課題：コンビニでの、今はまだない、新しいビジネスを考案しよう 1. 検索や生成型AIは使わず、Think-pair-shareで考える。まず自分で課題について 考え(Think: 5分程度)、次に隣の人と意見を交換し(Pair: 5分程度)、最後にそれ を全体で共有(Share: 5分程度)。Think & Pairでは、ブレインストーミングの技* （別記）を使おう。生成型AIには今のところできず、人にしかできないことの1 つは、ネットにない情報を拾い上げて活用すること。①現場（コンビニ内、コ ンビニ外の両方）を観察したりインタビューして課題を発見する；②自分の体 験や経験から課題を見つける。本日は、②を最大限生かして活動。 2. 検索や生成型AIを使って、Chat-pair-share。まず個人で検索やChatを利用（ブ レインストーミングの技*をここでも使おう）して考えを深め(Chat: 10分程度)、 次に隣の人と意見を交換し(Pair: 3分程度)、最後にそれを全体で共有(Share: 5 分程度)。
32. ブレインストーミングの相手 プロンプト例： • 大学の食堂を安くて美味しくて魅力的な場所にする方法を10個 考えて。 • SCAMPER, Six hats, Random word association などの方法を 使ってみて。 • 女子高生になったつもりで、大学に入学したくなるような食堂 を考えてみて。法学部を志望している学生と、経営学部を志望 している学生と、データサイエンスコースを志望している学生、 この３人の女子高生がおしゃべりしている感じで、楽しくて夢 があるアイディアを出して。
33. ディベートの相手 • プロンプト：論題、肯定側／否定側の指示など
34. 教材・授業案作成支援 • ロジスティック回帰の授業案：GPT-4 〇 • 面白い回答 ← 具体的で専門的な指示（この例では、Computer science unpluggedを引合いにした依頼） • ロジスティック回帰の授業案：GPT-3.5 △ • 適切な回答もあるが、誤りを含む多肢選択問題の提示や、上記と同じ 指示に対しても本質を捉えていない表面的に指示に沿っただけの案 • 良質な支援を得る → GPT-4がお勧め（だと思う）
35. プログラミング プログラミングに必要な力が、生成型AIの登場により、激変 → 教育内容・教育方法も変更の必要（プログラミング以外もい ろいろな分野で似た状況？） • データをランダムに選び出す：GPT-3.5 • バグを含むプログラムを提示してきたが、エラーメッセージを示すこ とで修正 • 質問や追加仕様についても的確に対応
36. 教育場面でのその他の活用例 • 英会話の練習（考案：岡） • AIによる個別適応の好例：”Speak slower and use simpler words.” ↓話速は実際は変えられないらしいです。 プラセボ効果はあるかも
37. 教育場面でのその他の活用例 • 就活の面接の練習 • 企業名、面接担当者、自分の情報など、できるだけ具体的に設定 • 自分に適した職業や職種を相談
38. 教育場面での生成系AI（ChatGPT等）の 使用例 参考資料： • 教員向け ChatGPT 講座 ～基礎から応用まで～ 吉田塁 2023年 5月13日, pp. 59-94. • 本スライドの教育場面での利用部分を作成するにあたり参考にしまし た。教育場面で生成系AIの利用を考えている方は一度見ておくとよい と思います。
39. 話の流れ • 生成系AI（ChatGPT等）の仕組み • 生成系AI（ChatGPT等）を使う上での注意点 • 教育場面での生成系AI（ChatGPT等）の使用例 • 教員側 • 学生側 • 質疑応答 • 生成系AI（ChatGPT等）の試用（実習形式） • 関連情報へのリンク
40. 関連情報へのリンク • LLM Chatbot（岡） • 随時更新 • 授業での試用例など掲載 • 各種関連情報へのリンクも掲載
41. よい活用方法や問題点を議論・共有する 場を作りました • Moodleの「生成系AI（ChatGPT）講習会」コース • 公開／非公開の2つに分けてフォーラムを設置