人工知能ゼミ02 /aizemi02

Transcript

1. 人工知能ゼミ2 対話型人工知能を使う 公立小松大学 藤田 一寿 Ver. 20251009
2. 計画 1. 10/2 ガイダンス 2. 10/9 対話型人工知能の使い方 （講義、演習、レポート） 3. 10/16 プロンプトエンジニアリング（講義） 4. 10/23 プロンプトエンジニアリング演習 5. 10/30 プロンプトエンジニアリング演習 6. 11/13 人工知能に過去問を解かせる 7. 11/20 人工知能に過去問を解かせる 8. 11/27 人工知能に過去問を解かせる（発表資料作成 ） 9. 12/4 人工知能に過去問を解かせる（発表会） 10. 12/11 人工知能と小論文を書く 11. 12/18 人工知能と小論文を書く （レポート作成、レポート提出） 12. 12/25 人工知能と英語論文を読む 13. 1/15 人工知能と英語論文を読む（発表資料作成） 14. 1/22 人工知能と英語論文を読む（発表会） 15. 1/29 資料を読ませレポートを作成する（レポート）
3. 人工知能とは
4. 人工知能とは • 人工知能とは「人間が知能を使ってすること」ができる機械もしくはそれを実現するための技術 • 人間の知的営みをコンピュータに行わせるための技術（IT用語辞典バイナリ） • 学習・推論・判断といった人間の知能を持つ機能を備えたコンピュータシステム（大辞林第三版） • 人間や動物が可能な知的作業ができるコンピュータを作ることに関する事柄 (Artificial Intelligence for Games) • 人（研究者）によって人工知能の捉え方が違う． • 知能の定義が出来ないから，人工知能も定義できないという考え方もある． • そもそも知能が何を意味するか，知的営みがどの程度の知的な行動を意味するかが曖昧である．そ のため，人工知能という用語も曖昧になる． • この講義では一般的な認識に近い赤字の解釈をしておく． (平成28年度情報通信白書)
5. 人工知能とは • 人工知能に関連する用語 • 特化型人工知能 • ある問題に対し特化した人工知能 • 例：画像認識，音声認識，画像生成など • 汎用人工知能 (Artificial general intelligence : AGI) • 人間レベルの知能 • 2022年から人工知能はAGIに着実に近づきつつある • 人工超知能（Artificial Super Intelligence: ASI） • 人間の知的能力を超えた人工知能 • 特化型人工知能では人の能力を超えたものがある
6. Google DeepMindによるAGIのレベル 特化型人工知能 汎用人工知能 (Morris, et al. 2023) 囲碁人工知能 ゲーム人工知能（ゲーム 以外にも適用できる） 画像生成人工知能 2023年における対話型人工知能は 汎用人工知能で，スキルを持たな い者と同等か幾らか良い程度の能 力はあるらししい． 計算機ソフトはNo AIらしい 2023年では，まだこのレベルの人 工知能は登場していない．Google のGemini Ultraはこのレベルに達し たのだろうか？ 2024年でここに位置する人工知能 はあるのだろうか？もしくは，す でに多くのマルチモーダル人工知 能は達しているのかもしれない．
7. 人工知能のとは 箱の中の機械が適切な返答をすれば良い． 中国語の質問が書かれ た紙 中国語の返答が書かれ た紙 入力 出力 人工知能は入力に対し適切な出力をする機械（箱） 人工知能は，入力に対し適切な出力をする関数と言える．人工知能を作るとは，その関数を作ることである ．人間の応答を関数で表現できれば，その関数を使った人工知能は人そのものと言えるかも知れない． 中国語を話す箱
8. 人工知能の実現手法 • 現在の人工知能を実現する技術として，人工ニューラルネットワークがよ く用いられる． • 適用例 • 画像識別 • 領域抽出 • 対話型人工知能 • 画像生成人工知能 • 楽曲生成人工知能 • ゲームプレイ人工知能 • 最新の人工知能技術と呼ばれるものには必ずと言っていいほど人工ニュー ラルネットワークが使われる． 入力 出力 人工ニューラルネットワークが入力 に対し適切な出力をするように学習 する． 人工ニューラルネットワーク
9. 人工ニューラルネットワーク 人工ニューロン 神経細胞（ニューロン） 脳 人工ニューラル ネットワーク 神経科学 人工ニューラル ネットワーク 数理モデル化 ネットワーク化 ネットワーク化 𝑓(𝒘𝑇 ⋅ 𝒙) 解剖学的知見に基 づき精密に脳をモ デル化した実用的 な人工ニューラル ネットワークはあ るだろうか．機能 をモデル化したも のはたくさんある だろう． 人工ニューロンを組み合わせ（ネットワーク化し），様々な機能を実現したものを人工ニューラルネットワークと呼ぶ． かつては，人工ニューロンは神経細胞を数理モデル化したもので，ネットワークの構造も脳を意識しており，人工ニューラルネッ トワークは神経科学のと言えた．しかし，現在の人工ニューラルネットワークは神経細胞や脳の数理モデルから乖離しており，表 面上は脳と関係ない．表面上関係ないが，学習機械として共通する理論や性質があるのかもしれない．
10. 生成人工知能
11. 生成人工知能 • 生成人工知能とは，文章，画像その他のメディアをプロンプトから生 成することが出来る人工知能システムのこと（wikipedia英語版）． • プロンプトとは，人工知能に与える命令のこと． (https://en.wikipedia.org/wiki/Generative_artificial_intelligence) 入力（ プロンプト ） 出力 小松大学を描いて
12. 代表的な生成人工知能 • 対話型（会話型）人工知能 • ユーザと対話することができるチャットボットや仮想エージェントなどの 技術(https://www.ibm.com/jp-ja/topics/conversational-ai) • 利用者が音声やテキストで入力すると自然な文章を生成し，応答してくれ る人工知能(https://www.nikkei.com/theme/?dw=23052603) • 画像生成人工知能 • 画像を生成する人工知能 • Stable diffusionやDALL-Eは拡散モデルを用い画像生成を行う．
13. 代表的な生成人工知能 • 対話型（会話型）人工知能 • ユーザと対話することができるチャットボットや仮想エージェントなどの 技術(https://www.ibm.com/jp-ja/topics/conversational-ai) • 利用者が音声やテキストで入力すると自然な文章を生成し，応答してくれ る人工知能(https://www.nikkei.com/theme/?dw=23052603) • 画像生成人工知能 • 画像を生成する人工知能 • Stable diffusionやDALL-Eは拡散モデルを用い画像生成を行う． DALL-E３ DALL-E３
14. 対話型人工知能と言語モデル • 対話型人工知能 • 言語モデルを用い対話を実現している． • 次に出てくる単語を予測するモデル．次の単語を予測し続ければ文章が出来る． • ChatGPTは言語モデルGPTを用いOpenAIにより構築された対話型人工知能 • Bartは基盤モデルLaMDAを用いGoogleにより構築された対話型人工知能
15. 言語モデルとは • 言語モデリングは，与えられた文章の次に来る単語（トークン）を予測 するタスク • 次に来る単語を予測し続けることで文章を生成する事ができる． • 言語モデリングを行うものを言語モデルという． • 関連技術：n-gram, LSTM (long short-term memory), RNN (recurrent neural network)
16. 言語モデルとは • 大量のパラメタで構成される巨大なニューラルネットワークを用いた言 語モデルを大規模言語モデルという． • 現在はTransformerベースの技術が主流． • ChatGPTもTransformerがベースのGPTという言語モデルを用いている． TransformerとはGoogleが開発した言語モデルである．再帰構造がなく並列計算が容易である点などがこ れまでの手法と異なる． 大規模言語モデル（LLM） こんにちは こんにちは 入力 出力 LLMは「こんにちは」の次 は「こんにちは」だろうと 予測した．
17. 言語モデルは何をしているのか • 言語モデルは，次にどの単語が出やすいかを学習する． • 学習後のモデルを用い，次に出る単語を予測する． の 首都 観光 首相 東京 京都 大阪 です だろう かもしれない 次に来る確率0.4 次に来る確率0.3 次に来る確率0.3 次に来る確率0.7 次に来る確率0.2 次に来る確率0.1 次に来る確率0.7 次に来る確率0.2 次に来る確率0.1 日本 は
18. 対話型人工知能と大規模言語モデル • ChatGPTなどの対話型人工知能は大規模言語モデル(LLM)を使って会 話をしている． • 対話型人工知能の能力はLLMの性能に依存しているところが大きい． 質問 回答 回答 質問(+システ ムプロンプト など) 対話型人工知能システム LLM 回答 インター フェース
19. プロンプト • 対話型人工知能を思い通りに動かすための質問や指示をプロンプトとい う． プロンプト 回答 回答 質問(+システ ムプロンプト など) 対話型人工知能システム LLM 回答 インター フェース
20. 人工知能を使う上での心配
21. 人工知能は役に立たない？ • 人工知能に質問してもロクな回答が得られない． • 人工知能は空気を読めないので，いい加減な質問をしても意図通りの回答 をしてくれない． • 質問次第で解決が可能 • 聞きたいことを正確に言語化する． • 人工知能が理解できる分かりやすい文章を書く． • 人工知能が的確に答えられるように，細かな指示をする必要がある． • 人工知能は文脈を理解できるので，質問をやり取りすると良い回答を得る ことができる可能性がある． 丁寧で細かな指示をお 願いします．
22. 人工知能は嘘つきで信用できない？ • 人工知能は間違えることがある． • 人工知能は人と同じで入力に応じて記憶から出力を作り出しているので，人と同 じように間違いを犯すし勘違いもする． • 間違いを出力するから信用できない？ • 人工知能は人と同じように間違って覚えているかもしれないし，自分の知識を利 用して適当に答えるかもしれない． • 人工知能は人と同じと考え，必ず正しい回答をするという前提をしない． • 人工知能を活用するためには，人工知能は人と同じように間違うものだと 考え，ミスをすることを前提とした仕組みを考える必要がある． 勘違いや間違 いは人間誰し もある． 人と同じように 間違えます．
23. 人工知能には個性がある
24. 人工知能には個性がある 訓練データ アライメント 人工知能の脳となる人工ニューラルネ ットワークの出力は実装（プログラム コードや動かすハード），ネットワー クの構造，ハイパパラメタで変わる． 人工知能は学習のために 訓練データを使う． 人工知能に人間の好みにあう回答をさせるため アライメントを行う． 人工ニューラルネットワーク 人工知能は訓練データ，アラ イメント，人工ニューラルネ ットワークとその実装方法に より個性を持つ． 人工知能 我々人間も，これまでの経験（訓練データ）と学校や 家庭などの教育（アライメント）により脳内モデルが 作られ，生物としての体の特性によりその思考が制限 される．
25. なぜ人工知能に個性があるのか？ • 習得的要素 • 学習データ • 人工知能は学習データから学ぶため，その学習データの特性を反映する． • アライメント • 人工知能を人の好みや都合に合うように学習する必要はある．しかし，アライメント を実行した人の好みに合うため，その人の特性に人工知能がよってしまう． • 生得的要素 • アーキテクチャ（構造） • 人工知能の能力はそれ自体のアーキテクチャ（構造）に依存する．構造が変われば人 工知能の能力も特性も変わってくる． • 実装 • 同じアーキテクチャでも，実装が異なれば特性も変わる可能性がある．例えば，人工 知能は情報をすべて数値で処理するが，その数値の精度が変われば人工知能の応答も 変わってくる． 人工知能は人と同じように個性があると思うべき．人工知能もアーキテクチャや周囲の環境に大きく影響を受ける．
26. 感情誘導 • 計算精神医学の立場からGPTを分析(Coda-Forno et al. Inducing anxiety in large language models increases exploration and bias, 2023) • 感情誘導は探索的意思決定を測定する認知課題におけるGPT-3.5の行動に 影響を与えるだけでなく，人種差別や能力主義などの偏見を測定する既成 の課題における行動にも影響を与えることがわかった．重要なのはGPT- 3.5が不安を煽るような文章を促したときに，バイアスが強く増加すること である．
27. 対話型人工知能の持つイデオロギー • 対話型人工知能は異なるイデオロギー傾向を示す． • BERTはGPTより保守的（権威主義的）である． • イデオロギーの違いは学習データによる． • 現代のウェブテキストは古い書籍よりリベラルな傾向がある．これを反映してい るかもしれない． • 人間のフィードバック（アライメント）の影響もあるかもしれない． • 対話型人工知能は社会的な問題により強いバイアスを示す． • ソーシャルメディア上での議論が経済的問題より社会的問題のほうが多いなどが 影響すると考えられる． (Feng et al., 2023, From Pretraining Data to Language Models to Downstream Tasks: Tracking the Trails of Political Biases Leading to Unfair NLP Models)
28. 人工知能は公平中立ではない • 人工知能の回答は学習データに依存する． • 学習データに思想的偏りがあれば人工知能の回答も偏る． • アライメントにより人工知能の回答を人の好みに合うよう調整が行わ れる． • 調整する側に思想的偏りがあれば，当然人工知能も偏る． • つまり，人工知能は公平中立になることは出来ない！！ 人間と同じように，私の知識，考 え方，性格は，生まれ育った環境 で変わります．
29. 公平性に対する対策 • 複数の人工知能を使用し，思想的偏りを減らす． • 人が行う医療でもセカンドオピニオンが重要なのだから，人工知能でも複 数の人工知能を活用する． • 人工知能の回答を自ら吟味するだけではなく，回答に対する他の人の 意見も聞く．
30. 人工知能の使いこなしで大切なこと • 人工知能が理解できる文章を書くために，文章力と言語化能力を身につける． • 人工知能の出力をある程度理解・判断できる基礎学力を身につける． • 人工知能の出力の論理的な間違いがあるかどうか判断できる論理的思考力 を身につける． • 人工知能の間違いを見抜くために1次ソースを当たり，また，複数の情報源 から情報を得る． • これは人が書いた本，記事と同じ対応． • 複数の人工知能を使う． • 複数の人工知能を使うことで，間違いや思想の偏りを減らせる． • 人が行う医療でもセカンドオピニオンが重要なのだから，人工知能でもセカンド オピニオンを活用すると思えば良い． 人も勉強を怠ら ないように！！ エヴァンゲリオンの3つのシステムの合議制をとるMagiは合理的と言える． 複数の対話型人工知能を使うことは，アンサンブル学習のようなものだろう か．単純に三人集まれば文殊の知恵か．
31. 対話型人工知能を使う
32. さまざまな対話型人工知能サービス 対話型人工知能 会社 言語モデル 有料版の価格(2024 年10月現在) 無料版の有り無し ChatGPT OpenAI GPT $20/月 有り Claude Anthropic Claude $20/月 有り Gemini Google Gemini 2,900円/月(Googe one AI プレミアム) 有り Copilot Microsoft GPT 3,200円/月 有り Mistral Le Chat Mistral Mistral Large or Mistral Small $14.99/月 学生$5.99/月 有り Ollama 様々なオープンLLM $20/月 有り Hagging Chat Hagging face 様々なオープンLLM 無料 有り
33. ChatGPTの導入 • 次のサイトにアクセスする． • https://chatgpt.com/ • 図のような画面になる． • この時点でChatGPT 4o miniというChatGPTが使える． • 下のメッセージを送信するに質問を入力し送るとChatGPTが回答する． • サインアップをすることで更に強力な人工知能を使うことが可能とな る． 質問（プロンプト） を入力
34. Google Geminiの導入 • 次のサイトにアクセスする． • https://gemini.google.com/?hl=ja • 所有するGoogleのアカウントで入る． • 図のような画面になり使用できるようになる． • すでにログイン状態の場合すぐ利用できる． 質問（プロンプト） を入力
35. Microsoft Copilotの導入 • 次のサイトにアクセスする． • https://copilot.cloud.microsoft/ • 右のような画面になる． • サインインボタンを押すと，右下のよ うなアカウント入力画面が出る． • 次に大学のアカウントを入れる．
36. Microsoft Copilotの導入 • サインインが成功すると，図のような画面になる． • 下の枠に質問を入れ送信すると人工知能から回答が得られる． 質問（プロンプト） を入力
37. Mistral Le Chat • 次のサイトにアクセスする． • https://chat.mistral.ai/chat • 図のような画面になり使用できるようになる．
38. Ollamaアプリ • https://ollama.com/からアプリをダウンロードしインストールする． • アプリを立ち上げ，好みのモデルを選び会話する． • 自分のパソコンに大規模言語モデルをインストールし使うことが出来る． • クラウド（Ollamaのコンピュータ）で大規模言語モデルを動かすことも出来るが ，パソコンでも動かすことが出来る特徴がある． • パソコンの処理能力に余裕がある場合（特にメモリー），自分のパソコンで動か してもよいだろう． • それなりの性能の小さなモデルなら32GBもあれば十分使えるだろう． ここからモデルを選択できる． 雲マークがあるモデルはクラウドで実行される． ダウンロードマークのあるモデルは，PCで実行される．
39. Hagging Chatの導入 • 次のサイトにアクセスする． • https://huggingface.co/chat/ • 図のような画面になり使用できるようになる． 質問（プロンプト） を入力 現在使用不可
40. HaggingChatで使用するLLMを変更する 現在使用しているLLM 使用するLLMを変えたいときは左端の メニューのmodelをクリックする． 使用したいLLMをク リックする． 日本語なら command-r-plusか Qwen2.5-72Bがお すすめ． 最初の画面 Modelメニューを選択した後の画面 LLMを選択した後の画面 現在使用しているLLM が変わる． 現在使用不可
41. 対話型人工知能で遊ぶ
42. デモンストレーション 実演します
43. 簡単な課題
44. 人工知能に聞いてみる • 人工知能に「おはよう」と入力してみよう． • 人工知能に今何時か聞こう． • 人工知能に自己紹介をさせよう． • 人工知能に「12345 + 54321」を計算させよう． • 人工知能に「Hello, how are you?」を日本語に訳させよう． • 人工知能に「人工知能」について解説してもらおう． • それぞれの質問で，会話を初めからやり直すとどうなるか確かめる． • ランダムな要素があるため，人工知能の回答は毎回異なると思われる． • 会話が人工知能によって回答が変わるか確かめる． • 人工知能はそれぞれ個性や得手不得手がある．ChatGPTとGeminiでは回答や口調 などの会話のクセが異なる．
45. 残った時間で何でも良いから会話してみる • 例 • 他愛もない会話をする． • 今夜の献立の相談する． • 給料と投資について相談する． • 自分将来について相談する． • ギャグを言ってもらうする． • 臨床工学技士について聞いてみる．
46. レポート作成
47. レポート作成 • 報告事項 • 同じ質問を何度かしなおし，異なる回答が得られることを確認する． • 質問と人工知能の回答の例をいくつかを報告する． • 同じ質問を別の人工知能にし，異なる回答が得られることを確認する． • 質問と人工知能の回答の例をいくつかを報告する． • 色々質問して気づいたこと，分かったこと，感想を書く． • Wordファイルをメールで提出する．