ジェネレーティブAIとの共創

『MetaAI、Databricks、Avanade社員が語る自社LLM開発の最新状況とその活用』
https://dllab.connpass.com/event/283199/
ジェネレーティブAIのLLMの中で特にChatGPT(Azure OpenAI Service)について、改めて理解した上で、現在どのように人と共創していくべきか、前回登壇で好評いただいた「AIとAIの共創アプリ」にも簡単に触れつつ、もう少し深堀した内容として、ChatGPTのまだ不得意な部分を補う方法を紹介します。

アバナード株式会社
Regional Innovation DX/AI Lead
Yuya Kakizaki

Transcript

1. ©2023 Avanade Inc. All Rights Reserved. 1 ジェネレーティブAIとの共創 2023/5/25 柿崎 裕也 #mubert ※Mubertによって生成
2. ©2023 Avanade Inc. All Rights Reserved. 2 自己紹介 柿崎 裕也（かきざき ゆうや） ❑ Regional Innovation DX/AI Lead Software Engineering ❑ 主に製造DXプロジェクトをリード (Smart Factoryなど) ❑ メンター活動（IDEACTIVE JAPANなど） ❑ 製造DXセミナー登壇 ❑ 4/27(木)第1回Generative AI勉強会登壇 (タイトル：AIとAIの共創アプリ) ※本日のセミナー内容は 個人の見解となります。 yuya.kakizaki@avanade.com
3. ©2023 Avanade Inc. All Rights Reserved. 3 4/27(木)登壇前半内容のハイライト
4. ©2023 Avanade Inc. All Rights Reserved. 4 4/27(木)登壇前半内容のハイライト
5. ©2023 Avanade Inc. All Rights Reserved. 5 4/27(木)登壇前半内容のハイライト
6. ©2023 Avanade Inc. All Rights Reserved. 6 4/27(木)登壇前半内容のハイライト
7. ©2023 Avanade Inc. All Rights Reserved. 7 4/27(木)登壇前半内容のハイライト
8. ©2023 Avanade Inc. All Rights Reserved. 8 AIとAIの共創アプリ AI自身に考えてもらうことで、プロンプトに依存せずに理解を深めたり、抜け漏れを防ぐことができます。 AIとAIの共創 ヒューマンデジタルツイン 議題 サマリー 質疑応答ChatGPT 賛成反対ChatGPT 「デモアプリ」 Azure OpenAI Service Temperature：07 ※Temperature設定によって、 回答のばらつきが異なります。 Azure OpenAI Serviceの ChatGPT3/9(木)リリース後作成 理解を深めることが できる 何がわからないのか、 わからない人などにも 向いている バイアス・抜け漏れ防 止をすることができる 多角的に考えたいと きなどにも向いている 役割を適切に与えること で、より目的に向けた効 果が出る可能性が高い デモ動画 デモ動画
9. ©2023 Avanade Inc. All Rights Reserved. 9 AIとAIの共創アプリ AI自身に考えてもらうことで、プロンプトに依存せずに理解を深めたり、抜け漏れを防ぐことができます。 AIとAIの共創 ヒューマンデジタルツイン 議題 サマリー 質疑応答ChatGPT 賛成反対ChatGPT 「デモアプリ」 Azure OpenAI Service Temperature：07 ※Temperature設定によって、 回答のばらつきが異なります。 Azure OpenAI Serviceの ChatGPT3/9(木)リリース後作成 理解を深めることが できる 何がわからないのか、 わからない人などにも 向いている バイアス・抜け漏れ防 止をすることができる 多角的に考えたいと きなどにも向いている 役割を適切に与えること で、より目的に向けた効 果が出る可能性が高い 質問者を法律家にした場合 ※回答内容はあっていない可能性があります。
10. ©2023 Avanade Inc. All Rights Reserved. 10 ジェネレーティブAI(LLM：GPT) LLMの代表であるChatGPTに得意不得意があります。ただし改善するための方法も出てきています。 2021年9月 2021年 2022年 2023年 Webサイト 英語：過半数 日本語：数% 学 習 GPT（+ Codex） ChatGPT RLHF Transformer ▪記憶 ・トークン数に依存 ※トークンは会話をやり取りするための単語の断片 ※英語の方が節約できる ※API利用では従量課金がかかる GPT3.5：約4000トークン(約3000語) GPT4：約32000トークン(約30000語) ▪回答内容 ・単語予測器 ※モデルとなっているTransformerは翻訳のために出てきた 日本の 首都は 〇〇 ※誤りは元データが誤っている、学習データ量が足りてないなど
11. ©2023 Avanade Inc. All Rights Reserved. 11 人とジェネレーティブAI(LLM)の関係 人の価値やジェネレーティブAI(LLM)を改めて理解して、共創していくことが大切だと考えています。 データ AI 人(の価値) 教える (未取得情報/ 定性的情報など) 感情(欲望など) 倫理・モラル 動作 五感 依頼 確認 理解 回答 プロンプト 返答 著作権 誤情報・安全性 バイアス 情報漏洩 セキュリティリスク 中央値 創造性 トレードオフ? 創造性 Temperature調整 状況を教える/理解する 必要がある Webデータ 書籍 記事 QA ・・・ RLHF 体験 ※GPT4トレーニング データ非公開 ※人からのデータに基づい ているので、オリジナル性 に乏しい場合がある RCI
12. ©2023 Avanade Inc. All Rights Reserved. 12 人とジェネレーティブAI(LLM)の関係 人の価値やジェネレーティブAI(LLM)を改めて理解して、共創していくことが大切だと考えています。 Embedding 独自データ １ ReAct 他ツール ３ ファインチューニング ２ 専門データ
13. ©2023 Avanade Inc. All Rights Reserved. 13 ChatGPTの不得意を補う方法 ChatGPTの回答精度を向上させるために、以下の方法があります。 プロンプト 回答 1. Embedding 2. ファインチューニング 3. ReAct 学習済み知識 専門知識 微調整 プロンプト 推測/Act 外部ツール 外部 データ ・コスト、時間が結構かかる ・プロンプト負担減、トークン数減 ・精度向上、リクエストレイテンシ減 学習データの質依存 データ量に対して直線的に性能向上の傾向あり 学習 専門情報 プロンプト 独自データ (ベクトル化) 独自情報 質問内容 (ベクトル化) 「〇〇はXXですか？」 類似度の高い 内容取得 取得内容を参照して 質問の回答依頼
14. ©2023 Avanade Inc. All Rights Reserved. 14 参考：アイデア共創利用例 アイデア内容に対して、ChatGPTから質問や助言など実施してもらい、ブラッシュアップします。 ※Innovate Contest 2020 柿崎参加チーム内容 アイデア内容 Embedding (ベクトル化) ※アイデア情報をChatGPTに投げかけても問題ないか合意の上、 必要な場合に取り組んでいます。 トレーニングデータとしては利用されない仕組みです。 LlamaIndex（旧GPT Index） OpenAI Embeddings API Tutorial LangChain Embeddings Azure OpenAI Service ChatGPT ▪多角的助言 ▪専門的助言 ▪類似アイデア確認 ・・・ 共創
15. ©2023 Avanade Inc. All Rights Reserved. 15 参考：ChatGPT プラグイン/ブラウジング ChatGPTの回答精度を向上させるために、プラグインやブラウジング機能が使えるようになりました。 ❑ プラグイン/ブラウジング利用方法 ➢ ChatGPT Plus(有料版:月額20ドル) 登録 ➢ GPT4のみ有効 ➢ プラグインの同時利用は３つまで 別のプラグイン利用時は新規Chat作成必要 有効化 ・プラグインとは
16. ©2023 Avanade Inc. All Rights Reserved. 16 日本や個人にもリープフロッグチャンス？？ 日本や個人でも、新たな土台に変わることで、チャンスを掴むことができるかもしれません。 ※DALL-Eによって生成 ※DALL-Eによって生成 個人 モデル インフラ アプリ ビジネス ジェネレーティブAI
17. 17 ©2023 Avanade Inc. All Rights Reserved. アバナード株式会社 会社名 アバナード株式会社 代表取締役 鈴木 淳一（すずき じゅんいち） 日本法人設立 2005年7月 創業 2000年4月（米国ワシントン州シアトル） 本社所在地 東京都港区六本木1-6-1 泉ガーデンタワー9階 電話番号 03-6234-0150 従業員数 約1,000名（2023年4月現在） 事業内容 テクノロジーサービス （コンサルティング、システムインテグレーション） ウェブサイト http://www.avanade.com/ja-jp
18. ©2023 Avanade Inc. All Rights Reserved. 18