Upgrade to Pro — share decks privately, control downloads, hide ads and more …

ジェネレーティブAIとの共創

 ジェネレーティブAIとの共創

『MetaAI、Databricks、Avanade社員が語る自社LLM開発の最新状況とその活用』
https://dllab.connpass.com/event/283199/
ジェネレーティブAIのLLMの中で特にChatGPT(Azure OpenAI Service)について、改めて理解した上で、現在どのように人と共創していくべきか、前回登壇で好評いただいた「AIとAIの共創アプリ」にも簡単に触れつつ、もう少し深堀した内容として、ChatGPTのまだ不得意な部分を補う方法を紹介します。

アバナード株式会社
Regional Innovation DX/AI Lead
Yuya Kakizaki

Yuya Kakizaki

May 30, 2023
Tweet

Other Decks in Technology

Transcript

  1. ©2023 Avanade Inc. All Rights Reserved. 1
    ジェネレーティブAIとの共創
    2023/5/25 柿崎 裕也
    #mubert
    ※Mubertによって生成

    View Slide

  2. ©2023 Avanade Inc. All Rights Reserved. 2
    自己紹介
    柿崎 裕也(かきざき ゆうや)
    ❑ Regional Innovation DX/AI Lead
    Software Engineering
    ❑ 主に製造DXプロジェクトをリード
    (Smart Factoryなど)
    ❑ メンター活動(IDEACTIVE JAPANなど)
    ❑ 製造DXセミナー登壇
    ❑ 4/27(木)第1回Generative AI勉強会登壇
    (タイトル:AIとAIの共創アプリ)
    ※本日のセミナー内容は
    個人の見解となります。
    [email protected]

    View Slide

  3. ©2023 Avanade Inc. All Rights Reserved. 3
    4/27(木)登壇前半内容のハイライト

    View Slide

  4. ©2023 Avanade Inc. All Rights Reserved. 4
    4/27(木)登壇前半内容のハイライト

    View Slide

  5. ©2023 Avanade Inc. All Rights Reserved. 5
    4/27(木)登壇前半内容のハイライト

    View Slide

  6. ©2023 Avanade Inc. All Rights Reserved. 6
    4/27(木)登壇前半内容のハイライト

    View Slide

  7. ©2023 Avanade Inc. All Rights Reserved. 7
    4/27(木)登壇前半内容のハイライト

    View Slide

  8. ©2023 Avanade Inc. All Rights Reserved. 8
    AIとAIの共創アプリ
    AI自身に考えてもらうことで、プロンプトに依存せずに理解を深めたり、抜け漏れを防ぐことができます。
    AIとAIの共創
    ヒューマンデジタルツイン
    議題
    サマリー
    質疑応答ChatGPT 賛成反対ChatGPT
    「デモアプリ」
    Azure OpenAI Service
    Temperature:07
    ※Temperature設定によって、
    回答のばらつきが異なります。
    Azure OpenAI Serviceの
    ChatGPT3/9(木)リリース後作成
    理解を深めることが
    できる
    何がわからないのか、
    わからない人などにも
    向いている
    バイアス・抜け漏れ防
    止をすることができる
    多角的に考えたいと
    きなどにも向いている
    役割を適切に与えること
    で、より目的に向けた効
    果が出る可能性が高い
    デモ動画 デモ動画

    View Slide

  9. ©2023 Avanade Inc. All Rights Reserved. 9
    AIとAIの共創アプリ
    AI自身に考えてもらうことで、プロンプトに依存せずに理解を深めたり、抜け漏れを防ぐことができます。
    AIとAIの共創
    ヒューマンデジタルツイン
    議題
    サマリー
    質疑応答ChatGPT 賛成反対ChatGPT
    「デモアプリ」
    Azure OpenAI Service
    Temperature:07
    ※Temperature設定によって、
    回答のばらつきが異なります。
    Azure OpenAI Serviceの
    ChatGPT3/9(木)リリース後作成
    理解を深めることが
    できる
    何がわからないのか、
    わからない人などにも
    向いている
    バイアス・抜け漏れ防
    止をすることができる
    多角的に考えたいと
    きなどにも向いている
    役割を適切に与えること
    で、より目的に向けた効
    果が出る可能性が高い
    質問者を法律家にした場合
    ※回答内容はあっていない可能性があります。

    View Slide

  10. ©2023 Avanade Inc. All Rights Reserved. 10
    ジェネレーティブAI(LLM:GPT)
    LLMの代表であるChatGPTに得意不得意があります。ただし改善するための方法も出てきています。
    2021年9月
    2021年
    2022年
    2023年
    Webサイト
    英語:過半数
    日本語:数%


    GPT(+ Codex)
    ChatGPT
    RLHF
    Transformer
    ■記憶
    ・トークン数に依存
    ※トークンは会話をやり取りするための単語の断片
    ※英語の方が節約できる
    ※API利用では従量課金がかかる
    GPT3.5:約4000トークン(約3000語)
    GPT4:約32000トークン(約30000語)
    ■回答内容
    ・単語予測器
    ※モデルとなっているTransformerは翻訳のために出てきた
    日本の 首都は 〇〇
    ※誤りは元データが誤っている、学習データ量が足りてないなど

    View Slide

  11. ©2023 Avanade Inc. All Rights Reserved. 11
    人とジェネレーティブAI(LLM)の関係
    人の価値やジェネレーティブAI(LLM)を改めて理解して、共創していくことが大切だと考えています。
    データ
    AI
    人(の価値)
    教える (未取得情報/
    定性的情報など)
    感情(欲望など)
    倫理・モラル
    動作
    五感
    依頼
    確認
    理解
    回答
    プロンプト
    返答
    著作権
    誤情報・安全性
    バイアス
    情報漏洩
    セキュリティリスク
    中央値
    創造性
    トレードオフ?
    創造性
    Temperature調整
    状況を教える/理解する
    必要がある
    Webデータ
    書籍
    記事
    QA
    ・・・
    RLHF
    体験
    ※GPT4トレーニング
    データ非公開
    ※人からのデータに基づい
    ているので、オリジナル性
    に乏しい場合がある
    RCI

    View Slide

  12. ©2023 Avanade Inc. All Rights Reserved. 12
    人とジェネレーティブAI(LLM)の関係
    人の価値やジェネレーティブAI(LLM)を改めて理解して、共創していくことが大切だと考えています。
    Embedding
    独自データ

    ReAct
    他ツール

    ファインチューニング

    専門データ

    View Slide

  13. ©2023 Avanade Inc. All Rights Reserved. 13
    ChatGPTの不得意を補う方法
    ChatGPTの回答精度を向上させるために、以下の方法があります。
    プロンプト 回答
    1. Embedding 2. ファインチューニング 3. ReAct
    学習済み知識
    専門知識
    微調整
    プロンプト
    推測/Act
    外部ツール
    外部
    データ
    ・コスト、時間が結構かかる
    ・プロンプト負担減、トークン数減
    ・精度向上、リクエストレイテンシ減
    学習データの質依存
    データ量に対して直線的に性能向上の傾向あり
    学習
    専門情報
    プロンプト
    独自データ
    (ベクトル化) 独自情報
    質問内容
    (ベクトル化)
    「〇〇はXXですか?」
    類似度の高い
    内容取得
    取得内容を参照して
    質問の回答依頼

    View Slide

  14. ©2023 Avanade Inc. All Rights Reserved. 14
    参考:アイデア共創利用例
    アイデア内容に対して、ChatGPTから質問や助言など実施してもらい、ブラッシュアップします。
    ※Innovate Contest 2020 柿崎参加チーム内容
    アイデア内容
    Embedding
    (ベクトル化)
    ※アイデア情報をChatGPTに投げかけても問題ないか合意の上、
    必要な場合に取り組んでいます。
    トレーニングデータとしては利用されない仕組みです。
    LlamaIndex(旧GPT Index)
    OpenAI Embeddings API Tutorial
    LangChain Embeddings
    Azure OpenAI Service
    ChatGPT ■多角的助言
    ■専門的助言
    ■類似アイデア確認
    ・・・
    共創

    View Slide

  15. ©2023 Avanade Inc. All Rights Reserved. 15
    参考:ChatGPT プラグイン/ブラウジング
    ChatGPTの回答精度を向上させるために、プラグインやブラウジング機能が使えるようになりました。
    ❑ プラグイン/ブラウジング利用方法
    ➢ ChatGPT Plus(有料版:月額20ドル) 登録
    ➢ GPT4のみ有効
    ➢ プラグインの同時利用は3つまで
    別のプラグイン利用時は新規Chat作成必要
    有効化
    ・プラグインとは

    View Slide

  16. ©2023 Avanade Inc. All Rights Reserved. 16
    日本や個人にもリープフロッグチャンス??
    日本や個人でも、新たな土台に変わることで、チャンスを掴むことができるかもしれません。
    ※DALL-Eによって生成 ※DALL-Eによって生成
    個人
    モデル
    インフラ
    アプリ
    ビジネス
    ジェネレーティブAI

    View Slide

  17. 17
    ©2023 Avanade Inc. All Rights Reserved.
    アバナード株式会社
    会社名 アバナード株式会社
    代表取締役 鈴木 淳一(すずき じゅんいち)
    日本法人設立 2005年7月
    創業 2000年4月(米国ワシントン州シアトル)
    本社所在地 東京都港区六本木1-6-1 泉ガーデンタワー9階
    電話番号 03-6234-0150
    従業員数 約1,000名(2023年4月現在)
    事業内容
    テクノロジーサービス
    (コンサルティング、システムインテグレーション)
    ウェブサイト http://www.avanade.com/ja-jp

    View Slide

  18. ©2023 Avanade Inc. All Rights Reserved. 18

    View Slide