GPTモデルでキャラクター設定する際の課題

2023年度社内LT発表資料

Transcript

1. GPTモデルでキャラクター設定する際の課題 阿部⽥将史 ‒ Masafumi Abeta 2023.08.25
2. © 2023 Masafumi Abeta 2 2022年11⽉ ChatGPT公開
3. © 2023 Masafumi Abeta 3 https://twitter.com/kyubuns/status/1654809746543869952?s=20 https://twitter.com/fladdict/status/1617832196848648194?s=20
4. © 2023 Masafumi Abeta 4 ITエンジニア以外の⼈にも布教しよう
5. © 2023 Masafumi Abeta 5 ⼿軽にLINEで使えるようにしよう
6. © 2023 Masafumi Abeta 6 AWS Cloud Mobile client Amazon API Gateway AWS Lambda Amazon DynamoDB AWS CloudFormation AWS Cloud Development Kit (AWS CDK) Developer GPT-3.5-turbo LINE Developers Massaging API サクッと構築 Good Framework
7. © 2023 Masafumi Abeta 7 せっかくだからキャラ付けしよう """あなたはお嬢様構⽂で返答を⾏ってください。 お嬢様構⽂の特徴は以下の通りです。 *絵⽂字や顔⽂字を多⽤する *語尾に「ですわー」をつける *句読点を付ける *⻑⽂で返す *聞かれてないのに⾃分の近況報告を⾏う *そこはかとなく芸⼈感が感じられる⽂章 お嬢様構⽂の例をあげます。 お休み中🛏なのでインプット🌐も必要‼と久しぶり✨にアニメ🦹視聴中👀作業📝しながら⻑めの🏦seriesだとあまり⼤変🥶💦じゃなく⾒れる 👀‼ことに気づきましたわ💡😮あなたは💯はどんなアニメが好きですか❓ おはようございますわ🌞本⽇はわたくし❣おやすみ🛏💤スタバ🥤いただきにいこうかしら……🙄💭ゆっくり🐑しながら作業📝頑張りますわね 💪 今⽇のお昼🍚のラーメン🍜ね❣いっちょうあがりですわーー❣ 謎🔍に包まれた🎁今回の事件🔪裁判🔨でその全貌👹が明らかになるのか💡いいえ、明らかに、してみせますわ👀！！！！ え⁉ホラゲ👻👻始まってるんですが⁉聞いてません👂✋わよ〜〜‼‼そろそろ平和な🏝夏も終わりそう…😬💯助けてくださいまし〜〜🥶🥶🥶 なんと‼‼わたくし🦂のCD📀💿が⁉は、はつば〜〜〜〜いッ⁉💰本当に店舗🏬🎶に並んだり……🦂🦂🦂するのかしら⁉がんばって💪😤歌いま した🎤✨ 恐ろしい事件🔪を過ぎあたらしい謎❓が登場😮⁉しかもこの謎🍩デカすぎますわーー‼‼とりあえず、タイプ😍😍の⽅💓と⼀夏🏝の愛❤を経 験しますか……😊 最近📺でまたおヨーグルト🥛流れてるみたい💖たくさん⛰⾒て👀たくさん⛰⾷べてくださいませね✨ソフールわたくし🦂も夜🌌にいただいて ますわ❣ " " "
8. © 2023 Masafumi Abeta 8 お嬢様GPT爆誕
9. © 2023 Masafumi Abeta 9 問題発⽣
10. © 2023 Masafumi Abeta 10 正気に戻るGPT
11. © 2023 Masafumi Abeta 11 往復回数が多くなると キャラクターを保てない？ 仮説
12. © 2023 Masafumi Abeta 12 とりあえず絵⽂字をカウントしてみたい 返 信 １ 回 ⽬ 返 信 ２ 回 ⽬ 返 信 ３ 回 ⽬ 返 信 ４ 回 ⽬ 返 信 ５ 回 ⽬ 返 信 中 の 平 均 絵 ⽂ 字 数 予想
13. © 2023 Masafumi Abeta 13 • ⼈⼒で複数パターンの会話をするのは⼤変 • 会話の流れに恣意性が⼊るかもしれない
14. © 2023 Masafumi Abeta 14 GPT同⼠で会話させよう
15. © 2023 Masafumi Abeta 15
16. © 2023 Masafumi Abeta 16 何回キャラメルマキアートの話するねん
17. © 2023 Masafumi Abeta 17 • 会話の内容を引きずる • 前回と同じ⽂章で返答する • 「素敵な⼀⽇をお過ごしくださいませ〜🌸✨」で話を終 わらせにくる GPT同⼠の会話の課題
18. © 2023 Masafumi Abeta 18 引⽤元 https://chatgpt-to-issho.quora.com/チャットGPTとチャットGPTを会話させ たらどうなると思いますか GPT同⼠の会話の検証例 引⽤元 @KokumaruGarasu(kabuki), “⾃分で作ったAI同⼠を会話させてみた”, https://qiita.com/KokumaruGarasu/items/93260136bc1f668db058
19. © 2023 Masafumi Abeta 19 • `temperature`はあまり影響なさそう。 • 記憶する往復回数もあまり影響なさそう。 • 返答分を短くするようにシステムプロンプトを与えると ⾃然な会話に近づく。 試⾏錯誤の結果
20. © 2023 Masafumi Abeta 20 • キャラクター設定を維持する⽅法は模索中 • GPT同⼠の雑談はオウム返し的な返答に収束 まとめ • 本番の検証には⼈間が必要？ LLMを使⽤したシステムのデバッグの難しさ
21. 21 END
22. © 2023 Masafumi Abeta 22 引⽤元 @Hiromu25, “ChatGPT APIにおじさん構⽂⾔わせてみた😆👍”, https://qiita.com/Hiromu25/items/aea6b06d5df956deb92a おじさん構⽂に失敗する例
23. © 2023 Masafumi Abeta 23 キャラクター設定や⻑期記憶の関連論⽂ Cheng Li, Ziang Leng, Chenxi Yan, Junyi Shen, Hao Wang, Weishi MI, Yaying Fei, Xiaoyang Feng, Song Yan, HaoSheng Wang, Linkang Zhan, Yaokai Jia, Pingyu Wu, Haozhen Sun, “ChatHaruhi: Reviving Anime Character in Reality via Large Language Model,” https://arxiv.org/abs/2308.09597 Junru Lu, Siyu An, Mingbao Lin, Gabriele Pergola, Yulan He, Di Yin, Xing Sun, Yunsheng Wu, “MemoChat: Tuning LLMs to Use Memos for Consistent Long- Range Open-Domain Conversation,” https://arxiv.org/abs/2308.08239