Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
GPT-3.5 Turbo をファインチューニングして自分のクローンを作った話
Search
Yuto Takamune
November 28, 2023
Programming
0
300
GPT-3.5 Turbo をファインチューニングして自分のクローンを作った話
Yuto Takamune
November 28, 2023
Tweet
Share
More Decks by Yuto Takamune
See All by Yuto Takamune
RustのLINEBot SDKを自作した話
shinbunbun_
0
1.6k
セキュリティキャンプ2023 Y3分散合意ゼミ 最終発表
shinbunbun_
0
3.6k
NixOSでもご自宅k8sがしたい!
shinbunbun_
2
3.5k
カーネルレベルでTwitterを禁止しよう
shinbunbun_
0
220
CRDTで始めるコンフリクトしないデータ同期
shinbunbun_
0
470
Haskell初心者がHaskellの楽しさについて語る
shinbunbun_
0
180
Rustで楕円曲線暗号の署名アルゴリズムをフルスクラッチ実装してみた話
shinbunbun_
0
1.5k
IEEE802.1X認証を導入してみた
shinbunbun_
0
250
UBICの食材管理APIを作った話
shinbunbun_
0
210
Other Decks in Programming
See All in Programming
バリデーションライブラリ徹底比較
nayuta999999
1
440
JVM の仕組みを理解して PHP で実装してみよう
m3m0r7
PRO
1
250
AIにコードを生成するコードを作らせて、再現性を担保しよう! / Let AI generate code to ensure reproducibility
yamachu
7
6.1k
從零到一:搭建你的第一個 Observability 平台
blueswen
0
220
SpringBootにおけるオブザーバビリティのなにか
irof
1
890
RubyKaigi Hack Space in Tokyo & 函館最速 "予習" 会 / RubyKaigi Hack Space in Tokyo & The Fastest Briefing of RubyKaigi 2026 in Hakodate
moznion
1
130
テスト分析入門/Test Analysis Tutorial
goyoki
12
2.7k
REST API設計の実践 – ベストプラクティスとその落とし穴
kentaroutakeda
2
320
ユーザーにサブドメインの ECサイトを提供したい (あるいは) 2026年函館で一番熱くなるかもしれない言語の話
uvb_76
0
180
TypeScript LSP の今までとこれから
quramy
0
110
eBPFを用いたAIネットワーク監視システム論文の実装 / eBPF Japan Meetup #4
yuukit
3
620
Babylon.js 8.0のアプデ情報を 軽率にキャッチアップ / catch-up-babylonjs-8
drumath2237
0
110
Featured
See All Featured
What's in a price? How to price your products and services
michaelherold
245
12k
Refactoring Trust on Your Teams (GOTO; Chicago 2020)
rmw
34
3k
GraphQLとの向き合い方2022年版
quramy
46
14k
StorybookのUI Testing Handbookを読んだ
zakiyama
30
5.8k
The Myth of the Modular Monolith - Day 2 Keynote - Rails World 2024
eileencodes
25
2.8k
Agile that works and the tools we love
rasmusluckow
329
21k
No one is an island. Learnings from fostering a developers community.
thoeni
21
3.3k
Helping Users Find Their Own Way: Creating Modern Search Experiences
danielanewman
29
2.6k
Building Applications with DynamoDB
mza
95
6.4k
I Don’t Have Time: Getting Over the Fear to Launch Your Podcast
jcasabona
32
2.3k
Performance Is Good for Brains [We Love Speed 2024]
tammyeverts
10
840
[Rails World 2023 - Day 1 Closing Keynote] - The Magic of Rails
eileencodes
34
2.3k
Transcript
GPT-3.5 Turbo をファインチューニングして 自分のクローンを作った話 TOGATTA SERVER LT Vol.5 しんぶんぶん
自己紹介 • 名前: しんぶんぶん • 所属: 会津大学学部3年 • Twitter: @shinbunbun_,
@4fa19623 • LINE API Expert / seccamp ’23 / Cybozu labyouth 13th ◦ セキュキャン: 分散合意ゼミ(Raft) ◦ ラボユース: CRDTを使ったP2P分散データベースの開発
突然ですがみなさん、自分のクローン作りたくないですか?
クローンを作るとこんなに良いことが! • 突然死んでも大丈夫!(諸説) • 自分自身と会話することでメタ認知が進む!(諸説)
ほな作るかー
レシピ • X(Twitter)のツイートアーカイブ少々 • Python少々 • “圧倒的財力”(嘘) ◦ 実験には100ドル以上かかった
で、作り方は??
全ての叡智がここに!! TOGATTA SERVER TECHBOOK VOL.1 1冊 1000円 https://techbookfest.org/product/rqa UJGEBP4Gkmexq8v0unS
ということで、作り方は解説しません(カス)
簡単に手法を解説 • まずTwitterのアーカイブをとってくる • アシスタント側の発話にツイートをぶち込んでファインチューニングする これだけ!簡単!!!
そして生まれた化け物がこちら
None
鍵垢のツイートも全部放り込んだらだいぶ思想強めになりました😇
感想 • 鍵垢の思想強めなツイートをたくさん放り込んだので、思想強めなことを返してくる ようになった • 支離滅裂な回答をすることが多いけど、たまにめちゃめちゃ面白いことを言ってくる のとても好き • 化け物を生み出してしまった...の気持ち
今後の展望 • 最近GPT4もファインチューニングできるようになったらしいので試したい • shinbunbunGPTを埋め込んだGPT墓石を作って突然の死に備えたい