Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
GPT-3.5 Turbo をファインチューニングして自分のクローンを作った話
Search
Yuto Takamune
November 28, 2023
Programming
0
170
GPT-3.5 Turbo をファインチューニングして自分のクローンを作った話
Yuto Takamune
November 28, 2023
Tweet
Share
More Decks by Yuto Takamune
See All by Yuto Takamune
RustのLINEBot SDKを自作した話
shinbunbun_
0
110
セキュリティキャンプ2023 Y3分散合意ゼミ 最終発表
shinbunbun_
0
1.2k
NixOSでもご自宅k8sがしたい!
shinbunbun_
2
980
カーネルレベルでTwitterを禁止しよう
shinbunbun_
0
130
CRDTで始めるコンフリクトしないデータ同期
shinbunbun_
0
190
Haskell初心者がHaskellの楽しさについて語る
shinbunbun_
0
140
Rustで楕円曲線暗号の署名アルゴリズムをフルスクラッチ実装してみた話
shinbunbun_
0
25
IEEE802.1X認証を導入してみた
shinbunbun_
0
170
UBICの食材管理APIを作った話
shinbunbun_
0
160
Other Decks in Programming
See All in Programming
Jetpack Composeとデザインシステム
rmakiyama
0
230
Deep Dive into React Stream/Serialize
mugi_uno
4
860
TypeScriptとGraphQLで実現する 型安全なAPI実装 / TSKaigi 2024
hokaccha
5
2.7k
freeeのエンジニアが 就活で出そうな コーディングテストを 解説してみる
freee
1
160
The Cutting Edge Of Versioning (LambdaConf 2024)
chriskrycho
0
250
AmperとFleetを使ったAndroidアプリ
yoppie
0
300
戦略的DDDは重いのか? / Is strategic DDD heavy?
pictiny
3
2.1k
Implementing Design Systems in Swift
seyfoyun
2
530
Good first issues of TypeProf
mame
3
510
Namespace, What and Why
tagomoris
3
660
Powerfully Typed TypeScript
euxn23
3
1.5k
PHPコードの実行モデルを理解する / Understanding-the-PHP-Execution-Model
shin1x1
0
1.1k
Featured
See All Featured
I Don’t Have Time: Getting Over the Fear to Launch Your Podcast
jcasabona
23
1.7k
In The Pink: A Labor of Love
frogandcode
138
21k
Stop Working from a Prison Cell
hatefulcrawdad
266
19k
Building Flexible Design Systems
yeseniaperezcruz
320
37k
How to Ace a Technical Interview
jacobian
273
22k
The World Runs on Bad Software
bkeepers
PRO
61
6.7k
JavaScript: Past, Present, and Future - NDC Porto 2020
reverentgeek
41
4.5k
Fantastic passwords and where to find them - at NoRuKo
philnash
39
2.5k
Bootstrapping a Software Product
garrettdimon
PRO
302
110k
XXLCSS - How to scale CSS and keep your sanity
sugarenia
242
1.2M
Imperfection Machines: The Place of Print at Facebook
scottboms
261
12k
Building Effective Engineering Teams - LeadDev
addyosmani
33
1.9k
Transcript
GPT-3.5 Turbo をファインチューニングして 自分のクローンを作った話 TOGATTA SERVER LT Vol.5 しんぶんぶん
自己紹介 • 名前: しんぶんぶん • 所属: 会津大学学部3年 • Twitter: @shinbunbun_,
@4fa19623 • LINE API Expert / seccamp ’23 / Cybozu labyouth 13th ◦ セキュキャン: 分散合意ゼミ(Raft) ◦ ラボユース: CRDTを使ったP2P分散データベースの開発
突然ですがみなさん、自分のクローン作りたくないですか?
クローンを作るとこんなに良いことが! • 突然死んでも大丈夫!(諸説) • 自分自身と会話することでメタ認知が進む!(諸説)
ほな作るかー
レシピ • X(Twitter)のツイートアーカイブ少々 • Python少々 • “圧倒的財力”(嘘) ◦ 実験には100ドル以上かかった
で、作り方は??
全ての叡智がここに!! TOGATTA SERVER TECHBOOK VOL.1 1冊 1000円 https://techbookfest.org/product/rqa UJGEBP4Gkmexq8v0unS
ということで、作り方は解説しません(カス)
簡単に手法を解説 • まずTwitterのアーカイブをとってくる • アシスタント側の発話にツイートをぶち込んでファインチューニングする これだけ!簡単!!!
そして生まれた化け物がこちら
None
鍵垢のツイートも全部放り込んだらだいぶ思想強めになりました😇
感想 • 鍵垢の思想強めなツイートをたくさん放り込んだので、思想強めなことを返してくる ようになった • 支離滅裂な回答をすることが多いけど、たまにめちゃめちゃ面白いことを言ってくる のとても好き • 化け物を生み出してしまった...の気持ち
今後の展望 • 最近GPT4もファインチューニングできるようになったらしいので試したい • shinbunbunGPTを埋め込んだGPT墓石を作って突然の死に備えたい