Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
GPT-3.5 Turbo をファインチューニングして自分のクローンを作った話
Search
Yuto Takamune
November 28, 2023
Programming
0
290
GPT-3.5 Turbo をファインチューニングして自分のクローンを作った話
Yuto Takamune
November 28, 2023
Tweet
Share
More Decks by Yuto Takamune
See All by Yuto Takamune
RustのLINEBot SDKを自作した話
shinbunbun_
0
1.3k
セキュリティキャンプ2023 Y3分散合意ゼミ 最終発表
shinbunbun_
0
3.2k
NixOSでもご自宅k8sがしたい!
shinbunbun_
2
3.1k
カーネルレベルでTwitterを禁止しよう
shinbunbun_
0
210
CRDTで始めるコンフリクトしないデータ同期
shinbunbun_
0
440
Haskell初心者がHaskellの楽しさについて語る
shinbunbun_
0
180
Rustで楕円曲線暗号の署名アルゴリズムをフルスクラッチ実装してみた話
shinbunbun_
0
1.2k
IEEE802.1X認証を導入してみた
shinbunbun_
0
240
UBICの食材管理APIを作った話
shinbunbun_
0
200
Other Decks in Programming
See All in Programming
データベースエンジニアの仕事を楽にする。PgAssistantの紹介
nnaka2992
9
4.3k
Let's Take a Peek at PHP Parser 5.x!
inouehi
0
100
PHPUnit 高速化テクニック / PHPUnit Speedup Techniques
pinkumohikan
1
1.2k
Going Structural with Named Tuples
bishabosha
0
170
パスキーのすべて / 20250324 iddance Lesson.5
kuralab
0
130
令和トラベルにおけるコンテンツ生成AIアプリケーション開発の実践
ippo012
1
260
生産性アップのためのAI個人活用
kunoyasu
0
650
英語文法から学ぶ、クリーンな設計の秘訣
newnomad
1
270
S3静的ホスティング+Next.js静的エクスポート で格安webアプリ構築
iharuoru
0
200
小さく段階的リリースすることで深夜メンテを回避する
mkmk884
2
130
JavaOne 2025: Advancing Java Profiling
jbachorik
1
320
AtCoder Heuristic First-step Vol.1 講義スライド
terryu16
2
1k
Featured
See All Featured
The Straight Up "How To Draw Better" Workshop
denniskardys
232
140k
The MySQL Ecosystem @ GitHub 2015
samlambert
251
12k
Thoughts on Productivity
jonyablonski
69
4.5k
Optimizing for Happiness
mojombo
377
70k
How to Ace a Technical Interview
jacobian
276
23k
Agile that works and the tools we love
rasmusluckow
328
21k
Sharpening the Axe: The Primacy of Toolmaking
bcantrill
40
2k
StorybookのUI Testing Handbookを読んだ
zakiyama
28
5.6k
Java REST API Framework Comparison - PWX 2021
mraible
29
8.5k
Why Our Code Smells
bkeepers
PRO
336
57k
Into the Great Unknown - MozCon
thekraken
36
1.7k
CSS Pre-Processors: Stylus, Less & Sass
bermonpainter
356
30k
Transcript
GPT-3.5 Turbo をファインチューニングして 自分のクローンを作った話 TOGATTA SERVER LT Vol.5 しんぶんぶん
自己紹介 • 名前: しんぶんぶん • 所属: 会津大学学部3年 • Twitter: @shinbunbun_,
@4fa19623 • LINE API Expert / seccamp ’23 / Cybozu labyouth 13th ◦ セキュキャン: 分散合意ゼミ(Raft) ◦ ラボユース: CRDTを使ったP2P分散データベースの開発
突然ですがみなさん、自分のクローン作りたくないですか?
クローンを作るとこんなに良いことが! • 突然死んでも大丈夫!(諸説) • 自分自身と会話することでメタ認知が進む!(諸説)
ほな作るかー
レシピ • X(Twitter)のツイートアーカイブ少々 • Python少々 • “圧倒的財力”(嘘) ◦ 実験には100ドル以上かかった
で、作り方は??
全ての叡智がここに!! TOGATTA SERVER TECHBOOK VOL.1 1冊 1000円 https://techbookfest.org/product/rqa UJGEBP4Gkmexq8v0unS
ということで、作り方は解説しません(カス)
簡単に手法を解説 • まずTwitterのアーカイブをとってくる • アシスタント側の発話にツイートをぶち込んでファインチューニングする これだけ!簡単!!!
そして生まれた化け物がこちら
None
鍵垢のツイートも全部放り込んだらだいぶ思想強めになりました😇
感想 • 鍵垢の思想強めなツイートをたくさん放り込んだので、思想強めなことを返してくる ようになった • 支離滅裂な回答をすることが多いけど、たまにめちゃめちゃ面白いことを言ってくる のとても好き • 化け物を生み出してしまった...の気持ち
今後の展望 • 最近GPT4もファインチューニングできるようになったらしいので試したい • shinbunbunGPTを埋め込んだGPT墓石を作って突然の死に備えたい