Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
GPT-3.5 Turbo をファインチューニングして自分のクローンを作った話
Search
Yuto Takamune
November 28, 2023
Programming
0
260
GPT-3.5 Turbo をファインチューニングして自分のクローンを作った話
Yuto Takamune
November 28, 2023
Tweet
Share
More Decks by Yuto Takamune
See All by Yuto Takamune
RustのLINEBot SDKを自作した話
shinbunbun_
0
1.1k
セキュリティキャンプ2023 Y3分散合意ゼミ 最終発表
shinbunbun_
0
3k
NixOSでもご自宅k8sがしたい!
shinbunbun_
2
2.8k
カーネルレベルでTwitterを禁止しよう
shinbunbun_
0
190
CRDTで始めるコンフリクトしないデータ同期
shinbunbun_
0
370
Haskell初心者がHaskellの楽しさについて語る
shinbunbun_
0
160
Rustで楕円曲線暗号の署名アルゴリズムをフルスクラッチ実装してみた話
shinbunbun_
0
990
IEEE802.1X認証を導入してみた
shinbunbun_
0
220
UBICの食材管理APIを作った話
shinbunbun_
0
190
Other Decks in Programming
See All in Programming
Security_for_introducing_eBPF
kentatada
0
110
rails statsで大解剖 🔍 “B/43流” のRailsの育て方を歴史とともに振り返ります
shoheimitani
2
940
フロントエンドのディレクトリ構成どうしてる? Feature-Sliced Design 導入体験談
osakatechlab
8
4.1k
これでLambdaが不要に?!Step FunctionsのJSONata対応について
iwatatomoya
2
3.7k
Асинхронность неизбежна: как мы проектировали сервис уведомлений
lamodatech
0
800
fs2-io を試してたらバグを見つけて直した話
chencmd
0
240
たのしいparse.y
ydah
3
120
Cloudflare MCP ServerでClaude Desktop からWeb APIを構築
kutakutat
1
550
Stackless и stackful? Корутины и асинхронность в Go
lamodatech
0
790
Effective Signals in Angular 19+: Rules and Helpers
manfredsteyer
PRO
0
110
「Chatwork」Android版アプリを 支える単体テストの現在
okuzawats
0
180
ドメインイベント増えすぎ問題
h0r15h0
2
340
Featured
See All Featured
Why You Should Never Use an ORM
jnunemaker
PRO
54
9.1k
The Cult of Friendly URLs
andyhume
78
6.1k
For a Future-Friendly Web
brad_frost
175
9.4k
Designing for Performance
lara
604
68k
Sharpening the Axe: The Primacy of Toolmaking
bcantrill
38
1.9k
Creating an realtime collaboration tool: Agile Flush - .NET Oxford
marcduiker
26
1.9k
I Don’t Have Time: Getting Over the Fear to Launch Your Podcast
jcasabona
29
2k
No one is an island. Learnings from fostering a developers community.
thoeni
19
3k
Practical Orchestrator
shlominoach
186
10k
Designing on Purpose - Digital PM Summit 2013
jponch
116
7k
A designer walks into a library…
pauljervisheath
204
24k
Save Time (by Creating Custom Rails Generators)
garrettdimon
PRO
28
900
Transcript
GPT-3.5 Turbo をファインチューニングして 自分のクローンを作った話 TOGATTA SERVER LT Vol.5 しんぶんぶん
自己紹介 • 名前: しんぶんぶん • 所属: 会津大学学部3年 • Twitter: @shinbunbun_,
@4fa19623 • LINE API Expert / seccamp ’23 / Cybozu labyouth 13th ◦ セキュキャン: 分散合意ゼミ(Raft) ◦ ラボユース: CRDTを使ったP2P分散データベースの開発
突然ですがみなさん、自分のクローン作りたくないですか?
クローンを作るとこんなに良いことが! • 突然死んでも大丈夫!(諸説) • 自分自身と会話することでメタ認知が進む!(諸説)
ほな作るかー
レシピ • X(Twitter)のツイートアーカイブ少々 • Python少々 • “圧倒的財力”(嘘) ◦ 実験には100ドル以上かかった
で、作り方は??
全ての叡智がここに!! TOGATTA SERVER TECHBOOK VOL.1 1冊 1000円 https://techbookfest.org/product/rqa UJGEBP4Gkmexq8v0unS
ということで、作り方は解説しません(カス)
簡単に手法を解説 • まずTwitterのアーカイブをとってくる • アシスタント側の発話にツイートをぶち込んでファインチューニングする これだけ!簡単!!!
そして生まれた化け物がこちら
None
鍵垢のツイートも全部放り込んだらだいぶ思想強めになりました😇
感想 • 鍵垢の思想強めなツイートをたくさん放り込んだので、思想強めなことを返してくる ようになった • 支離滅裂な回答をすることが多いけど、たまにめちゃめちゃ面白いことを言ってくる のとても好き • 化け物を生み出してしまった...の気持ち
今後の展望 • 最近GPT4もファインチューニングできるようになったらしいので試したい • shinbunbunGPTを埋め込んだGPT墓石を作って突然の死に備えたい