Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
ChatGPTでAutoML作ってみたかった
Search
Sponsored
·
Ship Features Fearlessly
Turn features on and off without deploys. Used by thousands of Ruby developers.
→
yuki
June 25, 2023
Technology
0
950
ChatGPTでAutoML作ってみたかった
yuki
June 25, 2023
Tweet
Share
More Decks by yuki
See All by yuki
yukiCup 2023 Summer 開催報告
yururoi
0
2.2k
NLF 9th place solution
yururoi
0
810
鳥蛙コンペ - Team Exodia
yururoi
3
770
Other Decks in Technology
See All in Technology
Introduction to Bill One Development Engineer
sansan33
PRO
0
360
データの整合性を保ちたいだけなんだ
shoheimitani
8
3.1k
SREが向き合う大規模リアーキテクチャ 〜信頼性とアジリティの両立〜
zepprix
0
430
Contract One Engineering Unit 紹介資料
sansan33
PRO
0
13k
OWASP Top 10:2025 リリースと 少しの日本語化にまつわる裏話
okdt
PRO
3
590
セキュリティについて学ぶ会 / 2026 01 25 Takamatsu WordPress Meetup
rocketmartue
1
300
Bill One 開発エンジニア 紹介資料
sansan33
PRO
4
17k
外部キー制約の知っておいて欲しいこと - RDBMSを正しく使うために必要なこと / FOREIGN KEY Night
soudai
PRO
12
5.2k
We Built for Predictability; The Workloads Didn’t Care
stahnma
0
140
2026年、サーバーレスの現在地 -「制約と戦う技術」から「当たり前の実行基盤」へ- /serverless2026
slsops
2
220
What happened to RubyGems and what can we learn?
mikemcquaid
0
250
~Everything as Codeを諦めない~ 後からCDK
mu7889yoon
3
310
Featured
See All Featured
What does AI have to do with Human Rights?
axbom
PRO
0
2k
Designing Dashboards & Data Visualisations in Web Apps
destraynor
231
54k
Un-Boring Meetings
codingconduct
0
200
Data-driven link building: lessons from a $708K investment (BrightonSEO talk)
szymonslowik
1
910
Thoughts on Productivity
jonyablonski
74
5k
Kristin Tynski - Automating Marketing Tasks With AI
techseoconnect
PRO
0
140
Effective software design: The role of men in debugging patriarchy in IT @ Voxxed Days AMS
baasie
0
220
[SF Ruby Conf 2025] Rails X
palkan
1
740
Leading Effective Engineering Teams in the AI Era
addyosmani
9
1.6k
A better future with KSS
kneath
240
18k
The Web Performance Landscape in 2024 [PerfNow 2024]
tammyeverts
12
1k
Code Reviewing Like a Champion
maltzj
527
40k
Transcript
GPT4でAutoML作ってみたかった
自己紹介 yuki • 趣味 ◦ Kaggle ◦ バイク ◦ ステッカー配り
@yuki93753711
GPT4すごいですよね GPT4がリリースされすぐに、GPT4と一緒に簡単なWebアプリ作ってみました 簡単なWebアプリですが、企画、設計、実装、デプロイまでGPT4と一緒に作成し、コード に関しては1行も書かずに作成できました
GPT4とアプリを作る過程はこんな感じ コードは書いてくれるけど一度ではうまくいかないことが多いので、エラーを伝えて直してもらう のを繰り返す作業がほとんど エラー出てるよ! (コピペ) エラー直したよ コードコピペ エラー出力 ちゃんと動くコード 書いてくれや
これって人いらなくね? 人はChatGPTと実行環境それぞれの出力をコピペでつないでいるだけ。コードが期待する 動作をするようになるまでひたすらにコピペする作業。ChatGPTよりも単純労働 期待する動作さえ定義できれば人は必要ない! テストコードを事前に書いておいてテスト通るまで改善を繰り返させればいい コピペ コピペ
機械学習にも応用できない? アプリケーションの場合は期待する動作をするまで改善し続けたけど、評価関数がよくなる ように改善させつづけるということをやれば、人がやっている改善のサイクルをGPT4に任せら れないか? この実験やって 実験結果フィードバック モデルの評価方法を人が定義すれば GPT-4がモデルの精度改善を続けてくれるのでは?
ってことはkaggleにも応用できない? GPT4をディスカッションや公開notebook、類似コンペのディスカッションにアクセスさせれば 最強モデル作れないか? この実験やって 実験結果フィードバック ディスカッション 公開notebook これで、ゴールドメダル荒稼ぎできますわ!ガハハハ 参照
ためしにChatGPT使ってコンペやってみる いきなりGPT4のAPI使って実装するのも大変なので、ChatGPT(Web UI)でうまくい くかやってみる Playgroundコンペで試してみる
まずはsub作ってもらう コンペの概要、データセットの説明、データの先頭5行を与えてモデルを作るようにおねがい してみたところ、ちゃんとコード書いてくれた 一発でsub通るコード書いてきた GPT4 ちょろw
改善のサイクルまわさせてみる 予測モデルを改善してと繰り返し伝える。予測モデルを作る以外にも、データを確認するコ ードを書くこともできると伝える まかせとけや GPT4 実験結果を踏まえてより精度の良い モデルを作って! Submitファイル作るだけじゃなくて、 データ見ることもできるよ!
結果はイマイチ、、 以下の3パターンをひたすら繰り返すのみ。データの中身を見ることなく、同じことを何度も 繰り返す。実験結果を次の改善につなげているというより、少ない引き出しを全部ためして いる感じ アルゴリズム変えてみよう • LightGBM • XGBoost •
RandomForest • LogisticRegression 特徴量エンジニアリングしよう ハイパラ探索しよう! とにかくハイパラ探索や!! GPT4
少し工夫してみる 少しプロンプトを工夫してみたが結果はいつも同じ • 自らデータを見ようとしないので、最初に統計量や相関行列など、データが把握で きる情報をこちらから見せる データを見せる • 少ないパターンを永遠に繰り返すので、どんな手法が有効そうか最初に列挙させ て、それをためさせる 最初にとりえる手段を列挙させてみる
• 「あなたはKaggle Competitioin Grandmasterです」と伝えてみる GMであると伝える GPT4
GPT4を使ってkaggleをやるなら GPT4は実験結果をフィードバックして改善させるという使い方は厳しそう。kaggleで活用 するなら、過去のコンペのソリューション等を使いやすい形でまとめておいて、それをもとに subを作ってもらう使い方になるかな 過去の ソリューション等 蓄積 sub 本当はディスカッションを直接参照させてsub作 らせたいけど、ソリューションはハイコンテキストで
あることが多いので厳しそう GPT4 copilotや、 gpt-3.5-trubo-16k も活用できるかも?
作るところはまでたどり着かず、、、 現在動くものはできてません。。めんどくさがり屋なので、自動化できるものは全部自動化さ せたい!GPT4を使ったAutoML作りたい。(でも、似たようなものもうあってもおかしくない よな) だれか作ってこっそり教えて!