Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
第2回関東kaggler会 LT コンペ振り返りのすすめ
Search
YumeNeko
August 04, 2024
Technology
2
1.4k
第2回関東kaggler会 LT コンペ振り返りのすすめ
YumeNeko
August 04, 2024
Tweet
Share
More Decks by YumeNeko
See All by YumeNeko
[第4回 Data-Centric AI勉強会] Benetechコンペ エラー分析によるデータ追加とアノテーションの工夫について
yumeneko
0
390
Benetechコンペ参戦記
yumeneko
1
2.7k
Other Decks in Technology
See All in Technology
Kubernetesって何? -大規模なKubernetesを運用するKubernetes as a Serviceチームの話を添えて-
lycorptech_jp
PRO
0
250
Tricentisにおけるテスト自動化へのAI活用ご紹介/20240910Shunsuke Katakura
shift_evolve
0
210
AI前提のサービス運用ってなんだろう?
ryuichi1208
3
830
ロリポップ! for Gamersを支えるインフラ/lolipop for gamers infrastructure
takumakume
0
140
ナレッジグラフとLLMの相互利用
koujikozaki
0
430
PdMはどのように全てのスピードを上げられるか ~ 非連続進化のための具体的な取り組み ~
sansantech
PRO
4
1.3k
ついに出た!OpenAIの最新モデル「o1」って何がすごいの?
minorun365
PRO
3
1.3k
AIで変わるテスト自動化:最新ツールの多様なアプローチ/ 20240910 Takahiro Kaneyama
shift_evolve
0
250
LINEヤフーのフロントエンド組織・体制の紹介
lycorp_recruit_jp
1
1.2k
20240912 JJUGナイトセミナー
mii1004
0
140
Road to Single Activity
yurihondo
2
240
開発者の定量・定性データを組み合わせて開発者体験を把握するための取り組み
ham0215
1
160
Featured
See All Featured
Git: the NoSQL Database
bkeepers
PRO
425
64k
Design and Strategy: How to Deal with People Who Don’t "Get" Design
morganepeng
123
18k
Optimising Largest Contentful Paint
csswizardry
31
2.8k
How to name files
jennybc
75
98k
Why Our Code Smells
bkeepers
PRO
334
56k
Building Better People: How to give real-time feedback that sticks.
wjessup
359
19k
GitHub's CSS Performance
jonrohan
1030
450k
Bootstrapping a Software Product
garrettdimon
PRO
304
110k
WebSockets: Embracing the real-time Web
robhawkes
59
7.3k
Infographics Made Easy
chrislema
239
18k
Music & Morning Musume
bryan
46
6k
Principles of Awesome APIs and How to Build Them.
keavy
125
16k
Transcript
コンペ振り返りのすすめ 2024/8/3 関東kaggler会 LT @ゆめねこ
自己紹介 1 名前:ゆめねこ(@yume_neko92) 仕事:主に画像系のAIシステム開発 最近は3次元点群系AIをやってる kaggle:kaggle歴は2年半くらい 最近、Grandmasterになった ・HNの由来の親戚家のネコ。 ・最近、指ちゅ~るをしてくれるようになった。 (※ただし機嫌が良いときに限る)
2 Q. Kaggleで勝つには?
3 A. 頑張る 時間をかけて頑張る ディスカッションを読んで頑張る 諦めず最後まで頑張る etc...
4 とはいえ、最初は頑張ってもなかなか勝てない ディスカッションには全部目を通しているが 上位との差が埋まらない。。。 そもそも何から頑張れば良いのやら。。。
5 とはいえ、最初は頑張ってもなかなか勝てない ディスカッションには全部目を通しているが 上位との差が埋まらない。。。 そもそも何から頑張れば良いのやら。。。 参加したコンペの 振り返りをしてみよう!
コンペで勝つために必要なこと 6 Gold Silver Bronze Discussionをちゃんと読んで 公開Notebookをベースに正しく実験する やるべきことを全部やる (マルチタスク化、AWP、PseudoLabel、etc…) 他の参加者が思いつかないような
タスクに刺さる工夫を見つける
コンペで勝つために必要なこと 7 Gold Silver Bronze Discussionをちゃんと読んで 公開Notebookをベースに正しく実験する やるべきことを全部やる (マルチタスク化、AWP、PseudoLabel、etc…) 他の参加者が思いつかないような
タスクに刺さる工夫を見つける アイデアの 見つけ方を身に付ける アイデアの 引き出しを増やす
コンペで勝つために必要なこと 8 Gold Silver Bronze Discussionをちゃんと読んで 公開Notebookをベースに正しく実験する やるべきことを全部やる (マルチタスク化、AWP、PseudoLabel、etc…) 他の参加者が思いつかないような
タスクに刺さる工夫を見つける アイデアの 見つけ方を身に付ける アイデアの 引き出しを増やす コンペ中に気づくことは難しいかもしれないが、、、 終了後に公開されるソリューションから振り返りをするのは 勝つために必要な力を身に付けるのに効果的な方法!
コンペ振り返りするときに気にしてること 9 上位ソリューションを読んで重要なポイントを知る • チームで共通しているポイントとユニークなポイントに着目する 共通しているポイント ⇒ 上位争いに入るための最低条件 ユニークなポイント ⇒
上位の中で差をつけるために必要だったこと • (自分の場合は)こんな感じでやることが多い 1. チームごとにソリューションを読んで重要なポイントを自分なりにまとめる 2. 項目ごとの観点で各チームの取り組みをまとめなおす 最初のうちはこっちを意識する たまに2.までまとめた情報を記事にしている 他人に見せると思うとちゃんと言語化できるのでおススメ
コンペ振り返りするときに気にしてること 10 どうやったら同じことが思い付けたか、自分の取り組み方を振り返る • 上位解法の各ポイントについて、上位チームが気づけた理由を自分なりに考える ⇒ どういう現象・傾向に気付けばそのアイデアを思いつくことができたのか? (たとえ黒魔術に見えてもデータや実験結果から見つけ出す道筋があるはずなので考えてみる) 分からなければコメントで直接聞いてみるのも手 •
自分はどの段階までたどり着いたのか、どこで考え方がズレたかを自問する きっかけとなる現象や実験結果には気づいていたのか? 気づいていたなら、自分は何を考えてどういう対策を取った? 気づけなかったならその理由は?EDAの観点が不足してた? etc... • ただ解法に目を通すだけよりもアイデアの見つけ方の勘所が 少しずつ分かってくるようになる lucrarea
まとめ 11 • コンペに参加して振り返りをするのは強くなるための近道 • 上位が気づいたポイントを知ってアイデアの引き出しを増やせる • 自分の取り組みと照らし合わせることで、アイデアの見つけ方の勘所が掴めてくる • 個人的に振り返りするときに気にしてるポイント2つ紹介
• 上位チームで共通しているポイントとユニークなポイントに着目する ⇒ 最初は”共通しているポイント” = “上位争いの最低条件”を意識するのがおすすめ • 上位がなぜ思い付けたのか考えて、自分がなぜ思い付けなかったのか深く考える • コンペに参加したらぜひ振り返りをやってみてはいかがでしょうか?