関西Kaggler会 交流会 in Osaka 2024#2 データ分析コンペとの向き合い方 ver2

関西Kaggler会 交流会 in Osaka 2024#2の「データ分析コンペとの向き合い方 ver2」の資料となります．

話す前提でスライドを作っていたものを，スライド単品である程度理解できるように修正したものなので，実際に使用したスライドとは多少異なります．

Transcript

1. 関西Kaggler会 交流会 in Osaka 2024#2 2024/7/5 ～第1部～ ・はたさん ・ちょりーぬさん ・nyker_gotoさん ・たかいとさん ・ぐちやまさん
2. 関西Kaggler会 交流会 in Osaka 2024#2 2024/7/5 データ分析コンペへの向き合い方 ver2 ～ Solo Kaggler会での話題を添えて ～ takaito
3. 2 大学の専攻: 自然言語処理 お仕事: 資産運用会社のクオンツアナリスト Kaggle: Competitions Master Kaggle歴: 4年目に突入 (2021年～) データ分析スキルの向上を目的に様々なコンペに参加 @takaito0423 簡単な自己紹介
4. 関西Kaggler会 交流会 in Osaka 2024#2 2024/7/5 5分で振り返るデータ分析コンペへの向き合い方 ver1
5. 4 Kaggle楽しんでますか？ ✔ 新しいスキルの習得 ✔ リーダーボードスコアの改善 ✔ 参加者とのディスカッションでの交流 ✔ チームを組んでの参加 etc...
6. 5 いつか直面する挫折 ✔ 凡人には挫折を経験するタイミングが必ず訪れる
7. 6 Kaggle悲しいときあるある ✔ notebookの提出が通らず，エラーが出続けるとき ✔ 渾身のアイデア(特徴量など)がまったくスコア改善に寄与しなかったとき ✔ 手元のCVスコアは良かったが，提出したLBスコアが最悪なとき ✔ 時間をかけたコンペでLBの順位は良かったが，最終順位が大幅に悪かったとき ✔ あと一歩のところでソロ金を逃したとき etc...
8. 7 どのように向き合っていくか？ ① バイアスなどをきちんと理解する ② 相対的な順位だけでなく，自身の成長にフォーカスする ③ チームを組んで参加する ④ 無理のないペースで取り組む
9. 8 ① バイアスなどをきちんと理解する ✔ X(旧Twitter)などでは，好順位の人ほど投稿を行い，いいねなども付きやすい ✔ 強い人たちがチームを組んで参加しているため，ソロで上位に行くことは難しい ✔ 社会人で仕事終わりなどにコンペに参加している時点で氷山の中ではかなり上の方にいる ✔ 将棋や野球などのように実力が分かれていない舞台であるという認識を持つ
10. 9 ② 相対的な順位だけでなく，自身の成長にフォーカスする ✔ 新しいことにチャレンジし続けることは，たとえ順位に結びつかなくても自身の成長につながる ✔ コンペ序盤:似たような過去コンペを参考にしてみる ・ 自力でsubmitする ✔ コンペ中盤: ディスカッションに目を通す ・ 公開notebookの実装を理解し工夫を加える ✔ コンペ終了後: 上位解法に目を通したり，再現実装に挑戦してみる ・ 有志の振り返り会に参加してみる
11. 10 ③ チームを組んで参加する ✔ チームでの参加はモチベーションを高めることにつながります ✔ 各々のアプローチが異なればensembleもかなり効いてくる傾向にあります (LBスコア0.75，070，0.70を混ぜることで0.80が出たりします)
12. 11 ④ 無理のないペースで取り組む ✔ 脳のリソースを一定数とられて睡眠の質に影響を与える ✔ 実装に時間がかかり睡眠時間が削られる 国内にも様々なコンペプラットフォームが存在している！ 疲れが蓄積されていく
13. 12 まとめ スコアが改善せず，気持ちがネガティブになったときには以下を思い出してください！ ① バイアスなどをきちんと理解する ② 相対的な順位だけでなく，自身の成長にフォーカスする ③ チームを組んで参加する ④ 無理のないペースで取り組む 参加者同士で切磋琢磨しながら自己成長を続けていくという経過を楽しむことを忘れずに！ 努力を続けていれば，きっといつかは上位争いに参加できるようになると思います！！
14. 関西Kaggler会 交流会 in Osaka 2024#2 2024/7/5 本題 データ分析コンペへの向き合い方 ver2 ～ Solo Kaggler会での話題を添えて ～
15. 14 概要 ✔ 基本的にはチームを組まず，ソロでkaggleに参加している人を勝手に自身はSolo Kagglerと呼んでいる ✔ 自身は気軽さからソロで参加することが大半だが，モチベーションを保つのに苦労している... ✔ 久しぶりにチームを組んで参加して，メリットと高いモチベーションを持つことができ，改めてソロの大変さを実感 ✔ 基本的にソロで参加しつつ，高いモチベーションを保っているSolo Kaggler数名で食事に行き， ソロ参加のメリットやデメリット，モチベーションの保ち方など，いろいろと聞いてきました！ ソロ参加とチーム参加，各々の良さを共有することで， 今後のコンペ参加時の参考になれば幸いです！！
16. 15 メンバー紹介
17. 16 なぜソロでkaggleに参加するのか？ ✔ 自身の実力を試したい！ 責任感が少し強すぎる傾向にあることによるソロ参加理由 ✔ 仕事の忙しさが読めず，最終週にコミットできない可能性がある ✔ コミットできてたとしても，スコアアップなどでチームに貢献できない可能性がある その裏返しでソロならではの気軽さによるソロ参加理由 ✔ 自分のペースで好きに進めることができる ✔ 他にもっと面白そうなコンペがきたら，気軽に乗り換えたり，気軽に複数のコンペに参加したりできる
18. 17 ソロ参加の具体的なコンペでのメリット・デメリット メリット ✔ 一日のサブ数が少ないコンペにおいて，サブを自由に使うことができる デメリット ✔ 他人が読む前提でコードを書く意識が薄れるため，後々自分が見返すときに困る そもそも基本ソロ参加なので，チーム参加との比較ができないことから， あまりメリット・デメリットが話題になりませんでした(汗)
19. 18 印象的だった一言 ✔ (ソロ参加は) 悲しみも喜びもすべて独り占めできる ✔ 私のweightは常に1 ← (LEAPのweight 0 投稿を受けて) ✔ 異なる世代の人と忖度なく戦えるのが楽しい ✔ スコアが上がらなくても楽しい ← (強者の一言だと思いました) ✔ (ゲームとかと異なり) データ分析コンペによる夜更かしは罪悪感がない ✔ コンペ期間中はソロ参加だが，終了後のディスカッション，振り返り会や交流会など，多くの人と交流ができる
20. 19 ソロで楽しむための秘訣？ (主観) ✔ 自身の頑張りがスコアに反映されるのが楽しく，それがモチベーションに直結する (Solo Kaggler会でも，ちょっとした気づきからLBスコアが急上昇したときの効用の高さが話題に) ✔ 逆に言えば，初心者や実力不足だと，そういった経験ができないまま，フェードアウトしていくことが大半？ (自身もまだまだ実力不足で，思うようにスコアが上がらず気落ちすることが多いです) ⇒ ソロでkaggleを楽しむためには，ある程度の実力か，過去の成功体験が必要... そのためにまず... チーム参加をオススメしたいです！！
21. 20 久しぶりのチーム参加で感じた点 (主観) 良かった点 ✔ お互いが試したことを共有し合うことで，特に手をつけない部分を明確にできた ✔ お互いがやることを分担することで，少ない時間で効率的に多くのことを試すことができた ✔ チームマージするまではお互いアイデアが出尽くしていたが，議論する中で取り組むべきアイデアが一気に広がった ✔ お互いのモデルの良いところが活かされ，最終日に投稿した4つのensembleサブは3つがプライベート金圏に！ ✔ ソロでは早々に諦めていた可能性が高いが，連日深夜のslack通知が止まらないほどモチベーションを維持できた 難しかった点 ✔ モデルを別途開発していたため，推論時間の関係から積み込めるモデルの数やensembleには苦労した ✔ 最終サブの選択は本当に難しかった
22. 21 久しぶりのチーム参加でのコンペを終えて (主観) ✔ チームマージはやはりソロとは比較にならないくらい有利！ ✔ モチベーションの維持にも最適！ ✔ ある程度のコンペ経験を積んだら，同じくらいの実力の人を見つけてチームを組んでみることをお勧めします！！ ✔ 改めて，ソロ銀上位以上を安定してソロで取れるkagglerは本当に強いなと痛感しました！
23. 22 まとめ スコアが改善せず，気持ちがネガティブになったときには以下を思い出してください！ ① バイアスなどをきちんと理解する ② 相対的な順位だけでなく，自身の成長にフォーカスする ③ チームを組んで参加する ④ 無理のないペースで取り組む 参加者同士で切磋琢磨しながら自己成長を続けていくという経過を楽しむことを忘れずに！ 努力を継続していれば，きっといつかは上位争いに参加できるようになると思います！！ 気楽にソロ参加でも，ワイワイとチーム参加でもいいので， とにかく楽しんで継続していくことが大事だと思います！！
24. 23 【あとがき】 ✔ 体調不良で十分な準備もできず，当日も満足のいく登壇ができず無念... ✔ 交流のために参加したのに，体調不良が原因でほとんど交流できなかった(しなかった) ⇒ 「④ 無理のないペースで取り組む」も皆さん気をつけてください (貴重な機会を棒にふります) ✔ 「チームマージはいいぞ！」おじさんのポジションで登壇しておきながら，自身が基本Solo参加のため， チームマージに関する質問にまったく答えられないことに登壇するまで気づいてなかった (どのタイミングでチームマージするか，どのように声かけするかなど，自身も懇親会とかで聞いてみたいと思っていた) ✔ チーム参加でいろいろ学びを増やしつつ，刺激をもらってモチベーションを維持したいと思っているので， 自分で良ければ，気軽にお誘いしてもらえると！！
25. 関西Kaggler会 交流会 in Osaka 2024#2 2024/7/5 おまけコーナー
26. 25 Kaggleで思い入れのあるコンペは？ ✔ やはり一番やり込んだことで順位も良かったコンペが話題に上がりました
27. 26 このコンペが良かった！においては3人の意見が一致 「Sansan × atmaCup #12」 https://buildersbox.corp-sansan.com/entry/2021/12/18/110000 次のatamcupの開催を楽しみにしております！！