Upgrade to Pro — share decks privately, control downloads, hide ads and more …

APTOSコンペ振り返り_207th(銅メダル)

syaorn_13
September 14, 2019

 APTOSコンペ振り返り_207th(銅メダル)

syaorn_13

September 14, 2019
Tweet

More Decks by syaorn_13

Other Decks in Programming

Transcript

  1. Agenda • About APTOS competition • My profile & Our

    team • Our solution • Model 1 • Model 2 • Model 3 & 4 • Ensemble • 振り返り • もっとこうすればよかった • やってよかった • よくわからなかった
  2. About APTOS competition • ImageClassification(画像分類)タスク • 糖尿病性網膜症の重症度を判定する(5段階) • 2019年6月~9月にかけて開催 •

    Kernelでの推論必須(訓練は自由) • 外部データの利用可 • PrivateDatasetはPublicの約7倍
  3. My profile&Our team ▪My Profile • しゃおろん(@syaorn_13) • データサイエンティストを目指して勉強&就職活動中 •

    前職は社内SE(某自動車会社の子会社) • 主にKaggleで自己学習中(Expertになりたい) ▪Our team • 3人チームで参加(@car53losaiさん、@_suk1yak1さん) • 全員が画像コンペ初心者
  4. Our solution 4モデルのアンサンブル public:0.807→private:0.917 207th/2943 銅メダル ▪自作モデル 1. EfficientNet(public:0.779) 2.

    DenseNet(public:0.765) ▪公開カーネルのモデル 3. EfficientNet (public:0.798) 4. EfficientNet(public:0.777)
  5. Model 1(public:0.779) メイン(にしたかった)モデル ・PublicLBが思うように伸びず、公開カーネルを超えられなかった ・Privateが4モデルの中で一番低く、悔しい結果に Our approach Model EfficientNet B0

    (Regression) Training Pretrain:2015Data (UnderSampling、20epoch) →Train:2019Data(5epoch) Preprocessing Circle Crop, Resize(256x256), ben’s color Augmentation HorizontalFlip(0.5), Rotation(180), Translate(0.05) Validation StratifiedKfold(k=5) TTA No use
  6. Model 2(public:0.765) 昔に作ってとっておいたモデル ・公開カーネルのpretrainを変えてtraining ・publicは低いが相関が低かったため採用(Privateが高く、メダル獲得に貢献) Our approach Model DenseNet 121

    (Classifier) Training Pretrain:2015Data →Train:2019Data(30epoch) Preprocessing Resize(300x300) Augmentation HorizontalFlip(0.5), Vertical(0.2), Scale(±0.1), translate(±20),Rotation(±10), Shear(±5), Gaussiannoise, etc... Validation Hold-out(test_size=0.15, stratify=class) TTA 4TTA(Default, Horizontalflip, Verticalflip, Horizontal&Verticalflip)
  7. Model 3 & 4 公開カーネルのため詳細は割愛 • Model3(public:0.798) 公開カーネルで最高スコア。EfficientNetで回帰。Training方法は不明 https://www.kaggle.com/xwxw2929/starter-kernel-for-0-79 •

    Model4(public:0.777) Model 1を作成時に参考にしたカーネル。EfficientNetで回帰 https://www.kaggle.com/chanhu/eye-inference-num-class-1-ver3
  8. Ensemble • Shakeの危険を考え、なるべく多くのモデルを混ぜてスコアの安定を図った 最終提出はメインモデルを変えた2パターン どちらでも、メダルは取れていた • モデルの割合とスコア mode1 0.779 model2

    0.765 model3 0.798 model4 0.777 CV Public Private Submit① 回帰モデルメイン 0.2 0.2 0.4 0.2 0.939 0.807 0.917 Submit② 分類モデルメイン 0.2 0.4 0.2 0.2 0.935 0.802 0.915