Upgrade to Pro — share decks privately, control downloads, hide ads and more …

ArcFaceの仕組み

Inoichan
September 06, 2019

 ArcFaceの仕組み

角度を用いた距離学習を説明してます。
基本的な理論の部分はSphereFaceで説明しています。
最終的にArcFaceの仕組みを理解できるようにするのが目標です。

ArcFaceについては優れた紹介記事がすでにありますが、角度による距離学習がどういったものか、marginを与えるとなぜうまくいくのかを基礎から説明しています。少しでも理解のお役に立てますと幸いです!

間違っている部分があったら、教えていただけますと非常に嬉しいですm(_ _)m

Inoichan

September 06, 2019
Tweet

More Decks by Inoichan

Other Decks in Research

Transcript

  1. ・Siamese Net (contrastive loss) - 2種類のInput - 同じラベルの時は近く、 違うラベルの時は遠く学習 -

    ユークリッド距離 (参考) Siamese Neural Networks for One-shot Image Recognition Dimensionality Reduction by Learning an Invariant Mapping Trains a Siamese MLP on pairs of digits from the MNIST dataset. (引用) A Deep Siamese Neural Network Learns the Human-Perceived Similarity Structure of Facial Expressions Without Explicit Categories
  2. ・Center Loss - 2種類のloss - 同じクラスのデータがコンパクトにな るように学習 - ユークリッド距離 (引用)

    A Discriminative Feature Learning Approach for Deep Face Recognition (参考) Center lossを読んでみた_20170618@abeja
  3. ・Center Loss - 2種類のloss - 同じクラスのデータがコンパクトにな るように学習 (引用) A Discriminative

    Feature Learning Approach for Deep Face Recognition (参考) Center lossを読んでみた_20170618@abeja ユークリッド距離で考えるの、本当 に適しているのか?
  4. ・SphereFace (引用) SphereFace: Deep Hypersphere Embedding for Face Recognition それぞれのクラスの確率

    Decision boundary (決定境界) (p1 = p2 となるところ) 決定境界 この決定境界よりも自分のクラスの方に近 づくように学習は進んでいく。
  5. ・SphereFaceの推論 (引用) SphereFace: Deep Hypersphere Embedding for Face Recognition 推論するときは、各クラスの訓練データから抽出した特徴量ベクトルの重心と、テ

    ストデータの特徴量ベクトルを Cosine類似度で測る。値が 1に近ければ、そのクラ スとなす角が小さい、すなわち距離が近いということになる。 黄緑クラスの訓練 データから抽出した 特徴量ベクトルの重 心 テストデータの特 徴量ベクトル この2つのベクトルがな す角がどれくらい小さい かを、Cosine類似度で 求める!
  6. ・CosFace (引用) CosFace: Large Margin Cosine Loss for Deep Face

    Recognition L2-normalizationすることで、xも Wも同じ超球面上にくる。(2次元 だったら単位円上のベクトルにな る。)
  7. ・CosFace (引用) CosFace: Large Margin Cosine Loss for Deep Face

    Recognition s:softmaxの温度パラメータ 本来は少しでも決定境界よ り自分のクラス側にきたら、 cosθ1はcosθ2より大きくな る。 cosθ1からmarginを引くことで (cosθ1 - m)、xはよりW1に近づか ないとcosθ2より大きくならな い!!