2022年6月8日にSSII 2022のチュートリアル講演で使用
2023年2月2日に順天堂大学産学連携講座:AI技術とビジネス活用で使用
2017年に機械翻訳を対象として提案されたTransformerは、従来の畳込みや再帰を排して自己注意機構を活用したニューラルネットワークです。2019年頃からコンピュータビジョン分野でも急速に応用が進んでいて、より柔軟かつ高精度なネットワーク構造としての地位を確立しつつあります。本スライドでは、そんなTransformerの最前線を概説しています。基盤モデルやVision Transformer、MLP/CNNの逆襲についても取り扱っています。
・そもそもTransformerって?
・Transformer旋風と基盤モデル
・Transformerのノウハウ
・Transformerはオワコン?!
・CNNはオワコン?!