【HackSick vol.10 LT会】複数軸から見るSelf Attention改善手法の体系的整理
近年、性能改善と事前学習安定化、スーパーウェイトの発生抑制を目的としてさまざまな手法が提案されています。
Self Attentionの改善手法を複数軸で体系的に解説します。
Rikka Botan
October 31, 2026
近年、性能改善と事前学習安定化、スーパーウェイトの発生抑制を目的としてさまざまな手法が提案されています。
Self Attentionの改善手法を複数軸で体系的に解説します。