【深層学習】Swin Transformer V2 #アルゴリズム編

yhayato1320.hatenablog.com Index Index Swin Transformer V2 自然言語分野との対比 画像分野における課題 Swin Transformer の課題 モデルのスケーリング 入力の解像度 改善点 モデルのスケーリングへの対応 Post Norm Scaled Cosine Attention 高解像度への対応 Continuous Relative Position Bias / CPB Log-Spaced Co…