コンペお疲れ様でした。 実は終了2日前くらいから、上位陣はdino[1]でViTを学習しているのではないか？と当たりをつけて、私も密かに学習を回していました（途中でColaboの上限がきて提出には至りませんでしたが）。 手法としては他のSSL手法と似ていますが（特にアーキテクチャはBYOLに酷似しています）、knowledge dis…