监督

基于transformer的视觉基础模型在各种下游任务，如分割和检测中都展现出了非常强大的性能，并且dino等模型经过自监督训练后已经涌现出了语义的分割属性。 视觉Transformer模型经过有监督分类训练后，并没有出现类似的涌现能力，这一点令人感到奇怪 最近，马毅教授的团队研究了基于Transf…