通过结构重参数机制实现特征复用的作者们,赋予了gh%ignore_a_1%stnet新的生命力,提出了硬件友好的方案repghostnet。在imagenet和coco基线任务中,验证了该方案的有效性和高效性。下图显示,与mobileone、mobilenext等轻量型架构相比,repghostnet表现更加出色!速览版请继续阅读!

出发点

GhostNet通过引入廉价操作实现特征复用,但引入了对硬件不友好的Concat操作。尽管Concat特征复用无需参数和FLOPs,但其计算耗时不可忽视,如上图所示。那么,如何更高效地进行特征复用呢?答案是结构重参数!!!

上图展示了从Ghost到RepGhost的进化过程,包括以下三点:
使用Add替代Concat以降低耗时;迁移ReLU以符合重参数折叠机制;引入BN到shortcut分支进一步提升非线性。

摩笔天书
摩笔天书AI绘本创作平台
135 查看详情
上图展示了Bottleneck的改进过程:主要体现在通道数的调整,这是因为从Concat到Add的过渡会导致通道数发生变化。作者主要调整了中间通道数,而保持输入与输出通道数不变。

本文的实验结果
以下两个表格展示了在ImageNet和COCO数据集上的性能对比,RepGhost在轻量化方面表现出色,FLOPs基本在300M以内。



以上就是端侧高效骨干RepGhost | 重参数赋能GhostNet,达成端侧超高效骨干的详细内容,更多请关注创想鸟其它相关文章!
版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。
如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 chuangxiangniao@163.com 举报,一经查实,本站将立刻删除。
发布者:程序猿,转转请注明出处:https://www.chuangxiangniao.com/p/889653.html
微信扫一扫
支付宝扫一扫