CVPR 2019 | 惊艳的SiamMask:开源快速同时进行目标跟踪与分割算法
作者 | 周强(CV君)
来源 | 我爱计算机视觉(公众号id:aicvml)
责编 | Jane
上面这张Gif图演示了 SiamMask 的效果,只需要鼠标滑动选择目标的包围框,即可同时实现目标跟踪与分割。
这种视频里目标的像素级标注,很有用,比如给视频叠加特效可以不覆盖目标人物,或者视频编辑中扣掉特定目标。想想前段时间浙江卫视和北京卫视如果有了这套软件,让某吴姓演员从节目中消失就简单多了,是不是?
近日,CVPR 2019 的接收论文《Fast Online Object Tracking and Segmentation: A Unifying Approach》作者Qiang Wang开源了这套SiamMask代码,引起了极大关注。我们一起来看看吧。
论文作者信息:
论文作者团队来自中科院自动化所、牛津大学、Five AI公司。
感谢~
研究目的
以往大多数目标跟踪得到的结果是目标的包围框,而作者希望将跟踪与分割结合起来,算法“实时“给出目标的像素级标注。
上图中,左侧是初始化的操作,在视频第一帧给出目标的包围框,右侧的多张图像为普通的跟踪算法计算得到估计的包围框和SiamMask估计的目标的分割mask。
算法原理
作者是在近年出现的 SiamFC 跟踪算法基础上做的改进。
下图展示了其整天算法流程。左侧上面图像为框出来的目标图像,左侧下面图像为要搜索目标位置的视频中的一帧,经过卷积网络,生成Row(response of a candidate window,候选窗口响应),网络后面有三个head,除了在SiamFC法中已经存在的预测box(目标位置)的head和预测响应score(目标出现概率)的head,作者增加了预测目标mask(目标二值掩码)的head。
另外也可以直接去掉预测box的head,提高计算速度,包围框也可以通过mask计算得到。网络结构如下:
下图展示了使用SiamMask算法计算得到的图像中不同位置的score值。
实验结果
作者在VOT-2016、VOT-2018数据集上测试跟踪精度,在DAVIS-2016、DAVIS-2017数据集上测试了目标分割的精度。
下图是与普通的跟踪算法的结果比较:
SiamMask 相比之前的跟踪算法的 state-of-the-art 精度又改进不少。
下图是与现有的视频目标分割算法的精度的比较:
虽然SiamMask精度并不是最高的,但速度却比其他算法快1到2个数量级!在真实应用中更有价值。
下图为mIoU-速度的散点图:
一些视频目标分割示例(请点击查看大图):
重点来了!代码地址:
https://github.com/foolwood/SiamMask
(本文为AI科技大本营转载文章,转载请微信作者)
近期 CVPR 2019 论文解读推荐:
如果你也想分享自己的论文,欢迎投稿,可扫描下方二维码与营长联系:
推荐阅读:
❤点击“阅读原文”,查看历史精彩文章。
关注公众号:拾黑(shiheibook)了解更多
[广告]赞助链接:
四季很好,只要有你,文娱排行榜:https://www.yaopaiming.com/
让资讯触达的更精准有趣:https://www.0xu.cn/

随时掌握互联网精彩
- 1 领导干部要扑下身子深入群众 7913002
- 2 特朗普宣布国家紧急状态 7922363
- 3 特朗普:对所有商品征收10%全面关税 7808868
- 4 我国将多措并举减轻企业负担 7794403
- 5 美对等关税税率:欧盟20%日本24% 7653105
- 6 特朗普宣布关税方案后 美股期货暴跌 7563987
- 7 A股三大指数集体低开 7485145
- 8 68岁退休厅官被查 曾是网红官员 7313830
- 9 菲称若台海冲突菲将卷入 中方回应 7279182
- 10 知名华裔教授王晓峰失联两周 7148442