githubcom/8jie/88/1(在图像级弱监督语义分割这项CV难题上)

管理员 2022-10-02 22:51:45 0

机器之心专栏

字节跳动 - 智能创作团队

论文提出了一种面向图像级标签的弱监督语义分割的激活值调制和重校准方案。该方法利用注意力调制模块挖掘面向分割任务的目标区域,通过补偿分支产生的CAM图校准基准的响应图,**图像的伪标签,该方法在PASCAL VOC2012数据集上**了SOTA性能。

图像级弱监督语义分割(WSSS)是一项基本但极具挑战性的计算机视觉任务,该任务有助于促进场景理解和自动驾驶领域的**。现有的技术大多采用基于分类的类激活图(CAM)作为初始的伪标签,这些伪标签往往集中在有判别性的图像区域,缺乏针对于分割任务的定制化特征。

为了解决上述问题,字节跳动 - 智能创作团队提出了一种即插即用的激活值调制和重校准(Activation Modulation and Recalibration 简称 AMR)模块来生成面向分割任务的 CAM,大量的实验表明,AMR 不仅在 PASCAL VOC 2012 数据集上**最先进的性能。实验表明,AMR 是即插即用的,可以作为其他先进方法的子模块来提高性能。论文已入选机器学习顶级论文 **AI2022,相关代码即将开源。

在图像级弱监督语义分割这项CV难题上,字节跳动做到性能显著提升

论文链接:https://arxiv.org/abs/2112.08996GitHub 链接:https://git**.com/jieqin-ai/AMR

引言

论文提出了一种新颖的激活调制和重校准(AMR)方案,该方案利用聚光灯分支和补偿分支**加权 CAM,从而提供重校准的监督**。注意力调制模块(AMM)按照通道 - 空间的顺序重新学习特征重要性的分布,这有助于显式地建模通道相关性和空间编码,以自适应地调制面向分割任务的激活响应。此外,研究者还针对双分支引入了一种交叉伪监督机制,它可以被视为一种语义相似的正则化机制来相互细化两个分支。实验结果表明,该方法可以通过学习大量粗粒度的标注**良好的分割结果,这对实际应用非常有益。

在图像级弱监督语义分割这项CV难题上,字节跳动做到性能显著提升

方法

在图像级弱监督语义分割这项CV难题上,字节跳动做到性能显著提升

1、激活调制和重新校准方案 AMR

AMR 是由一个聚光灯分支和一个补偿分支组成的互补的双分支网络结构。具体来说,聚光灯分支用于生成基础的判别性强区域的 CAM,补偿分支用于生成面向分割任务的 CAM,为聚光灯的 CAM 提供互补的监督**。补偿分支能够挖掘重要却容易被聚光灯分支忽视的区域,生成的补偿 CAM 通过重新校准聚光灯 CAM 来生成最终的加权 CAM:

在图像级弱监督语义分割这项CV难题上,字节跳动做到性能显著提升

2、注意力调制模块 AMM

论文提出了注意调制模块(AMM)从通道 - 空间顺序的角度重新排序特征重要性的分布,这有助于显式地建模通道间的相互依赖性和空间编码,以自适应地调节面向分割的激活响应值。AMM 包括通道注意调制和空间注意调制。研究者首先将输入到通道 AMM,通过平均池化和卷积层显式地建模通道的相互依赖性。为了进一步在空间维度上建模内部空间的关系,研究者还引入了一个空间 AMM 来级**道 AMM。研究者利用高斯调制函数来增强次要特征并抑制最**和最不**的特征,该函数强调通过次重要的区域来直接提取容易忽略的区域,这对于分割任务至关重要。

在图像级弱监督语义分割这项CV难题上,字节跳动做到性能显著提升

在图像级弱监督语义分割这项CV难题上,字节跳动做到性能显著提升

3、交叉伪监督损失 CPS

为了充分利用其他分支提供的互补 CAM,研究者在聚光灯 CAM 和补偿 CAM 之间**一个交叉伪监督损失函数,起到语义相似性正则的作用:

在图像级弱监督语义分割这项CV难题上,字节跳动做到性能显著提升

交叉伪监督损失不仅正则化了补偿分支,还将判别性区域和容易忽略的区域彼此拉近。因此可以**两个互补区域来重新校准初始 CAM。综上所述,AMR 采用最终下述损失函数进行优化:

在图像级弱监督语义分割这项CV难题上,字节跳动做到性能显著提升

实验

在 PASCAL VOC2012 数据集上,一方面,AMR 超过了当前图像级弱监督方法,取得了**的分割性能。另一方面,AMR 甚至比一些具有更细粒度监督(如显著性监督)的算法**更好的效果。

在图像级弱监督语义分割这项CV难题上,字节跳动做到性能显著提升

可视化结果如下图所示,从结果可以看出两个互补的分支能够关注到不同的响应区域,最终的加权结果能挖掘出更多属于目标对象的区域,从而**更好的分割性能。

在图像级弱监督语义分割这项CV难题上,字节跳动做到性能显著提升

相关资讯

热门资讯

热门话题