深度学习论文: Attentional Feature Fusion及其PyTorch实现_船噪声特征融合pytorch代码github-程序员宅基地

技术标签：计算机视觉深度学习 pytorch 人工智能神经网络 Paper Reading Deep Learning

深度学习论文: Attentional Feature Fusion及其PyTorch实现
Attentional Feature Fusion
PDF: https://arxiv.org/pdf/2009.14082.pdf
PyTorch代码: https://github.com/shanglianlm0525/CvPytorch
PyTorch代码: https://github.com/shanglianlm0525/PyTorch-Networks

1 概述

特征融合是指来自不同层或分支的特征的组合，是现代网络体系结构中很常见的一种操作。它通常通过简单的操作（例如求和或串联）来实现，但这可能不是最佳选择。在本论文中提出了一个统一而通用的方案，即注意力特征融合，该方案适用于大多数常见场景，包括由short and long skip connections以及在Inception层内的特征融合。

提出的多尺度通道注意力模块用于更好地融合语义和尺度不一致的特征；
通过添加另一个注意力级别（称为迭代关注特征融合）来缓解特征图的初始集成可能带来的问题；

2 Multi-Scale Channel Attention Module(MS-CAM)

MS-CAM多尺度通道注意力模块，结构比较简单，使用尺度不同的两个分支来提取通道注意力权重。其中一个分支使用Global Avg Pooling来提取全局特征的注意力，另一个分支直接使用point-wise卷积提取局部特征的通道注意力。
在这里插入图片描述
PyTorch代码：

class MS_CAM(nn.Module):
    def __init__(self, channel, ratio = 16):
        super(MS_CAM, self).__init__()
        mid_channel = channel // ratio
        self.global_att = nn.Sequential(
                nn.AdaptiveAvgPool2d(1),
                nn.Conv2d(in_channels=channel, out_channels=mid_channel, kernel_size=1, stride=1, padding=0),
                nn.BatchNorm2d(mid_channel),
                nn.ReLU(inplace=True),
                nn.Conv2d(in_channels=mid_channel, out_channels=channel, kernel_size=1, stride=1, padding=0),
                nn.BatchNorm2d(channel),
            )

        self.local_att = nn.Sequential(
            nn.Conv2d(in_channels=channel, out_channels=mid_channel, kernel_size=1, stride=1, padding=0),
            nn.BatchNorm2d(mid_channel),
            nn.ReLU(inplace=True),
            nn.Conv2d(in_channels=mid_channel, out_channels=channel, kernel_size=1, stride=1, padding=0),
            nn.BatchNorm2d(channel),
        )

        self.sigmoid = nn.Sigmoid()

    def forward(self, x):
        b, c, _, _ = x.size()
        g_x = self.global_att(x)
        l_x = self.local_att(x)
        w = self.sigmoid(l_x * g_x.expand_as(l_x))
        return w * x

3 Attentional Feature Fusion

3-1 AFF

在这里插入图片描述

基于多尺度信道的注意模块M，Attentional Feature Fusion (AFF) 可以被表达为：
在这里插入图片描述

3-2 iAFF

完全上下文感知方法有一个不可避免的问题，即如何初始地集成输入特性。初始融合质量作为注意力模块的输入会对最终融合权重产生影响。iAFF针对初始特征集成对于注意力特征融合影响比较大的问题，使用额外一层AFF生成更好的初始特征，即iterative Attentional Feature Fusion (iAFF)：
在这里插入图片描述

3-3 Examples: InceptionNet, ResNet, and FPN

在这里插入图片描述

本文链接：https://blog.csdn.net/shanglianlm/article/details/73744738

原作者删帖不实内容删帖广告或垃圾文章投诉

智能推荐

Python 入门的60个基础练习_练习python基础语法-程序员宅基地

文章浏览阅读4.2w次，点赞329次，收藏2.7k次。Python 入门的60个基础练习_练习python基础语法

iOS6和iOS7代码的适配(2)——status bar_ios7 statusbar-程序员宅基地

文章浏览阅读1w次。用Xcode5运行一下应用，第一个看到的就是status bar的变化。在iOS6中，status bar是系统在处理，应用_ios7 statusbar

gdb调试时No symbol "var" defined in current context && No Register_no registers调试显示-程序员宅基地

文章浏览阅读2.1k次。问题描述：，在gdb调试程序输出变量：p var，会提示No symbol "var" in current context.原因：程序编译时开启了优化选项，那么在用GDB调试被优化过的程序时，可能会发生某些变量不能访问，或是取值错误码的情况。这个是很正常的，因为优化程序会删改程序，整理程序的语句顺序，剔除一些无意义的变量等，所以在GDB调试这种程序时，运行时的指令和你所编写指_no registers调试显示

IDGeneratorUtil 主键id生成工具类_idgeneratorutils.generateid()-程序员宅基地

文章浏览阅读3.4k次。import java.util.Random;import org.drools.util.UUIDGenerator;/** * * * 类名称：GenerateIdUtil * 类描述：主键生成工具类 * @author chenly * 创建时间：Jul 10, 2012 8:10:43 AM * 修改人： * 修改时间：Jul 10, 2012 8..._idgeneratorutils.generateid()

关于汇编 BX 和 BLX 跳转指令_汇编blx-程序员宅基地

文章浏览阅读5k次。BX：跳转到寄存器reg给出的目的地址处，如：BX R2BLX：跳转到寄存区reg给出的目的地址处并将返回地址存储到LR（R14）使用这两个指令时有一点特别需要注意：跳转的目的地址必须是奇数，若不是奇数则在后面加1，如某函数的起始地址是0x80000f00，则要跳转到此函数则应该跳转到0x80000f01处！否则会进入硬件错误中断！..._汇编blx

前端vue，打包整合进后端springboot的resources里面后，运行只要刷新就报404_前端项目放入resource-程序员宅基地

文章浏览阅读2.6k次，点赞2次，收藏4次。vue打包后，其实就剩index.html和一堆静态资源，页面的加载和替换都是通过刷新index.html种的dom来实现的（应该是这样，可能表述不是很好），所以做个重定向就可以了。（博主是这么解决的，网上还有很多人是各种路径错误，大家可以尝试下自己是哪个原因）import org.springframework.boot.web.server.ConfigurableWebServerFa..._前端项目放入resource

随便推点

添加远程github仓库时报错 Warning: Permanently added the RSA host key for IP address 52.74.223.119_cmd warning: permanently added-程序员宅基地

文章浏览阅读9.7k次。1.问题展示2.解决方案1.任意窗口, 打开git bash2.命令行界面, 输入cd C:3.cat ~/.ssh/id_rsa.pub正常下面应该显示一大串公钥如果没有,显示如下图, 则进行下一步, 创建公钥4.创建公钥, 输入 ssh-keygen5.然后一直下一步, 直到出现6.再次输入cat ~/.ssh/id_rsa.pub下面一大串数字便是公钥,复制这些字符串, 打开github, 点击头像, 打开settings, 打开SSH and GPG Keys_cmd warning: permanently added