暂无图片
暂无图片
暂无图片
暂无图片
暂无图片

全连接层的作用是什么?

百面机器学习 2020-05-22
1606
点击上方蓝色字关注我们!



问题引入

大家在做图形识别的时候,经常是一大堆的卷积层后面加全连接层,卷积层的作用是特征提取啊之类的,但是为什么基本所有的卷积层之后都要加上全连接层?全连接层的作用是什么?

问题解答

这个问题在知乎上某大佬做了较为详细的分析,这里和大家分享下:

  • 全连接层(fully connected layers,FC)在整个卷积神经网络中起到“分类器”的作用。如果说卷积层、池化层和激活函数层等操作是将原始数据映射到隐层特征空间的话,全连接层则起到将学到的“分布式特征表示”映射到样本标记空间的作用。在实际使用中,全连接层可由卷积操作实现:对前层是全连接的全连接层可以转化为卷积核为1x1的卷积
  • FC可在模型表示能力迁移过程中充当“防火墙”的作用,在作者的研究中发现,首先介绍下概念,微调(fine tuning)是深度学习领域最常用的迁移学习技术。针对微调,若目标域(target domain)中的图像与源域中图像差异巨大(如相比ImageNet,目标域图像不是物体为中心的图像,而是风景照),不含FC的网络微调后的结果要差于含FC的网络。因此FC可视作模型表示能力的“防火墙”,特别是在源域与目标域差异较大的情况下,FC可保持较大的模型capacity从而保证模型表示能力的迁移。

简单来说,FC可以在一定程度上保留模型的复杂度。

参考

[1]https://blog.csdn.net/weixin_40903337/article/details/100074878

[2]https://www.zhihu.com/question/41037974/answer/150522307

[3]https://blog.csdn.net/m0_37598482/article/details/81023127

喜欢就关注一下啦~~~





文章转载自百面机器学习,如果涉嫌侵权,请发送邮件至:contact@modb.pro进行举报,并提供相关证据,一经查实,墨天轮将立刻删除相关内容。

评论