热门标签 | HotTags
当前位置:  开发笔记 > 人工智能 > 正文

6、单层卷积网络

一个单层神经网络的例子(卷积层)

6、单层卷积网络
上图是一个单层卷积网络的图像,输入三维数据的大小为6×6×3,两个滤波器的大小为3×3×3。
通过滤波器对输入数据进行遍历,会得到两个4×4大小的输出图像,如下图所示:
6、单层卷积网络
通过将两个4×4的输出数据进行叠加,我们则得到最终4×4×2的输出数据。
以上的卷积是在视图层面进行的,从上图可以看出,滤波器的层数须与RGB图像的通道数相同(皆为3),若将这个过程表示在神经网络中,则每一个部分所代表的参数如下图所示:
6、单层卷积网络
上图所示,输入部分,即a[0]a^{[0]}大小为6×6×3,图中有两个滤波器,不同滤波器的作用是提取原始数据中不同的特征,两个滤波器即为权值系数w[1]w^{[1]},将滤波器遍历输入数据所得到的4×4数据加上偏置系数b[l]b^{[l]}(这个过程可以看作为z[1]=w[1]a[0]+b[1]z^{[1]}=w^{[1]}a^{[0]}+b^{[1]}),在经激励函数得到最终输出数据(这个过程可以看作为a[1]=g(z[1])a^{[1]}=g(z^{[1]}))。

对于一个n×n×ncn×n×n_c的一个输入数据,在卷积神经网络中第L层的各项参数大小为多少呢?
6、单层卷积网络
其中,f[l]f^{[l]}为滤波器大小;p[l]p^{[l]}为扩展边缘的大小,p[l]=1p^{[l]}=1说明在第ll层的输入图像周围加入了一圈边缘;s[l]s^{[l]}为步长,即滤波器遍历原图像时,窗口模板每次运动的像素数;nc[l]n^{[l]}_c为滤波器个数,滤波器的个数决定了输出图像的层数。

池化层(pooling layer)

作用:缩减模型大小,提高计算速度,同时提高所提取特征的鲁棒性。
池化层(最大池化层和平均池化层)中的超级参数:滤波器大小ff、步长ss,运用频率最高的超级参数数值为f=2,s=2f=2,s=2,效果相当于将原始图像的高度和宽度缩减了一半。
6、单层卷积网络
池化层中很少使用步长pp这个超级参数,并且池化层是一个静态属性,在逆向过程中没有参数需要学习,超级参数都是初始人为赋予的。
上图中的nH×nw×ncn_H×n_w×n_c指的是池化后输出图像的大小。

卷积网络示例(包含卷积层、池化层、全连接层)

先上图:
6、单层卷积网络
上图是一个简单卷积神经网络的示例,从上图的构建我们可以得出结论如下:
1、一般在统计网络层数时,只计算有权重的层,池化层没有权重,所以通常将池化层和它前面的卷积层算作一层。
2、卷积层的作用是提取重要特征,池化层的作用的改变图像结构,使计算快捷。
3、图中在第二层的池化层处理后,将数据平整为大小为400的一维向量,然后利用这400个单元构建下一层的全连接层,其中,这400个单元与全连接层中120个单元中的每一个单元相连接,则它所具有的权重矩阵w[3]w^{[3]}维度为(120,400),因为最后有120个输出,所以偏置b[3]b^{[3]}为120。
4、超级参数的选择要点在于大量阅读别人的文献数据,借鉴他人数据。
5、随着神经网络的深度增加,宽度和高度都会随之减小,而信道数量会增加。
6、在卷积神经网络中一个常见的模式是,一个或多个卷积层后跟随一个池化层,然后是几个全连接层,最后是一个softmax。

下表是关于上图过程中**值大小和参数数量的统计:
6、单层卷积网络

为什么使用卷积?

比起全部使用全连接层,卷积层的优势在于参数共享和稀疏连接。
6、单层卷积网络
关于参数共享和稀疏连接的具体解释如上图所示,目前还无法深入了解,只能先意会。


推荐阅读
  • 生成式对抗网络模型综述摘要生成式对抗网络模型(GAN)是基于深度学习的一种强大的生成模型,可以应用于计算机视觉、自然语言处理、半监督学习等重要领域。生成式对抗网络 ... [详细]
  • 浏览器中的异常检测算法及其在深度学习中的应用
    本文介绍了在浏览器中进行异常检测的算法,包括统计学方法和机器学习方法,并探讨了异常检测在深度学习中的应用。异常检测在金融领域的信用卡欺诈、企业安全领域的非法入侵、IT运维中的设备维护时间点预测等方面具有广泛的应用。通过使用TensorFlow.js进行异常检测,可以实现对单变量和多变量异常的检测。统计学方法通过估计数据的分布概率来计算数据点的异常概率,而机器学习方法则通过训练数据来建立异常检测模型。 ... [详细]
  • 本博文基于《Amalgamationofproteinsequence,structureandtextualinformationforimprovingprote ... [详细]
  • 也就是|小窗_卷积的特征提取与参数计算
    篇首语:本文由编程笔记#小编为大家整理,主要介绍了卷积的特征提取与参数计算相关的知识,希望对你有一定的参考价值。Dense和Conv2D根本区别在于,Den ... [详细]
  • 本文介绍了腾讯最近开源的BERT推理模型TurboTransformers,该模型在推理速度上比PyTorch快1~4倍。TurboTransformers采用了分层设计的思想,通过简化问题和加速开发,实现了快速推理能力。同时,文章还探讨了PyTorch在中间层延迟和深度神经网络中存在的问题,并提出了合并计算的解决方案。 ... [详细]
  • 在2022年,随着信息化时代的发展,手机市场上出现了越来越多的机型选择。如何挑选一部适合自己的手机成为了许多人的困扰。本文提供了一些配置及性价比较高的手机推荐,并总结了选择手机时需要考虑的因素,如性能、屏幕素质、拍照水平、充电续航、颜值质感等。不同人的需求不同,因此在预算范围内找到适合自己的手机才是最重要的。通过本文的指南和技巧,希望能够帮助读者节省选购手机的时间。 ... [详细]
  • 从高级程序员到CTO的4次能力跃迁!如何选择适合的技术负责人?
    本文讲解了从高级程序员到CTO的4次能力跃迁,以及如何选择适合的技术负责人。在初创期、发展期、成熟期的每个阶段,创业公司需要不同级别的技术负责人来实现复杂功能、解决技术难题、提高交付效率和质量。高级程序员的职责是实现复杂功能、编写核心代码、处理线上bug、解决技术难题。而技术经理则需要提高交付效率和质量。 ... [详细]
  • 统一知识图谱学习和建议:更好地理解用户偏好
    本文介绍了一种将知识图谱纳入推荐系统的方法,以提高推荐的准确性和可解释性。与现有方法不同的是,本方法考虑了知识图谱的不完整性,并在知识图谱中传输关系信息,以更好地理解用户的偏好。通过大量实验,验证了本方法在推荐任务和知识图谱完成任务上的优势。 ... [详细]
  • Learning to Paint with Model-based Deep Reinforcement Learning
    本文介绍了一种基于模型的深度强化学习方法,通过结合神经渲染器,教机器像人类画家一样进行绘画。该方法能够生成笔画的坐标点、半径、透明度、颜色值等,以生成类似于给定目标图像的绘画。文章还讨论了该方法面临的挑战,包括绘制纹理丰富的图像等。通过对比实验的结果,作者证明了基于模型的深度强化学习方法相对于基于模型的DDPG和模型无关的DDPG方法的优势。该研究对于深度强化学习在绘画领域的应用具有重要意义。 ... [详细]
  • 背景应用安全领域,各类攻击长久以来都危害着互联网上的应用,在web应用安全风险中,各类注入、跨站等攻击仍然占据着较前的位置。WAF(Web应用防火墙)正是为防御和阻断这类攻击而存在 ... [详细]
  • 程序员如何选择机械键盘轴体?红轴和茶轴对比
    本文介绍了程序员如何选择机械键盘轴体,特别是红轴和茶轴的对比。同时还介绍了U盘安装Linux镜像的步骤,以及在Linux系统中安装软件的命令行操作。此外,还介绍了nodejs和npm的安装方法,以及在VSCode中安装和配置常用插件的方法。最后,还介绍了如何在GitHub上配置SSH密钥和git的基本配置。 ... [详细]
  • 本文介绍了包的基础知识,包是一种模块,本质上是一个文件夹,与普通文件夹的区别在于包含一个init文件。包的作用是从文件夹级别组织代码,提高代码的维护性。当代码抽取到模块中后,如果模块较多,结构仍然混乱,可以使用包来组织代码。创建包的方法是右键新建Python包,使用方式与模块一样,使用import来导入包。init文件的使用是将文件夹变成一个模块的方法,通过执行init文件来导入包。一个包中通常包含多个模块。 ... [详细]
  • 本文介绍了Python爬虫技术基础篇面向对象高级编程(中)中的多重继承概念。通过继承,子类可以扩展父类的功能。文章以动物类层次的设计为例,讨论了按照不同分类方式设计类层次的复杂性和多重继承的优势。最后给出了哺乳动物和鸟类的设计示例,以及能跑、能飞、宠物类和非宠物类的增加对类数量的影响。 ... [详细]
  • 企业数据应用挑战及元数据管理的重要性
    本文主要介绍了企业在日常经营管理过程中面临的数据应用挑战,包括数据找不到、数据读不懂、数据不可信等问题。针对这些挑战,通过元数据管理可以实现数据的可见、可懂、可用,帮助业务快速获取所需数据。文章提出了“灵魂”三问——元数据是什么、有什么用、又该怎么管,强调了元数据管理在企业数据治理中的基础和前提作用。 ... [详细]
  • macOS Big Sur全新设计大版本更新,10+个值得关注的新功能
    本文介绍了Apple发布的新一代操作系统macOS Big Sur,该系统采用全新的界面设计,包括图标、应用界面、程序坞和菜单栏等方面的变化。新系统还增加了通知中心、桌面小组件、强化的Safari浏览器以及隐私保护等多项功能。文章指出,macOS Big Sur的设计与iPadOS越来越接近,结合了去年iPadOS对鼠标的完善等功能。 ... [详细]
author-avatar
飘雪2502923303
这个家伙很懒,什么也没留下!
PHP1.CN | 中国最专业的PHP中文社区 | DevBox开发工具箱 | json解析格式化 |PHP资讯 | PHP教程 | 数据库技术 | 服务器技术 | 前端开发技术 | PHP框架 | 开发工具 | 在线工具
Copyright © 1998 - 2020 PHP1.CN. All Rights Reserved | 京公网安备 11010802041100号 | 京ICP备19059560号-4 | PHP1.CN 第一PHP社区 版权所有