【神经网络】综合篇——人工神经网络、卷积神经网络、循环神经网络、生成对抗网络_经典神经网络哪些-程序员宅基地

技术标签: 卷积神经网络  人工神经网络  深度学习  人工智能  神经网络  神经网络学习  

前言

本文综合整理常用的神经网络,包括生物神经网络、人工神经网络、卷积神经网络、循环神经网络、生成对抗网络;参考了许多高校的课程、论文、博客和视频等。文章的结构是先进行概念了解,然后结合图片、结构图、一步一步详细讲解;大家要不看看? ( •̀ ω •́ )y

一、人工神经网络

简介:人工神经网络 (Artificial Neural Network, ANN),由人工神经元构成的网络,模拟人类的大脑;它模拟生物过程以反映人脑某些特征的计算结构。

联系人工神经元模拟生物神经元人工神经网络模拟人类的大脑,模拟生物神经网络

特点:人工神经网络是一个并行、分布处理结构,具有学习能力、泛化能力。

功能:联想记忆功能、非线性映射功能、分类与识别功能、知识处理功能。

详细介绍一篇文章“简单”认识《人工神经网络》(更新版)

目录大纲

  • 1 前言
  • 2 人类大脑
  • 3 生物神经网络
  • 4 生物神经元
  • 5 人工神经元
  • 6 人工神经网络
    • 6.1 单层神经网络
    • 6.2 多层神经网络
    • 6.3 前向传播
    • 6.4 损失函数
    • 6.5 梯度下降方法
    • 6.6 反向传播算法
  • 7 特点
  • 8 功能
  • 9 小结
  • 参考

单层神经网络,如下所示图: ( •̀ ω •́ )y

二、卷积神经网络

简介

卷积神经网络(Convolutional Neural Network, CNN),通过卷积层池化层的叠加实现对输入数据的特征提取,最后连接全连接层实现分类。对于图像处理有出色表现,在计算机视觉中得到了广泛的应用。

联系

动物视觉系统对外界的感知是:

  1. 视觉皮层的每个神经元只响应某些特定区域的刺激(感受野)
  2. 从局部到全局(信息分层处理机制)

卷积神经网络

  1. 每个神经元只需对 局部图像 进行感知;
  2. 在更高层将局部的信息综合起来,得到全局信息;

结构:主要由 卷积层+池化层+全连接层 组成的。

应用:图像分类、目标检测、目标跟踪、语义分割、实例分割等。

详细介绍一篇文章“简单”认识《卷积神经网络》(更新版)

目录大纲

  • 1 前言
  • 2 基于什么提出卷积神经网络?
  • 3 卷积(Convolution)
  •     3.1 卷积操作
  •     3.2 多层卷积层
  • 4 池化(Pooling)
  • 5 全连接层
  • 6 特征维度变化
  • 7 CNN核心思想——参数共享
  • 8 优势
  • 9 经典的卷积神经网络
  • 10 卷积神经网络应用
  • 参考

基本卷积神经网络,如下所示图: ( •̀ ω •́ )y

三、循环神经网络

简介循环神经网络(Recurrent Neural Networks,RNN),是一种反馈网络,模拟“人脑记忆功能”,常用于语言识别、机器翻译、视频分析、生成图像描述等。

背景:人工神经网络、卷积神经网络是前馈网络;前馈神经网络是一个静态网络,信息的传递是单向的,网络的输出只依赖于当前的输入,不具备记忆能力。前馈神经网络处理的数据是一个一个输入的,前后数据没有关系的。实际生活中,很多数据都是有上下文相关性的,这些数据称为序列数据;处理的时候,不能只考虑当前的输入就进行判断,需要考虑前后之间关系。

这时需要使用“循环神经网络”,它能有效处理序列特性的数据,它能挖掘数据中的时序信息以及语义信息

结构:循环神经网络由循环体堆叠而成;

详细介绍:一篇文章“简单”认识《循环神经网络》(更新版)

应用:主要在自然语言处理方向应用;

  • 文档分类和时间序列分析(识别文章的主题)
  • 时间序列对比  (比较两个文档的相关程度)
  • 序列到序列的学习(中文翻译为英文)
  • 情感分析    (推文或电影评论的情感划分为正面或负面)
  • 世间序列预测  (根据最近的天气数据来预测未来天气)

目录大纲

  • 1 前言
  • 2 循环体
  • 3 循环神经网络
  • 4 LSTM网络
  • 5 循环神经网络应用
  • 参考

循环体及其按时间展开后的效果: ( •̀ ω •́ )y

四、生成对抗网络

简介生成对抗网络(GAN,generative adversarial network),是一种常用于学习类别特征的神经网络结构;主要有两部分组成,分别是生成网络、判别网络。

背景:在监督学习中,训练集需要大量的人工标注数据,并且需要人工判断生成结构好坏,这个过程是高成本且低效率的;GAN能自动完成这个过程,效率高成本低。

详细介绍:一篇文章“简单”认识《生成对抗网络》(GAN)

应用:GAN 的应用十分广泛,它的应用包括图像合成、图像编辑、风格迁移、图像超分辨率以及图像转换,数据增强等。

目录大纲

  • 1 前言
  • 2 生成对抗网络应用
  •    2.1 风格迁移
  •    2.2 图像生成
  •    2.3 音乐创作
  • 3 生成学习算法
  • 4 生成对抗网络
  •    4.1 GAN的简要实现流程
  •    4.2 GAN算法实现要点
  • 5 MNIST 案例
  • 6 GAN优点
  • 7 GAN缺点
  • 8 文献学习
  • 1. Generative Adversarial Networks
    2. Conditional GANs
    3. DCGAN
    4. Improved Techniques for Training GANs
    5. Pix2Pix
    6. CycleGAN
    7. Progressively Growing of GANs
    8. BigGAN
    9.NAS

生成对抗网络GAN原理图,如下图所示:( •̀ ω •́ )y

大家加油呀~~ ( •̀ ω •́ )✧

版权声明:本文为博主原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接和本声明。
本文链接:https://blog.csdn.net/qq_41204464/article/details/115797030

智能推荐

状态机图 java_文本处理(一)状态机(1)-程序员宅基地

文章浏览阅读176次。系统程序员成长计划-文本处理(一)状态机(1)o 有穷状态机的形式定义有穷状态机是一个五元组 (Q,Σ,δ,q0,F),其中:Q是一个有穷集合,称为状态集。Σ是一个有穷集合,称为字母表。δ: Q xΣQ称为状态转移函数。q0 是初始状态。F 是接受状态集。教科书上是这样定义有穷自动机的,这个形式定义精确的描述了有穷状态机的含义。但是大部分人(包括我自己)第一次看到它时,反复的读上几遍,仍然不知道..._自动门的控制器 有穷状态机

Beyond Compare4如何通过密钥连接SFTP进行文件夹的比较_beyondcompare连接sftp服务器-程序员宅基地

文章浏览阅读1.5k次。在网上搜索了很久没有找到相对应的资源特发布一篇关于此类的文章_beyondcompare连接sftp服务器

AndroidStudio项目提交到github以及工作中实际运用(详细步骤)_guihut readme 加载流程图-程序员宅基地

文章浏览阅读836次,点赞2次,收藏3次。在使用studio开发的项目过程中有时候我们想将项目发布到github上,以前都是用一种比较麻烦的方式(cmd)进行提交,最近发现studio其实是自带这种功能的,终于可以摆脱命令行了。 因为自己也没有做很深的研究,这里就先分享一下通过studio将自己的项目上传到github上的步骤。两个相关概念:git和githubGit是一个开源的分布式版本控制系统,用以有效、高速的处理从很小到非常大的项_guihut readme 加载流程图

oracle12c1使用远程图形进行安装_麒麟安装oracle12c数据库-程序员宅基地

文章浏览阅读1.9k次,点赞3次,收藏4次。应为最近安装了好几次了,而且每次使用静默安装12c1版都会失败,所以索性就记录一下图形化安装,方便后期的使用。_麒麟安装oracle12c数据库

office 2016出现错误,无法启动程序。。。是怎么回事?如何解决?_无法启动office 错误代码147-0-程序员宅基地

文章浏览阅读1.1w次,点赞4次,收藏2次。我刚刚在自己电脑上解决了相同的问题,将方法发上来供参考: 打开“服务”,在里面找到Microsoft Office ClickToRun Service服务,将它关闭,再启动,调成自动; 如果提示无法开启服务也可以这样操作亲测有效..._无法启动office 错误代码147-0

CSU 1558 和与积_多个数的和与积相等 bzoj-程序员宅基地

文章浏览阅读977次。CSU 1558 和与积 Time Limit: 1 Sec Memory Limit: 128 MB Special Judge Submit: 121 Solved: 69 Description构造N个正数(每个数不超过1000000),使所有数的和与所有数的积相差刚好等于D,按非递减序输出。Input多组测试数据(不超过1000组),每行两个正整数N和D。(2<=N<=1000,_多个数的和与积相等 bzoj

随便推点

初始化vector实例的7种方法_创建和初始化vector的方法,每种都给出一个实例?当然也可以把deque与list写出来-程序员宅基地

文章浏览阅读1.4k次。转载 https://blog.csdn.net/qiaoruozhuo/article/details/52086286/* Name: Copyright: Author: Date: 01-08-16 16:01 Description: 初始化vector实例的7种方法 */ #include&lt;iostream&gt; #..._创建和初始化vector的方法,每种都给出一个实例?当然也可以把deque与list写出来

免费开通PTrade与QMT量化交易系统_ptrade交易系统官网-程序员宅基地

文章浏览阅读1.2w次,点赞2次,收藏12次。免费的券商量化系统开通,急速、安全_ptrade交易系统官网

c语言中set 函数,C里边的STL里边的Set函数-程序员宅基地

文章浏览阅读2.2k次。set函数的用法:这是一个集合函数,这个函数可以处理很多的元素,这些元素可以去重,把相同的元素都去掉,剩下不一样的元素,而且还可以自动给这些元素来排序,从小到大的顺序来排序。这里我们先来举个例子:比如:#include #include using namespace std; int main() { set a; a.insert(1); a.insert(9); a.insert(6); a..._c语言set

牛笔了!字节跳动大佬整理:CSS 核心知识(万字长文,值得收藏!)_字节跳动公司 reset css-程序员宅基地

文章浏览阅读1.1k次,点赞4次,收藏14次。本篇文章围绕了 CSS 的核心知识点和项目中常见的需求来展开。虽然行文偏长,但较基础,适合初级中级前端阅读,阅读的时候请适当跳过已经掌握的部分。这篇文章断断续续写了比较久,也参考了许多优秀的文章,但或许文章里还是存在不好或不对的地方,请多多指教,可以评论里直接提出来哈。小tip:后续内容更精彩哦。核心概念和知识点语法CSS 的核心功能是将 CSS 属性设定为特定的值。一个属性与值的键值对被称为声明(declaration)。color: red;复制代码而如果将一个或者多个声明用 {} _字节跳动公司 reset css

Shell读取mysql数据_while read -a row+读取sql查询结果+shell-程序员宅基地

文章浏览阅读762次。今天有个需求需要写个shell读取mysql记录,操作一些文件,搜索了一下踩了些坑记录一下shell2.0写法注释:注意"done< <(“的写法,第一个”<“要和"done"之间没空格,两个”<“之间有一个空格,”<" 和"("之间没空格COMMAND1="mysql -h${HOSTNAME} -P${PORT} -u${USERNAME} -p${PASSWORD} ${DBNAME}e.g.while read -a rowdo echo "._while read -a row+读取sql查询结果+shell

汉明码_cdsn 汉明-程序员宅基地

文章浏览阅读4k次,点赞7次,收藏37次。汉明码实现原理汉明码(Hamming Code)是广泛用于内存和磁盘纠错的编码。汉明码不仅可以用来检测转移数据时发生的错误,还可以用来修正错误。(要注意的是,汉明码只能发现和修正一位错误,对于两位或者两位以上的错误无法正确和发现)。汉明码的实现原则是在原来的数据的插入k位数据作为校验位,把原来的N为数据变为m(m = n +k)位编码。其中编码时要满足以下原则:2^k - 1 &gt..._cdsn 汉明

推荐文章

热门文章

相关标签