时至今日,人们常用的计算机程序几乎都是软件开发人员从零编写的。比如,现在开发人员要编写一个程序来管理网上商城。经过思考,开发人员可能提出如下一个解决方案: 首先,用户通过Web浏览器(或移动应用程序)与...
时至今日,人们常用的计算机程序几乎都是软件开发人员从零编写的。比如,现在开发人员要编写一个程序来管理网上商城。经过思考,开发人员可能提出如下一个解决方案: 首先,用户通过Web浏览器(或移动应用程序)与...
本文首先介绍了深度学习的基础知识,包括线性回归、多层感知机、卷积神经网络、循环神经网络的基本原理,在其基础上讲解网络优化算法进一步优化网络和自定义网络实现自己的网络。然后介绍深度学习的应用,具体包括单...
标签: 深度学习
动手学深度学习 d2l文件
左闭右开。
Pytorch官网手册卷积操作可视化网站获取数据->数据预处理->搭建模型->定义超参数(包括但不限于损失函数,优化器,学习率等)->将数据送入模型->模型训练->模型评估....以上就是一个深度学习的简单流程了。
学习记录。 %matplotlib inline import torch import torch.nn as nn import numpy as np import pandas as pd import sys sys.path.append('..') import d2lzh_pytorch as d2l print(torch.__version__) torch.set_...
动手学深度学习课程作业和答案
动手学深度学习(2) 过拟合和欠拟合 接下来,我们将探究模型训练中经常出现的两类典型问题: 一类是模型无法得到较低的训练误差,我们将这一现象称作欠拟合(underfitting); 另一类是模型的训练误差远小于它在...
[通过 MXNet / Gluon 来动手学习深度学习 在线 引言 预备知识 深度学习基础 深度学习计算 卷积神经网络 循环神经网络 优化算法 计算性能 计算机视觉 自然语言处理 附录
机器翻译及相关技术 机器翻译(MT):将一段文本从一种语言自动翻译为另一种语言,用神经网络解决这个问题通常称为神经机器翻译(NMT)。 主要特征:输出是单词序列而不是单个单词。 输出序列的长度可能与源序列的...
文章目录文本预处理读入文本分词建立字典将词转化为索引语言模型读取数据集建立字符索引时序数据的采样随机采样相邻采样RNN从零实现RNN 文本预处理 读入文本 import collections import re def read_time_machine():...
3.Transformer模型 3.1.CNN与RNN的缺点: 1.CNNs 易于并行化,却不适合捕捉变长序列内的依赖关系。 2.RNNs 适合捕捉长距离变长序列的依赖,但是却难以实现并行化处理序列 3.2.为了整合CNN和RNN的优势,创新性地使用...
文章目录卷积神经网络基础特征图与感受野填充和步幅1×1卷积层卷积层与全连接层的对比池化层LeNetAlexNet创新VGG创新NiN创新GoogLeNet创新 卷积神经网络基础 特征图与感受野 二维卷积层输出的二维数组可以看作是输入...
标签: 深度学习
这个是最新出版的”动手深度学习“,我们可以在这里学习深度学习。
docs文件夹就是markdown格式的《动手学深度学习》书中的相关内容,然后利用docsify将网页文档部署到GitHub Pages上,由于原书使用的是MXNet框架,所以docs内容可能与原书略有不同,但是整体内容是一样的。...
2.注意力机制和Seq2seq模型 2.1.注意力机制 2.1.1.概念 2.1.2.框架 •不同的attetion layer的区别在于score函数的选择,在本节的其余部分,我们将讨论两个常用的注意层 Dot-product Attention 和 Multilayer ...
【任务安排】: Task03:过拟合、欠拟合及其解决方案;梯度消失、梯度爆炸;循环神经网络进阶(1天...深度卷积神经网络(AlexNet) 使用重复元素的网络(VGG) ⽹络中的⽹络(NiN) LeNet、AlexNet和VGG:先以由卷积层
文章目录GRULSTM深度循环神经网络双向循环神经网络 GRU RNN存在的问题:梯度较容易出现衰减或爆炸(BPTT) ⻔控循环神经⽹络:捕捉时间序列中时间步距离较⼤的依赖关系 GRU: Rt=σ(XtWxr+Ht−1Whr+br)Zt=σ(XtWzr+...
复制jupyter下边的链接,将链接中的端口改为刚才配置的本地端口,在本地浏览器打开。服务器已安装anaconda3,因此不用安装miniconda.接下来,需要下载这本书的代码到远程服务器上。3.下载 D2L Notebook。...
4.1 机器翻译 机器翻译将一种语言自动翻译为另一种语言,用神经网络解决这个问题通常称为神经机器翻译。输出序列的长度可能与源序列的长度不同。 数据预处理 def preprocess_raw(text): #\xa0是latin1里的扩展字符...
5.1 卷积神经网络基础 主要是卷积层和池化层。 二维互相关运算的输入是一个二维输入数组和一个二维核数组,输出也是一个二维数组,其中核数组称为卷积核或过滤器。 def corr2d(X, K): H, W = X.shape ...
动手学深度学习课程PPT
Al:动手学习深度学习
通过MXNet/Gluon来动手学习深度学习
1.机器翻译和数据集 1.1机器翻译 定义:将一段文本从一种语言自动翻译为另一种语言,用神经网络解决这个问题通常称为神经机器翻译(NMT) 主要特征:输出是单词序列而不是单个单词。 输出序列的长度可能与源序列的...
动手学深度学习pytorch.全面介绍深度学习的动手学习文档。