PyTorch 1.7发布，支持CUDA 11、Windows分布式训练-程序员宅基地

机器之心报道

参与：魔王、小舟

昨日，PyTorch 团队发布 PyTorch 1.7 版本。该版本增添了很多新特性，如支持 CUDA 11、Windows 分布式训练、增加了支持快速傅里叶变换（FFT）的新型 API 等。

PyTorch 1.7 版本包含很多新的 API，如支持 NumPy 兼容的 FFT 操作、性能分析工具，以及对基于分布式数据并行（DDP）和基于远程过程调用（RPC）的分布式训练的重要更新。

此外，一些特性也更新为稳定版，包括自定义 C++ 类、内存分析器、通过自定义类张量对象进行扩展、RPC 中的用户异步函数，以及 torch.distributed 中的许多其他特性（如 Per-RPC 超时、DDP dynamic bucketing、RRef helper）。

本次更新的亮点包括：

CUDA 11 得到 PyTorch 官方支持；
对 autograd 分析器，更新和添加了 RPC、TorchScript 和堆栈跟踪（Stack trace）的分析和性能；
（测试版）通过 torch.fft 支持 NumPy 兼容的 FFT 操作；
（原型版）支持英伟达 A100 GPU 和原生 TF32 格式；
（原型版）支持 Windows 系统上的分布式训练。
torchvision

（稳定版）transforms 支持张量输入、批处理计算、GPU 和 TorchScript
（稳定版）JPEG 和 PNG 格式的原生图像 I/O
（测试版）新型视频读取器 API

torchaudio

（稳定版）增加了对语音录制（wav2letter）、文本转语音（WaveRNN）和源分离（ConvTasNet）的支持

（注：从 PyTorch 1.6 版本开始，PyTorch 特性分为 Stable（稳定版）、Beta（测试版）和 Prototype（原型版）。

新特性

PyTorch 1.7 相比之前版本，增加了很多新特性，包括 Python API、C++ API、Autograd、CUDA、量化等多个方面。

例如 Python API 增添了多个新的 namespace、operator 以及 API 扩展，CUDA 增加了 TF32 支持等，量化方面增加了新的量化操作、支持 FP16 量化等。

PyTorch 1.7 部分新特性，详情参见 https://github.com/pytorch/pytorch/releases/tag/v1.7.0。

开发者对 PyTorch 1.7 的态度

有开发者对 PyTorch 1.7「支持 Windows 上的分布式训练」这一新功能表示赞赏：

以及乐见于「PyTorch 对 CUDA 11 的支持」：

依然有人趁机表白 PyTorch，并列出偏好 PyTorch 的原因，如报错易读、代码直观、易于实验。

当然，版本更迭的路似乎永无止境。有开发者提出了自己的需求，例如 fp32 卷积、TensorFlow 有而 PyTorch 没有的 Semantic Versioning：

此时距离 PyTorch 1.6 版本发布仅三个月，不知道 PyTorch 的下一个版本又将带给我们哪些惊喜。

参考链接：

https://pytorch.org/blog/pytorch-1.7-released/

https://github.com/pytorch/pytorch/releases/tag/v1.7.0

https://www.reddit.com/r/MachineLearning/comments/jj4sr7/d_pytorch_17_released_w_cuda_11_new_apis_for_ffts/

本文链接：https://blog.csdn.net/weixin_41666747/article/details/118980020

原作者删帖不实内容删帖广告或垃圾文章投诉

智能推荐

微信小程序开发——字符串转date对象转时间戳 ios显示NaN（踩坑记录）_微信小程序日期文本转时间对象-程序员宅基地

文章浏览阅读1.5k次，点赞2次，收藏3次。问题描述：数据库中存的日期是字符串，yyyyMMdd格式取出后转为"yyyy-MM-dd 00:00:00:000"格式之后date = new Date(yyyy-MM-dd 00:00:00:000)之后转时间戳 date.getTime()。用这个时间戳计算得到一整周的日期数据，并显示在页面中。在微信开发者工具和安卓手机中日期均正常显示，但苹果手机显示NaN。解决办法..._微信小程序日期文本转时间对象

Android studio3.1 汉化_android+studio+3.1汉化-程序员宅基地

文章浏览阅读4.4k次。下载资源：https://download.csdn.net/download/u014549283/10608422或者百度云链接密码 3y9k _android+studio+3.1汉化

Solidworks踩坑随笔_安装管理程序不能核实此服务器存在: 25734@localhost。确定您正确键入了名称。您-程序员宅基地

文章浏览阅读1.9w次，点赞3次，收藏22次。Solidworks无法打开问题终极解决办法网上流传的solidworks无法打开的解决办法有如下几种：使用solidworks安装包自带的修复工具修复缺点：耗费时间长，而且不一定能找到原来下载的安装包，况且不能根除此问题使用_SolidSQUAD_中的文件替换，之后运行server_remove.bat和server_install.bat脚本文件重新安装flexnet_server..._安装管理程序不能核实此服务器存在: 25734@localhost。确定您正确键入了名称。您

Beego学习笔记：ORM在MySQL生成表的过程_orm框架类转化为表-程序员宅基地

文章浏览阅读706次。个人github（包括golang学习笔记、源码）：https://github.com/fangguizhen/Notes/blob/master/Golang%E7%9F%A5%E8%AF%86%E7%82%B9.md前期安装：MySQL驱动go get github.com/go-sql-driver/mysql介绍：Beego中内嵌了ORM框架，它可以将结构体和数据..._orm框架类转化为表

应运而生！双11当天处理数据5PB—HiStore助力打造全球最大列存储数据库-程序员宅基地

文章浏览阅读134次。2019独角兽企业重金招聘Python工程师标准>>> ..._histore助力打造

Oracle备份的几种方式_oracle数据库备份-程序员宅基地

文章浏览阅读1.2w次，点赞17次，收藏106次。Oracle备份的几种方式这里使用Oracle 12C来大概演示说明一下rman的基本用法，这里不会深入讨论，因为本人也只是刚刚才接触，只是结合了网上的一些文章以及自己的实践来总结并拿出来大家学习，谢谢目录一、关于备份与恢复二、逻辑备份（expdp和impdp）三、物理备份四、数据库日常备份计划及脚本参考一、关于备份与恢复1、备份定义备份就是把数据库复制到转储设备的过程。其中，转储设备是指用于放置数据库副本的磁带或磁盘。通常也将存放于转储设备中的数据库的副本称为原数据库的备份或转储。备_oracle数据库备份

随便推点

java安装步骤及dos命令_dos命令行重装java指令-程序员宅基地

文章浏览阅读203次。一.常用的dos命令打开dos窗口的方式:window+r|开始->cmd1.切换盘符: 目标盘符: 大小写都可以2.切换路径: cd 路径相对路径|绝对路径如果不同盘符下的路径切换需要手动切换盘符3.回到上一层路径: cd.. 4.回到盘符跟路径: cd\5.罗列出当前路径下的所有子文件|子文件夹: dir6.自动补全: tab7.查找使用过的命令: 方向上下..._dos命令行重装java指令

Module build failed: TypeError: Cannot read properties of undefined (reading ‘toString‘)-程序员宅基地

文章浏览阅读3.7k次。Bilibili—狂神说Vue快速入门一、错误视频教程中，P16的代码，创建并写好Login.vue，输入npm run dev 运行报错。Module build failed: TypeError: Cannot read properties of undefined (reading ‘toString’)二、原因百度和谷歌了半天，没有找到解决方法。翻了翻bilibili评论区，看到有人提示到 lang=scss。删除 lang=“scss” 后，运行成功。三_module build failed: typeerror: cannot read property 'tostring' of undefined

GO学习之协程(goroutine)_go 协程-程序员宅基地

文章浏览阅读920次。在 Go 语言中，goroutine 是一种非常轻量的执行单元，有 Go 运行是（runtime）进行调度，不是有固定大小的线程来处理的。与传统线程相比，goroutine的创建和切换开销很小，因此可以创建大量的 goroutine 来并行执行任务，而不会造成太大的系统负担。* goroutine 更像是一种高效的协程，它在并发编程中提供了轻量且较高的方式来处理并发，而不需要显式地创建和管理线程池。_go 协程

Linux下解决Redis安装时的编译报错问题_make[1]: *** [makefile:403: adlist.o] error 1-程序员宅基地

文章浏览阅读983次，点赞5次，收藏7次。1.报错：“cc”：未找到命令[root@server2 redis-5.0.3]# make解决办法如下： Linux环境安装gcc。[root@server1 redis-5.0.3]# yum install gcc -y2.报错：make[1]:***[adlist.o]错误1解决办法如下：[root@server1 redis-5.0.3]# make C..._make[1]: *** [makefile:403: adlist.o] error 1

基于MRTK的HoloLens开发（1）_mrtk项目报告-程序员宅基地

文章浏览阅读2.7k次，点赞3次，收藏16次。基于MRTK的HoloLens开发（1）Hololens开发环境配置Visual Studio具体配置MRTK 工具包配置Unity配置如何改变文本的样式插入链接与图片如何插入一段漂亮的代码片生成一个适合你的列表创建一个表格设定内容居中、居左、居右SmartyPants创建一个自定义列表如何创建一个注脚注释也是必不可少的KaTeX数学公式新的甘特图功能，丰富你的文章UML 图表FLowchart流..._mrtk项目报告