今日,PyTorch2.0正式发布。PyTorch 2.0提供了相同的即时模式开发和用户体验同时通过更快的性能和支持动态形状和分布式,在编译器级别彻底改变并增强了PyTorch的运行方式。

总结: 

  1. PyTorch 2.0是下一代版本,提供更快的性能和支持动态形状和分布式训练,使用torch.compile作为主要API。
  2. PyTorch 2.0还包括Accelerated Transformers的稳定版本,使用自定义内核进行缩放点积注意力,与torch.compile集成。
  3. 其他Beta功能包括适用于Mac平台的PyTorch MPS后端,torch.func模块中的functorch API,以及针对AWS Graviton3的CPU推理优化。
  4. 该发布还包括TensorParallel、DTensor、2D并行、TorchDynamo、AOTAutograd、PrimTorch和TorchInductor等原型功能和技术。

除了PyTorch 2.0之外,同时发布了一系列beta更新PyTorch领域库,包括内置的库和单独的库,包括TorchAudio、TorchVision和TorchText。

PyTorch2.0 官方博客:https://pytorch.org/blog/new-library-updates-in-pytorch-2.0/

PyTorch 2.0安装:https://pytorch.org/get-started/pytorch-2.0/

 

 

 

内容中包含的图片若涉及版权问题,请及时与我们联系删除