今日,PyTorch2.0正式发布。PyTorch 2.0提供了相同的即时模式开发和用户体验,同时通过更快的性能和支持动态形状和分布式,在编译器级别彻底改变并增强了PyTorch的运行方式。
总结:
- PyTorch 2.0是下一代版本,提供更快的性能和支持动态形状和分布式训练,使用torch.compile作为主要API。
- PyTorch 2.0还包括Accelerated Transformers的稳定版本,使用自定义内核进行缩放点积注意力,与torch.compile集成。
- 其他Beta功能包括适用于Mac平台的PyTorch MPS后端,torch.func模块中的functorch API,以及针对AWS Graviton3的CPU推理优化。
- 该发布还包括TensorParallel、DTensor、2D并行、TorchDynamo、AOTAutograd、PrimTorch和TorchInductor等原型功能和技术。
除了PyTorch 2.0之外,同时发布了一系列beta更新PyTorch领域库,包括内置的库和单独的库,包括TorchAudio、TorchVision和TorchText。
PyTorch2.0 官方博客:https://pytorch.org/blog/new-library-updates-in-pytorch-2.0/
PyTorch 2.0安装:https://pytorch.org/get-started/pytorch-2.0/
内容中包含的图片若涉及版权问题,请及时与我们联系删除
评论
沙发等你来抢