1、天才制造者:独行侠、科技巨头和AI |深度学习崛起十年

 

一次技术蓬勃的背后,必然需要长时间的酝酿,更离不开决定这一爆发瞬间的少数关键人物。正因有了那些特立独行的天才,他们的出现必将影响这一领域的发展方向,甚至决定未来科技发展的历史进程。回望深度学习领域,过去的黄金十年群星闪耀。

 

链接:https://mp.weixin.qq.com/s/iHc5Qp43pXdxS2yVY_BZ0g

 

2、AI编译器的概览、挑战和实践

 

文章主要分为四个部分:AI编译器的概览;AI编译器的挑战;MindSpore的实践;未来的展望。

 

链接:https://zhuanlan.zhihu.com/p/508345356

 

3、新一代多后端深度学习框架TensorlayerX

 

TensorLayerX是新一代的多后端深度学习框架,兼容TensorFlow、Pytorch、PaddlePaddle、MindSpore等国内外主流深度学习计算引擎作为计算后端,用户可以在各类操作系统和AI硬件上(如英伟达GPU 和 国产华为Ascend)使用相同的代码进行开发。

 

链接:https://zhuanlan.zhihu.com/p/515354933

 

4、飞桨框架v2.3发布,高复用性算子库、异构多云分布式训练等多项新特性重磅升级

 

该版本的重点更新:更加丰富的API体系;高复用性算子库PHI;高扩展性参数服务器;全流程硬件感知的性能自动调优;自动化压缩和推理引擎性能优化;大模型训练和推理能力全面升级;异构多云自适应分布式训练架构

链接:https://mp.weixin.qq.com/s/X7SjN_TWJsOHUormhdbt1A

 

5、CUDA优化之PReLU性能调优

 

经过优化PReLU的OneFlow,在大部分情况下均有比PyTorch接近2倍的领先优势,在最后一种情况由于形状较为特殊,无法应用向量化的优化,所以表现与PyTorch持平。

 

链接:https://mp.weixin.qq.com/s/q-RLCDnyb3jDwnwVlpSiqg

 

6、Autograd解析|OneFlow学习笔记

 

本文以OneFlow的代码为例,梳理Autograd模块实现细节

 

链接:https://mp.weixin.qq.com/s/dkv-0mCyiFjvBlrJ8JM5Jg

 

 

7、最优的纯文本模型?GPT-4蓄势待发

 

GPT-3 的强大性能让人们对 GPT-4 的期望颇高。然而关于 GPT-4 的公开信息甚少,Altman 在去年的一次 Q&A 中就 OpenAI 对 GPT-4 的想法给出了一些提示。他明确表示,GPT-4 不会有 100T 参数。正因为 GPT-4 的公开信息很少,人们对其做出诸多预测。近期,一位分析师 Alberto Romero 基于 OpenAI 和 Sam Altman 透露的信息,以及当前趋势和语言 AI 的最新技术,对 GPT-4 作出了一番新的预测,以下是他的预测原文。

 

链接:https://mp.weixin.qq.com/s/222SaarIs8hzSN9JjAFVvg

 

其他人都在看
欢迎下载体验OneFlow v0.7.0:https://github.com/Oneflow-Inc/

内容中包含的图片若涉及版权问题,请及时与我们联系删除