作者:昇腾AI
近期,昇腾AI与智源研究院FlagOpen(飞智)大模型技术开源体系开展深入合作,取得关键进展。基于面向多种AI硬件的一体化评测引擎FlagPerf,双方已完成对昇腾硬件在ResNet50模型上的测试评价,昇腾硬件性能表现优异。目前昇腾AI已支持智源自研开源语言大模型悟道·天鹰(Aquila)的单机和多机训练,训练性能业界领先。双方计划下半年开展对GLM 、LLaMA等更多主流模型的评测,携手共建大模型开源生态。
智源研究院是国际知名的人工智能前沿研究机构,在中国最早引领开展大模型研究,并率先倡导建设大模型开源生态。「悟道」人工智能大模型项目,连创“中国首个+世界最大”纪录,“悟道3.0”进入全面开源阶段。FlagOpen(飞智)大模型技术开源体系是智源研究院与多家企业、高校和科研机构共建的一站式、高质量的大模型开源开放软件体系,包括大模型算法、模型、数据、工具、评测等重要组成部分,支持协同创新和开放竞争,共建共享大模型时代的“新Linux”开源开放生态。
在FlagOpen(飞智)大模型技术开源体系中,面向多种AI硬件的一体化评测引擎FlagPerf 对AI生态有重要价值。FlagPerf是智源研究院联合各大AI软硬件厂商建立的开源、开放、灵活、公正、客观的面向多种AI硬件的一体化评测引擎,可快速高效地对AI软硬件进行适配和评测,解决当前AI软硬件所面临的兼容性差、技术栈异构程度高、应用场景复杂多变等挑战。FlagPerf至今已适配了涵盖CV、NLP、语音、大模型等领域的近20个经典模型,支持评测AI硬件的训练和推理能力,未来还将持续拓展支持模型数量和评测领域,包括不限于AI服务器、图计算等各个场景,期望全面、立体地刻画厂商的的软硬件实力,并通过不断迭代评测体系,紧跟AI产业发展浪潮。
目前,FlagPerf已和昇腾AI等4家技术路线深度合作,共同推进AI硬件评测建设。
昇腾AI是以昇腾AI基础软硬件平台为基础构建的人工智能计算产业。昇腾AI基础软硬件平台包含Atlas系列硬件及伙伴自有品牌硬件、异构计算架构CANN、全场景AI框架昇思MindSpore、昇腾应用使能MindX、一站式开发平台ModelArts和统一工具链MindStudio等,昇腾AI不仅可以提供澎湃算力,还可以提供各种高效的开发工具,使能大模型全流程开发,加速大模型原生创新。
针对已有的业界大模型,昇腾AI提供一站式迁移工具,百亿参数模型2天完成脚本迁移,2周实现精度和性能调优。基于昇腾推理引擎可对接各框架的推理API和业务系统,支持在线分布式推理,应用快速上线。
当前昇腾AI已原生支持30多个L0基础大模型,包括业界熟知的GPT3、LLAMA2、GLM、讯飞星火等,并已联合金融、运营商、互联网、能源等行业协同孵化了多个L1行业大模型和L2场景应用大模型。昇腾AI将坚持开放,使能客户开发自己的行业大模型和场景大模型。
“大数据+大算力+强算法=大模型”是当前人工智能发展的主要技术路径。未来,围绕大模型创新,双方将在基础软硬件、生态共建等多维度展开深入合作,充分发挥各自优势,实现能力互补,促进大模型创新,共建大模型开源开放新生态。
内容中包含的图片若涉及版权问题,请及时与我们联系删除
评论
沙发等你来抢