![](https://simg.baai.ac.cn/hub-detail/d963660f126fff355180d8d9aa8a9f781692971419261.webp)
近日,昆仑芯与北京智源人工智能研究院(以下简称“智源”)面向多种AI硬件的一体化评测引擎FlagPerf完成阶段性适配。昆仑芯是FlagPerf首批生态伙伴,双方将强强联合,共同推进AI软硬件评测体系建设,赋能大模型技术创新能力提升,加速我国AI生态繁荣发展。
FlagPerf是智源联合各大AI软硬件厂商建立的开源、开放、灵活、公正、客观的面向多种AI硬件的一体化评测引擎,可快速高效地对AI软硬件进行适配和评测,解决当前AI软硬件所面临的兼容性差、技术栈异构程度高、应用场景复杂多变等挑战。目前FlagPerf已经适配了涵盖CV、NLP、语音、大模型等领域的近20个经典模型,支持评测AI硬件的训练和推理能力,未来还将持续拓展支持模型数量和评测领域,包括不限于AI服务器、图计算各个场景,期望全面、立体地刻画厂商的软硬件实力,并通过不断迭代评测体系,紧跟AI产业发展浪潮。
作为AI加速领域的领军企业,昆仑芯持续推进软硬协同技术创新,在短时间内高效完成了十数个模型的适配和调优工作,并在FlagPerf项目中全面开源。这批模型能非常高效地完成适配并发布,充分展现了昆仑芯优秀的泛化能力和软硬件兼容性,这主要得益于100%自研的昆仑芯XACC AI编译器(XPU AI Compiler Collection)。
昆仑芯XACC AI编译器
可自动帮助用户完成开源模型到XPU设备的迁移工作,并实现全自动性能优化,将XPU硬件算法发挥到极致;
具有零代码侵入、零环境侵入的特点,用户无需修改模型代码,无需修改部署环境,即可将模型迁移到XPU设备;
已全面支持Megatron、DeepSpeed等大模型训练框架,用户可以零成本适配最流行的LLM技术与模型。
智源研究院是国际知名的人工智能前沿研究机构,在中国最早引领开展大模型研究,并率先倡导建设大模型开源生态。「悟道」人工智能大模型项目,连创“中国首个+世界最大”纪录,“悟道3.0”进入全面开源阶段。FlagOpen大模型技术开源体系,由智源联合多家企业、高校和科研机构共建,旨在共建共享大模型时代的“新Linux”开源开放生态。面向多种AI硬件的一体化评测引擎FlagPerf是FlagOpen的重要组成部分。
针对智源大模型,昆仑芯已在悟道·天鹰(Aquila)语言大模型上完成了大规模推理性能验证,在悟道·视界EVA-CLIP视觉大模型上也实现了适配。
此前,昆仑芯已正式加入智源FlagOpen(飞智)大模型技术开源体系,携手多家顶尖硬件企业与高校科研团队共建“北京国家新一代人工智能创新发展试验区AI开放生态实验室”,加速完善芯片软件生态建设。
此次昆仑芯与智源FlagPerf完成适配是双方生态共建的又一重要里程碑。智源和昆仑芯将充分发挥各自优势,共同携手产业链上下游合作伙伴,促进技术、资源、场景等多方主体的合作,助力企业更好应对大模型应用时面临的算力不足、场景不够开放等问题,进一步推动我国大模型的技术研发和应用落地。
关于昆仑芯
昆仑芯前身为百度智能芯片及架构部,于2021年4月完成独立融资,首轮估值约130亿元。核心团队在国内最早布局AI加速领域,深耕十余年,是一家在体系结构、芯片实现、软件系统和场景应用均有深厚积累的AI芯片企业。
秉承着“让计算更智能”的使命,昆仑芯专注打造拥有强大通用性、易用性和高性能的通用AI芯片。目前,昆仑芯已实现两代通用AI芯片系列产品的量产及落地应用,在互联网、智慧工业、智慧交通、智慧金融等领域均有规模部署,帮助企业加速产业智能化布局,将AI算力赋能千行百业。
推荐阅读
![](https://simg.baai.ac.cn/hub-detail/b39e6827f0d16e1ca8a505dbaaf9bd1f1692971419262.webp)
阅读原文,更多精彩
评论
沙发等你来抢