![](https://simg.baai.ac.cn/hub-detail/f0e7401ee98790a8bcb2069154bf06181693469402306.webp)
新智元报道
![](https://simg.baai.ac.cn/hub-detail/f0e7401ee98790a8bcb2069154bf06181693469402306.webp)
新智元报道
【新智元导读】大模型时代,玩家如何掘金?最近,这套大模型智算软件栈OGAI,竟吸引了国内几十家参与「百模大战」的企业围观。
![](https://simg.baai.ac.cn/hub-detail/720907d3576ee6a7ccfe868e455829871693469402307.webp)
![](https://simg.baai.ac.cn/hub-detail/f21dfb70a05451b557d8f9251fd04a041693469402307.webp)
大模型,怎样才能玩得起
![](https://simg.baai.ac.cn/hub-detail/a020b5ed7a09e43d0fd7679e9a6b712f1693469402307.webp)
瓶颈之下,算力利用率变得尤为重要
![](https://simg.baai.ac.cn/hub-detail/8560aa14a9c97ba0ab20398e4e1a21a41693469402308.webp)
从数据到算法再到RLHF,过程冗长
![](https://simg.baai.ac.cn/hub-detail/286b357b51220fad101db66db23a41071693469402308.webp)
模型训练:周期长、效率低,断点问题严峻
![](https://simg.baai.ac.cn/hub-detail/d8287dcb43fad8763314a2aa5033b5fa1693469402308.webp)
![](https://simg.baai.ac.cn/hub-detail/f9fcc898be94f4f9deeac34243664ccf1693469402308.webp)
总而言之,解决基础设施问题占据了团队最后两周的大部分时间,因为这些硬件问题可能会在一天中的任何时间导致训练中断几个小时。
虽然我们充分意识到这些问题会在这种规模的训练过程中反复出现,但考虑到在2021年底之前完成一个175B模型训练全部工作时间非常紧迫,我们别无选择,只能通过不停重启的方式,看看如果没有额外的训练工具的帮助我们能走多远。
![](https://simg.baai.ac.cn/hub-detail/c87edb56880a575a206e8d05b498ef691693469402308.webp)
OGAI:你可能要踩的坑,他们都替你踩过了
![](https://simg.baai.ac.cn/hub-detail/22d1aac58aed19c7a2b5cf3c11236c531693469402308.webp)
![](https://simg.baai.ac.cn/hub-detail/a8c3673fdfe4e985998830ac0ec1a1c81693469402308.webp)
L0层智算中心OS:面向大模型算力服务的智能算力运管平台,满足多租户以裸金属为主的弹性AI算力运管需求。
![](https://simg.baai.ac.cn/hub-detail/25c3d87065fe815ed747367cbbe7ee431693469402308.webp)
L1层PODsys:开源、高效、兼容、易用的智算集群系统环境部署方案。
![](https://simg.baai.ac.cn/hub-detail/628dbe60a31a1d3fed0ae2b1496dfd721693469402309.webp)
![](https://simg.baai.ac.cn/hub-detail/29cdef3fc4045e0ff9a04e41b595398f1693469402309.webp)
![](https://simg.baai.ac.cn/hub-detail/9503b0a18345c70ec79e7c144783d6a31693469402309.webp)
L2层AIStation:面向大模型开发的商业化人工智能算力调度平台。
![](https://simg.baai.ac.cn/hub-detail/2d7993cf7b366fe92cd8e6b61d9421c91693469402309.webp)
![](https://simg.baai.ac.cn/hub-detail/6f5a7603125804566f9ffbdfb33a2cc01693469402309.webp)
![](https://simg.baai.ac.cn/hub-detail/203e81f69b4fe3193709c1db0b4c39f01693469402309.webp)
L3层YLink:面向大模型数据治理、预训练、微调的高效工具链。
![](https://simg.baai.ac.cn/hub-detail/0f6bf0b1b6ffb2cdb4193f55f0c30fd41693469402309.webp)
![](https://simg.baai.ac.cn/hub-detail/38c16460c3e27d29d96d0185705482591693469402309.webp)
![](https://simg.baai.ac.cn/hub-detail/51cb09e450693a8aceb742ac1383bfe11693469402309.webp)
L4层MModel:提供多模型接入、服务、评测等功能的纳管平台。
大模型掘金的「秘密武器」
![](https://simg.baai.ac.cn/hub-detail/44feb6a95e89a9053aa95eb77b8076171693469402309.webp)
![](https://simg.baai.ac.cn/hub-detail/ad5fed17b4432c21396e718e8f78e5a91693469402310.webp)
![](https://simg.baai.ac.cn/hub-detail/7be8a4010ebdf810f87153e3551e69f81693469402310.webp)
![](https://simg.baai.ac.cn/hub-detail/6c553f70b6f399f687d0d45dc8c323cd1693469402310.webp)
![](https://simg.baai.ac.cn/hub-detail/fb259450390bb211194cecd3898602d21693469402310.webp)
![](https://simg.baai.ac.cn/hub-detail/c84aeb06345139ee197bc86141d3f74d1693469402310.webp)
评论
沙发等你来抢