![](https://bcdn5.blogchina.com/images/tjsy.png)
“开放计算,对于智算时代有着重要意义。既要通过开放应对多元算力挑战,也要通过开放促进算力的规模化发展和创新。”浪潮信息服务器产品线总经理赵帅日前在2024开放计算中国峰会上表示。
![](https://images.blogchina.com/artpic_upload_v5/66ba1251dfdb0.jpg!m1024)
(来源:资料图)
2024开放计算中国峰会由开放计算社区OCP及开放标准组织OCTC(中国电子工业标准化技术协会开放计算标准工作委员会)联合主办,以“开放协同:协作、智慧、创新”为主题,聚焦数据中心基础设施、人工智能创新、开放计算生态、绿色计算发展、开放系统&CXL等议题。
会上,开放算力模组(OCM,Open Compute Module)规范启动立项,首批成员包括联合中国电子技术标准化研究院、浪潮信息、Intel、AMD、百度、小红书、联想、超聚变等。值得关注的是,这也是国内首个服务器计算模组设计标准,将通过建立标准化的算力模组单元,推动AI生态创新发展。
从“未来一切计算皆AI”谈起
当下,无论是手机、电脑,还是边缘设备、中央处理器(CPU),都已经具备AI计算的能力,也在承载着多样化的AI应用。可以说,AI算力已经深入到千行百业,并渗透进每一个计算设备里。因而,面向AI的算力范式也在不断发生革新。赵帅表示:“未来一切计算皆AI。CPU算力单元应用越来越丰富,除了大数据、关键计算、科学计算外,也要承担AI应用的重要任务,这也是CPU算力单元的重大机遇”
![](https://images.blogchina.com/artpic_upload_v5/66ba1263796ae.jpg!m1024)
(来源:资料图)
但目前,x86、ARM、RISC-V等不同架构的CPU处理器可谓是百花齐放。仅在中国就有10多种CPU处理器,不同CPU的协议标准不统一,系统功耗、总线速率、电流密度不断提升,导致硬件开发、固件适配、部件测试资源等时间激增,给算力系统设计带来了巨大挑战。
所以,如何快速完成从芯片到计算系统的创新,已经成为推动AI产业发展的关键环节。
而面对算力平台多元化、以及通用算力迭代加速的情况,要想给用户提供更快、更好的算力支撑,CPU端亟需制定统一的标准,以实现对不同芯片厂商和多代产品的兼容。这也正是产业上下游希望共同构建开放计算模组(OCM)规范的根本原因。
据介绍,该规范旨在建立基于处理器的标准化算力模组单元。其通过统一不同处理器算力单元的对外高速互连、管理协议、供电接口等,来实现不同架构处理器芯片之间的兼容,借此构建CPU的统一算力底座,进而解决CPU生态挑战的问题。
总的来说,该规范致力于帮助客户根据AI、云计算、大数据等多样化场景,灵活、快速地匹配最合适的算力平台。
![](https://images.blogchina.com/artpic_upload_v5/66ba1275c6e62.jpg!m1024)
(来源:资料图)
如上所说,开放算力模组(OCM)规范启动的首批成员包括中国电子技术标准化研究院、浪潮信息、Intel、AMD、百度、小红书、联想、超聚变等。
对此,赵帅指出,要产业链上下游共同携手,才能建立标准化的算力模组单元,推动人工智能技术创新发展。
首先,做一个通用算力模组一定离不开芯片,因此需要和Intel、AMD等芯片厂商开展合作。
其次,要形成一个开放的产业规范,就要联合产业中主导技术规范和政策研究的单位。
最重要的是,这样的规范离不开用户的使用,而百度和小红书是对该规范感兴趣的第一批初始用户。
“我估计再过两个月,大家就能看到有更多成员加入项目中。”赵帅表示。
用“硬件开放”完善AI算力生态
那么,在推动规范启动的过程中,浪潮信息扮演了怎样的角色?
对此,浪潮信息服务器产品线产品规划经理罗剑表示:“我们更多地是把上游厂商、系统集成商和终端用户之间的核心痛点连接在一起。”
罗剑进一步指出:
对于上游厂商而言,该规范可以帮助它们在开发处理器的同时就做出相应的算力模块,让新平台能够快速地集成到系统上;
对于系统集成厂商而言,则可以通过统一技术规范,实现在一个系统中支持多元的处理器平台;
对于终端用户而言,该规范能够助力实现统一的运维和管理,从而降低用户的管理复杂性。
在如今的AI领域,大模型毫无疑问是“当红炸子鸡”般的存在。算力、算法和数据,是推动AI发展的三驾马车。尤其在大模型领域,这三者的协同作用尤为显著。自Transformer架构出现以来,大模型性能与其参数量、计算当量、数据量密切相关,这种现象被称为Scaling law。
要想对大模型进行高效训练,通常要有千卡以上高算力AI芯片构成的AI服务器系统提供支撑。而实现数千颗芯片互联,并让它们高效协同工作的前提,则是要解决单个服务器内部芯片的高速直联。
因此,在构建CPU的统一算力底座,以解决CPU计算效率问题之前,作为全球最大开放硬件社区,开放计算项目(OCP,Open Compute Project)社区早在2019年就发布了开放加速规范(OAM,OCP Accelerator Module)。
该规范的出现,解决了单个服务器内多元AI加速卡形态和接口不统一、高速互连效率低,以及研发周期长等问题,并得到了包括NVIDIA、Intel、AMD、微软、阿里巴巴、谷歌、浪潮信息等AI芯片企业、互联网企业和系统厂商在内的多家企业的支持与参与。
在此过程中,以浪潮信息为代表的系统厂商,基于开放加速规范(OAM)打造了多款AI服务器,定义了业界第一个符合该规范的8卡互连硬件系统,首次达到该规范下芯片互连的最高速率56Gbps。并且,该公司的AI服务器NF5698G7,支持多种基于开放加速规范(OAM)的芯片。同时,其还为用户构建了一个千卡液冷集群,支持超千亿参数量的AI大模型训练。
![](https://images.blogchina.com/artpic_upload_v5/66ba128fca249.jpg!m1024)
(来源:资料图)
那么,从产业布局的角度来看,开放加速规范(OAM)究竟在其中发挥了怎样的作用呢?
浪潮信息AI&HPC产品线高级产品经理张政表示:“它能够加速上游AI芯片的迭代速度。”
之前,不管是CPU还是图形处理器(GPU),都是两到三年迭代一次。现在GPU已经变成一年一迭代,甚至有些半年就迭代一次。而开发全新系统动辄需要12至14个月的时间,不能很好地配合当下的芯片迭代。
“我们通过这样一个标准化的平台,不但有利于促进芯片迭代,而且也能够不断地推进应用升级。”张政说。
张政补充称:“其实浪潮信息在开放社区里默默做了很多年工作。刚开始合作伙伴较少,这个事情也不能盈利。但现在我们发现,它对整个产业链的收益是巨大的。现在基本上国内外芯片厂商,最高端的产品全都采用了开放标准。”
据了解,目前开放加速规范(OAM)已经发展成为全球最多高端AI加速芯片遵循的统一设计标准,并得到了全世界20多家芯片企业的支持。该规范为AI芯片企业节省6个月以上的研发时间,为整个产业节省数十亿元的研发投入,极大地降低了AI算力产业创新的难度。
以开放拥抱AI,以开放加速AI
在浪潮信息看来,正是开源开放带动了AI产业的发展和繁荣。
以大模型为例,有关开源和闭源之间的争论一直在该领域存在。但不可否认的是,近两年来得益于业内公司在各种大模型上的投入,开源大模型的能力迎来持续且快速的提升。
在2023年全球新发布的基础模型中,有三分之二的模型都是开源类型,超过80%以上的AI项目使用开源框架进行开发,开源大模型的总下载量超过3亿次,并已经衍生出超过3万个新模型。
需要注意的是,开放一定会带来标准化,而标准化又容易导致同质化的问题。
对此,赵帅表示:“对于产品竞争力的这个问题大家一直都很关注,但浪潮信息还是要坚定地走开放道路?原因在于,开放带来的问题,远远小于它所带来的优势。”
具体来说:
第一,开放既能帮助公司更早地接触新技术,又能推动新技术快速迭代和落地。
“开放能让公司始终能比别人快半拍、甚至快一拍,这是它最大的一个优势。比如在设计基于OAM规范的AI服务器时,浪潮信息因为最早参与,解决了大量从标准到工程化的问题,这也是浪潮信息基于OAM产品能够做到最好的一个很重要的原因”赵帅说。
第二,开放会让公司和客户之间的连接更紧密,并且能实现公平和对等的沟通,不会给某一种单方面的绑定。
换言之,公司希望给客户带来新技术,而客户希望改进自己的生产效率。
“大家一拍即合,就很容易走向一种比较好的商业合作模式。”赵帅表示。
第三,开放可以帮助新技术实现更快的产业化,进而降低创新技术的产业化落地难度,降低公司和客户的生产成本和采购成本,这对公司和客户来说也是双赢。
活跃的产业创新,是算力产业健康发展的基础,开放可以激发产业创新的活力,让产业链上下游伙伴,创造更多价值。
![](https://images.blogchina.com/artpic_upload_v5/66ba12a1a7423.jpg!m1024)
(来源:资料图)
张政也补充说,在智算时代,算力迭代是Scale up(单系统性能提升)与Scale out(集群规模扩展)并存迭代快速发展的过程。目前一些传统的8卡AI服务器,其高速互联Domain无法满足万亿参数规模的MoE模型的训练或者推理需求。面对AI服务器的互联瓶颈,浪潮信息早在多年前就开始布局,OAM的下一代规范将支持更高算力规格的加速卡、可以实现更大的OAM domain互联,未来可以支持8k+ GPU卡Scale up,突破大模型all to all通信过程中的互联瓶颈。
另外,大模型的发展需要更大规模的集群,浪潮信息开放网络交换机可以实现16k个计算节点10万+GPU scale out组网,满足GPU之间的互联通信需求,带宽利用率高达95%+。
![](https://images.blogchina.com//artpic_upload_v5/66ba12c26dba41723470530.jpeg!m1024)
(来源:资料图)
我们可以看到,开放计算为数据中心的算力Scale,提供了一个可以迅速传递到整个产业链的“通道”。在演讲的最后,赵帅总结道,目前开放加速模组和开放网络实现了算力的Scale,开放固件解决方案实现了管理的Scale,开放标准和开放生态实现了基础设施的Scale。未来,浪潮信息会继续坚持“以开放拥抱AI、以开放加速AI”的初心,以开放创新加速算力系统全向scale,推动算力产业高质量快速发展。
来源: DeepTech深科技