没有合适的资源?快使用搜索试试~ 我知道了~
首页中国移动新型智算中心技术体系:定义与未来演进
中国移动新型智算中心技术体系:定义与未来演进
需积分: 0 35 下载量 82 浏览量
更新于2024-06-20
3
收藏 16.72MB PDF 举报
"中国移动发布的NICC新型智算中心技术体系白皮书探讨了人工智能快速发展背景下,智算中心在全球范围内的建设趋势及其重要性。随着大模型如ChatGPT的出现,智算中心的角色日益显著,而早期建设的智算中心在技术标准、生态构建和运营等方面存在提升空间。中国移动为应对这一挑战,提出了新型智算中心(NICC)的概念,强调在"算存网管效"多维度的协同设计,并从新互联、新算效、新存储、新平台和新节能五个领域给出了技术演进建议。白皮书旨在为硬件选型、算力集群设计等关键环节提供指导,促进产业链合作和AI生态的发展。" 在第一章中,白皮书分析了智算中心的发展现状。智能算力已成为全球算力的主要驱动力,智算中心的建设正如火如荼地进行。然而,早期的智算中心在技术层面缺乏统一的标准,生态建设尚不完善,业务发展和运营效率也有待提高,这些都是目前面临的挑战。 第二章可能将深入探讨早期智算中心的具体问题,包括但不限于技术瓶颈、标准不一、生态多样性不足以及运营管理的复杂性,并可能提出这些问题如何限制了智算中心的效能和效率。接下来的章节可能会详细介绍中国移动定义的NICC技术体系架构,阐述新互联、新算效、新存储、新平台和新节能五大领域的具体技术方案和建议,以及如何通过这些技术改进来优化智算中心的性能和能效。 此外,白皮书还强调了产业链协同的重要性,中国移动期望与产业各方共同推动关键技术的成熟,共建健康的AI生态环境。这表明,未来的智算中心不仅需要技术创新,还需要产业合作,共同解决技术标准、生态构建和运营优化等问题,以实现智算中心的全面升级和长期可持续发展。
资源详情
资源推荐
![](https://csdnimg.cn/release/download_crawler_static/88418188/bga.jpg)
08
中国移动 NICC 新型智算中心技术体系白皮书
China Mobile New Intelligent Computing Center Technology Framework White Paper
中国移动 NICC 新型智算中心技术体系白皮书
China Mobile New Intelligent Computing Center Technology Framework White Paper
2.1 NICC 新型智算中心技术体系架构
结合大模型技术的发展趋势以及对智算中心建设和使用现状的分析,我们认为 ChatGPT 等
预训练大模型的出现,必将带来 AI 基础设施的变革,传统的算力堆叠方式已然失效,智算
中心需要在互联、算效、存储、平台、节能五大领域进行系统化的重构,才能支撑起大模型
对千行百业的革新与改造。为此,中国移动结合自身转型战略和一线客户需求,提出 NICC
新型智算中心(New Intelligent Computing Center)。
区别于早期建设的智算中心,NICC 新型智算中心是以高性能 GPU、AI 加速卡等集群算力为核
心,集约化建设的 E 级超大规模算力基础设施,具备从硬件设施到软件服务的端到端 AI 全栈
环境,支撑超大规模、超高复杂度的模型训练和推理业务,最终赋能行业数智化转型升级。
22
NICC 新型智算中心
技术体系架构和发展路径
![](https://csdnimg.cn/release/download_crawler_static/88418188/bgb.jpg)
09
中国移动 NICC 新型智算中心技术体系白皮书
China Mobile New Intelligent Computing Center Technology Framework White Paper
中国移动 NICC 新型智算中心技术体系白皮书
China Mobile New Intelligent Computing Center Technology Framework White Paper
NICC 技术体系由“三层两域”构成(如图 2-1),分别是基础设施层、智算平台层、应用使能层、
智算运维域和智算运营域。其中基础设施层提供计算、存储、网络等硬件资源;智算平台层
作为资源管理的核心,提供裸金属、虚机和容器等多样化实例以及细粒度的资源池化能力,
在此之上搭建算力原生平台提供应用跨架构迁移能力;应用使能层集成行业主流 AI 开发框
架以供应用开发调用。智算运维域主要负责对底层 IaaS(Infrastructure as a Service)资源
进行管理维护,确保系统的稳定运行;智算运营域对接外部客户,提供计量计费、访问、交
易等界面,对内根据上层任务进行资源编排调度。
2.2 NICC 新型智算中心技术发展路径
为释放智能算力极致性能,NICC 的设计方案既要考虑计算、存储、网络三大维度的横向协同,
也要兼顾软件平台与硬件资源的纵向协同,同时锚定技术先进、标准统一、软硬协同、兼容
开放的目标,广泛且高效地支撑智能化应用场景。我们认为 NICC 的发展将分为两个时期:
1) 集群时期:这个时期最显著的特征是数据及模型出现巨量化趋势,千亿级的模型已经出现,
对智算底座的算力能力和扩展性均提出高要求。在设备形态方面,GPU、AI 芯片以扣卡模
图 2-1 新型智算中心技术体系架构
![](https://csdnimg.cn/release/download_crawler_static/88418188/bgc.jpg)
10
中国移动 NICC 新型智算中心技术体系白皮书
China Mobile New Intelligent Computing Center Technology Framework White Paper
中国移动 NICC 新型智算中心技术体系白皮书
China Mobile New Intelligent Computing Center Technology Framework White Paper
组为主,服务器形态多为单机 8 卡,DPU 按需引入解决裸金属管理、存储加速等业务痛点;
硬件资源开始按照集群的方式部署,相比提升单芯片算力,芯片间的高速互联方案落地更为
关键。互联方案以服务器节点为界限,节点内外高速互联技术各自发展,节点内采用高速计
算总线,节点间采用 100G/200G 高速无损网络;在存储方面,原先独立部署的文件、对象
存储逐渐向融合存储演进,提升数据交互效率;平台应具备池化算力分配能力,实现底层智
算资源的细粒度分配、动态调度和一体管理。分布式并行训练框架需要引入提升模型训练效
率。为配合高算力需求,散热系统逐渐从风冷向冷板式液冷过渡。
2) 超级池化时期:当大模型迈进万亿参数量规模,算力、显存和互联的需求再次升级,智
算中心将真正进入超级池化时代,高速互联的百卡组成的“超级服务器(Super Server,
S
2
)”可能成为新的设备形态。传统以单机 8 卡为最小单元的智算中心设计思路需要革新,“超
级服务器”内需要打造统一的协议实现 CPU、GPU、AI 芯片、显存、存储等池化资源的无
缝连接,进而通过 GSE 等高性能交换网络,达到极高吞吐、极低时延的系统算力;为推动
算效能力进一步提升,基于存算一体架构的大算力芯片将开始逐步应用;存储系统在“超级
服务器”内支持内存池技术,对外扩展支持全局统一存储;针对日益割裂的智算生态,需要
构建基于算力原生平台的跨架构开发、编译、优化环境,屏蔽底层硬件差异,从软件层面最
大化使能异构算力融通。散热系统方面,为匹配“超级服务器”设施发挥出最大算力能力,
浸没式液冷也将逐渐规模落地。
我们认为,新型智算中心当前已处在“集群时期”,中国移动和部分企业已经按照集群的思
想构建 AI 基础设施;面向中远期,我们应重点攻关“超级池化时期”的关键技术,尽快形
成行业共识,加速相关核心技术和产业成熟。
图 2-2 新型智算中心技术发展路径
剩余55页未读,继续阅读
![pdf](https://img-home.csdnimg.cn/images/20210720083512.png)
![pdf](https://img-home.csdnimg.cn/images/20210720083512.png)
![pdf](https://img-home.csdnimg.cn/images/20210720083512.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![zip](https://img-home.csdnimg.cn/images/20210720083736.png)
![zip](https://img-home.csdnimg.cn/images/20210720083736.png)
![zip](https://img-home.csdnimg.cn/images/20210720083736.png)
![zip](https://img-home.csdnimg.cn/images/20210720083736.png)
![rar](https://img-home.csdnimg.cn/images/20210720083606.png)
![zip](https://img-home.csdnimg.cn/images/20210720083736.png)
![7z](https://img-home.csdnimg.cn/images/20210720083312.png)
安全验证
文档复制为VIP权益,开通VIP直接复制
![](https://csdnimg.cn/release/wenkucmsfe/public/img/green-success.6a4acb44.png)