信息服务

中国电信中部智算中心在武汉投运,支持部署万亿参数大模型

发布于:2024-01-29 点击量:480 来源: IT之家

 1 月 27 日消息,中国电信中部智算中心在武汉东湖新技术开发区(光谷)举行正式投入运营。中国电信专家介绍,该智算中心的算力、安全、环保及扩展性均达到一流水平,目前在中部地区属于最高等级

  IT之家注意到,中国电信中部智算中心建设先进自主液冷智算集群,首次采用基于国产 AI 基础软硬件平台的方案架构,实现算、存、网、电、热整体设计。通过独特的嵌入式液冷单元,盲插总线架构,实现液冷到芯片,液冷到服务器,液冷到机柜,全场景 PUE≤1.15,在达到业内一流绿色节能环保水平的同时,可支持部署万亿参数大模型

  中国电信在全国构建了多点智算中心,提供 5000PFLOPS 的智算算力,中部智算中心依托天翼云骁一体化算力平台,提供高性能、高显存、高兼容性的主流大模型训练、训推一体算力和国产自研架构的液冷高性能算力,可满足多场景算力需求。

  中部智算中心可提供千卡规模的训练推理能力,并支持主流框架及芯片,基于训练推理的混合调度能力,资源利用率可以提升 20%。基于高性能的基础设施和一系列的优化技术,在千卡模型下并行计算效率可以达到 80%


【版权声明】:本站内容来自于与互联网(注明原创稿件除外),如文章或图像侵犯到您的权益,请及时告知,我们第一时间删除处理!