着手：21世纪经济报谈

南边财经记者 郑康喜

4月3日，由中国电信广东公司聚合阿里云共同建立的粤港澳大湾区首个基于“真武”芯片的万卡智算集群，在韶关数据中心集群负责上线。

看成国度“超大规模智算集群”新基建在大湾区的首个落场地法，该集群竣事了从芯片、云平台到模子应用的全链路自主研发，标记着自研先进算力正从高端性能打破加快迈向产业应用与算力普惠。

南边财经记者了解到，该集群在工夫层面竣事了多项关节打破。通过卡间RoCE高性能组网、双平面多轨通讯等工夫翻新，集群端到端网罗时延低至4微秒，网罗峰值应用率逾越95%，八成高效得志大模子查察历程中AllReduce、AlltoAll等超大流量通讯需求，踏实承载千亿参数级大模子的预查察与推理任务。

刻下，真武芯片整机提供1.5T大显存，卡间互联带宽逾越700GB/s，为国产算力底座提供了坚实救济。

集群已面向政务治理、医疗民生、新兴产业等领域提供算力及应用处理决策。在城市治理领域，集群为城市治理与专家安全等场景提供算力底座及“超等搜图”应用，权贵援手海量图片与视频数据的检索成果。

在医疗民生领域，上线“全诊通”应用，面向下层医疗机构提供调治智能化处事，已在中山大学肿瘤防治中心等病院开展国产化迁徙与应用试点。在产业翻新领域，快乐彩app官方下载集群为电子信息、先进材料、生物医药、装备制造、低空经济等新式产业提供模子查察、推理与调优处事，助力企业加快研发迭代与智能化升级，灵验责问翻新周期。

算力普惠是这次集群上线的中枢亮点。凭借集群规模上风，与芯片-算力云平台-模子架构的全栈自研和深度协同的工夫上风，相较传统单机部署模式，“真武”智算集群的单卡费解性能援手达9.3倍， 每秒Token生成总量援手近10倍，每百万Token的算力本钱同比大幅下落。

在生态兼容方面，“真武”芯片全面适配主流AI生态，自研软件栈高效适配万般主流模子、框架、算子库及操作系统，具备和洽的编程接口，可端到端支抓用户自主业务落地与膨胀，大幅责问客户迁徙本钱。

为进一步鼓动算力普惠，该集群资源同步在“广东电信算力超市”上线，通过集约运营，面向中小企业提供按卡、按小时计费的算力零卖处事。同期，集群改日瞻望抓续扩容至十万卡规模快乐彩app，死力于打造面向各关节行业领域的国度级智能算力处事平台，惠及大湾区更多科研机构、企业和政府单元以更低本钱、更高成果使用算力资源。