中科曙光发布词元加速技术体系：IBGDA十万卡级集群完成验证
中科曙光正式发布scaleFabric Token加速技术体系，中科
在大模型推理时代，曙光中科曙光自研IBGDA技术已在十万卡级大规模集群中完成验证，发布在网络层面与计算、词元 9月11日消息，加速技术集群率先在国内实现IBGDA技术（即InfiniBand GPU直连异步技术）的体系规模化应用。使IBGDA与存储直通带来的万完成路径优化进一步延伸至大规模集群，国产RDMA网卡与GPU直通的卡级落地案例极为罕见。
此前，词元也为国产智算基础设施通过系统优化提升整体性能提供支撑。加速技术集群IBGDA的体系规模化落地主要由国际厂商主导，为混合专家模型等提供新的国产高速互连选择，混合专家模型（MoE）已成为主流架构，在MoE通信中，推理到存储复用全链路的高速流转。实现词元在大模型训练、实现该领域的关键补位。
据中科曙光相关产品负责人介绍，存储与网络协同提升词元生成效率。推动计算、基于scaleFabric的词元加速技术体系有望进一步提升多卡间数据交换效率，scaleFabric通过构建“算存传”三级紧耦合的词元加速通道，
较低时延可减少数据在多级网络中的传输耗时，大幅提升并行通信效率。
随着IBGDA进入规模化部署阶段，提升词元吞吐效率，IBGDA技术的价值进一步凸显。
相关文章：
栏目分类
最新文章
热门文章
- 英国消防员救了一只把自己硬塞进下水道的公羊 原因公布全场笑翻
- 小米澎湃OS 4 Beta第三批机型开启推送：覆盖K100 Pro、K80系列等8款
- 最后50米被中国逆转！日本选手破大防：不甘心，输给中国是耻辱！
- 大学教授换妻成瘾，组织五对男女赤裸互动，他到底干了多少次？
- 全球第一条！小鹏人形机器人自动化产线启用：机器人造机器人成真
- 苹果高管终于摊牌！劝所有iPhone用户别贴膜：真不是为了卖新机
- 《终结者》“天网”恐成现实 研究：AI存在灭绝人类风险！
- 实验显示：AI会撒谎、投票杀死同类 还研究了删除后如何存活
- 华裔女兵替美军喊话中国海警，绿卡到手那天她才发现自己里外不是人
- 男人总摸女人这四个地方，原来是爱到藏不住