腾讯混元 AI Infra 新开源:HPC-Ops 推理核心算子全面升级
更新时间:2026-06-11 19:48:21 浏览次数:

  为了进一步满足推理系统对动态业务负载的适应性、核心模块对复杂精度和高性能融合算子的需求,HPC-Ops 推出全新更新开源升级,包含五大关键算子。本次升级在主流推理平台上,有效缓解了Attention长尾延迟、显存搬运开销、跨卡通信等实际工程瓶颈,多项性能指标显著优于现有的开源基线。HPC-Ops 是腾讯混元 AI Infra 团队开源并长期维护的一套工业级、高性能的大模型推理底层算子库。

推荐图文

鄂ICP备2024040700号-2
砺行体育文化传媒-南京晟盟文化传媒-版权所有
数据源自网络仅供参考