首字延迟降低3.6倍,腾讯混元提出Stem稀疏注意力算法,长文推理加速新SOTA
2026-06-05 20:18   
来源: 云财经   
影响力评估指数:16.66  
云财经讯,腾讯混元宣布提出Stem稀疏注意力算法,已被机器学习顶会ICML-26收录。根据Stem算法×HPC算子的全栈加速方案,算法层面,Stem通过Token位置衰减(TPD)和输出感知度量(OAM)实现25%预算下的近无损精度;算子层面,HPC开源的Stem+BSA算子将稀疏收益转化为真实硬件加速,128K上下文下首字延迟降低3.7倍。
云财经智能匹配相关概念
| 新闻标题 | 时间 | 消息来源 | 新闻热度 |
|---|---|---|---|
| Comarch 被评为 2026 年 IDC MarketScape 全球合规电子发票解决方案的领导者 | 09-21 17:41 | 商业新闻 |
|
| 飞天、精品茅台联袂大涨 国窖1573、青花郎显著回调 | 09-16 09:14 | 云财经 |
|
| 翰博高新:拟出售不超1.66%已回购股份 | 09-15 20:36 | 云财经 |
|
| 白宫入股公司股价已回吐过半涨幅 | 09-15 15:58 | 云财经 |
|
| 大北农:控股子公司大豆产品获批巴西种植许可 | 09-15 15:53 | 云财经 |
|
| 能源成本飙升或使英国明年通胀突破4% 达央行目标两倍 | 09-15 15:38 | 云财经 |
|