首字延迟降低3.6倍,腾讯混元提出Stem稀疏注意力算法,长文推理加速新SOTA
2026-06-05 20:18   
来源: 云财经   
影响力评估指数:16.66  
云财经讯,腾讯混元宣布提出Stem稀疏注意力算法,已被机器学习顶会ICML-26收录。根据Stem算法×HPC算子的全栈加速方案,算法层面,Stem通过Token位置衰减(TPD)和输出感知度量(OAM)实现25%预算下的近无损精度;算子层面,HPC开源的Stem+BSA算子将稀疏收益转化为真实硬件加速,128K上下文下首字延迟降低3.7倍。
云财经智能匹配相关概念
| 新闻标题 | 时间 | 消息来源 | 新闻热度 |
|---|---|---|---|
| 2026高工储能产业峰会召开 华赛能源获评"2026大储系统TOP标杆"奖项 | 今天 13:57 | 商业新闻 |
|
| 港交所将推出中际旭创股票期权 | 今天 11:02 | 云财经 |
|
| 绩优基金提前减仓锁定收益 公募对科技赛道走势判断现巨大分歧 | 今天 07:46 | 云财经 |
|
| 中信建投:谷歌再次提升资本开支指引,关注产业的未来变化 | 今天 07:37 | 云财经 |
|
| 越南籍船舶南沙海域遇险,截至目前已有 44人获救 | 07-26 11:39 | 云财经 |
|
| 伊拉克否认向伊朗转交特朗普停火提议 | 07-24 20:02 | 云财经 |
|