中国信通院启动“AISHPerf大模型训练与推理工程实践性能基准研究工作”

云财经讯，据中国信通院7月20日消息，中国信通院依托人工智能(161631)软硬件协同创新与适配验证中心，基于AISHPerf人工智能(161631)软硬件基准体系，正式启动“AISHPerf大模型训推工程实践性能基准研究工作”。该项工作以“建基准、聚数据、促优化”为核心方向，聚焦千卡至万卡规模集群在训练与推理环节的核心性能瓶颈，系统梳理模型算力利用率、显存利用率、线性扩展效率、有效训练时间占比、首词元时延、吞吐量、显存带宽利用率等关键指标的定义口径与经验值区间，结合业界公开技术报告与实测数据，为行业提供可引用、可对标、可追溯的工程性能参考基准，推动可信智算体系规范化发展。