当前位置: 首页 » 资讯 » 上市公司 » 正文

寒武纪适配DeepSeek-V3.2-Exp,同步开源推理引擎vLLM-MLU

来源:财闻 70309/29

9月29日,寒武纪-U(688256.SH)旗下官微发布消息称,寒武纪已同步实现对深度求索公司最新模型DeepSeek-V3.2-Exp的适配,并开源大模型推理引擎vLLM-MLU源代码。针对本次的DeepSeek-V3.2-Exp新模型架

标签:

9月29日,寒武纪-U(688256.SH)旗下官微发布消息称,寒武纪已同步实现对深度求索公司最新模型DeepSeek-V3.2-Exp的适配,并开源大模型推理引擎vLLM-MLU源代码。针对本次的DeepSeek-V3.2-Exp新模型架构,寒武纪通过Triton算子开发实现了快速适配,利用BangC融合算子开发实现了极致性能优化,并基于计算与通信的并行策略,再次达成了业界领先的计算效率水平。

寒武纪还表示,公司一直重视芯片和算法的联合创新,致力于以软硬件协同的方式,优化大模型部署性能,降低部署成本。此前,公司对DeepSeek系列模型进行了深入的软硬件协同性能优化。

免责声明:本网转载合作媒体、机构或其他网站的公开信息,并不意味着赞同其观点或证实其内容的真实性,信息仅供参考,不作为交易和服务的根据。转载文章版权归原作者所有,如有侵权或其它问题请及时告之,本网将及时修改或删除。凡以任何方式登录本网站或直接、间接使用本网站资料者,视为自愿接受本网站声明的约束。联系电话 010-57193596,谢谢。

热门推荐

最全央企上市医药医疗企业名单(2023最新版)

来源:财闻 03/06 13:01

财中网合作