金十數據9月29日訊,寒武紀在公衆號發文表示,2025年9月29日,寒武紀已同步實現對深度求索公司最新模型DeepSeek-V3.2-Exp的適配,並開源大模型推理引擎vLLM-MLU原始碼。針對本次的DeepSeek-V3.2-Exp新模型架構,寒武紀通過Triton算子開發實現了快速適配,利用BangC融合算子開發實現了極致性能優化,並基於計算與通信的並行策略,再次達成了業界領先的計算效率水平。
10.4萬 熱度
1.8萬 熱度
1萬 熱度
17.1萬 熱度
1163 熱度
寒武紀Day 0適配DeepSeek-V3.2-Exp,同步開源推理引擎vLLM-MLU
金十數據9月29日訊,寒武紀在公衆號發文表示,2025年9月29日,寒武紀已同步實現對深度求索公司最新模型DeepSeek-V3.2-Exp的適配,並開源大模型推理引擎vLLM-MLU原始碼。針對本次的DeepSeek-V3.2-Exp新模型架構,寒武紀通過Triton算子開發實現了快速適配,利用BangC融合算子開發實現了極致性能優化,並基於計算與通信的並行策略,再次達成了業界領先的計算效率水平。