导航|地址|刷新
摩尔线程完成DeepSeek-V4全链路工程化适配-中关村在线

中关村在线

笔记本

×

摩尔线程完成DeepSeek-V4全链路工程化适配

品牌资讯

05-02

近日，摩尔线程依托旗舰级AI训推一体智算卡MTT S5000与自研MUSA软件栈，基于SGLang 开源推理框架，成功完成DeepSeek-V4的完整运行验证。该成果表明，面向新一代MoE大模型，摩尔线程已构建起从硬件架构核心计算引擎承接、热点算子支持，再到端到端部署验证的系统化适配链路，验证了国产GPU平台对前沿大模型“框架级兼容、开箱即落地”的承载实力及工程化落地能力。

随着大模型架构持续演进，DeepSeek-V4等先进模型对底层精度能力、算子覆盖、编译优化、并行通信和推理效率提出了严苛要求。摩尔线程充分发挥S5000原生FP8算力、MUSA对CUDA深度兼容、TileLang MUSA编译器对TileLang生态完美支持等优势，结合TileKernels开源库复用，基于TileLang快捷开发自定义算子等手段，快速打通了DeepSeek-V4推理适配链路，再次验证了摩尔线程为开发者和行业用户提供高效、易部署的国产大模型运行软硬件底座的能力。

值得注意的是，TileLang-MUSA已正式进入 TileLang官方主线，实现了对DeepSeek-V4最新发布TileLang算子库TileKernels的Day-0无缝支持。这意味着MUSA平台已具备承载前沿LLM算子生态的工程基础，为后续先进开源模型适配提供了直接复用的算子通路。

TileKernels算子库开源地址：点此进入

TileLang-MUSA开源地址：点此进入

三层技术路径，完成DeepSeek-V4工程化适配

本次适配验证了一条新模型快速推理部署的系统化工程路径：通过MUSA对CUDA的全栈兼容，实现核心主流AI框架快速适配，复用开源 TileKernels算子替代标准融合模式，并借助AI Agent基于TileLang完成模型特异性算子的快速开发与验证。

首先，MUSA软件栈提供了FlashMLA、DeepGEMM、DeepEP等DeepSeek开源仓库的兼容实现，使得推理依赖的Attention、FP8 GEMM、MoE dispatch/combine等关键计算、通信算子能够在S5000上快速适配。

其次，面向SwiGLU + FP8 quant等标准融合模式，S5000可直接复用DeepSeek TileKernels原生算子实现Day 0开箱适配，通过摩尔线程MATE 开源算子库在layout、dtype 、scale contract及接口层面与DeepGEMM深度兼容，消除热点算子的格式、接口对齐开销。得益于MUSA对AI软件生态良好的兼容性，DeepSeek-V4在MUSA平台上可实现从核心算子适配，到端到端拉起，再到系统级性能调优的工程级加速。

最后，针对DeepSeek-V4高度特异化的计算负载，摩尔线程借助AI Agent实现TileLang Kernel 自动生成及调试，围绕算子语义分析、接口适配、Kernel实现与正确性及精度验证等环节提升开发效率，完成RMSNorm、RoPE、Compress、Topk等多个核心自定义算子快速开发、集成。该方案在保证计算语义零偏差的前提下，显著压缩了Kernel级开发及适配周期，并进一步释放关键算子的性能，例如，RMSNorm等带宽瓶颈算子带宽利用率可达80%。

原生FP8支持，夯实混合精度推理底座

上述三层路径快速打通，得益于摩尔线程S5000 原生FP8算力底座支撑，完整承接前沿混合精度模型推理需求，在保持模型精度的同时，实现高吞吐、低显存占用与显存带宽的高效利用。

该能力深度对齐DeepSeek V4等先进MoE模型的精度演进范式，确保DeepGEMM、FlashMLA、DeepEP等核心算子在MUSA平台上快速适配。

围绕原生FP8能力，摩尔线程已完成涵盖激活量化（SwiGLU FP8 quant）、MoE路由（routing）、注意力预处理（attention-prep）、缓存管理（FlashMLA cache store / paged metadata）及解码压缩（compressor decode/prefill）在内的关键模块适配，并通过多层回归测试，完成关键路径正确性与稳定性的验证。

FlashMLA DSA极致优化，释放长上下文推理性能

在完整模型链路适配的基础上，摩尔线程在S5000上针对FlashMLA DSA的Prefill（预填充）与Decode（解码）场景开展了专项优化，采用了一致的底层优化逻辑：紧密围绕DeepSeek-V4 KV Cache的数据组织模式，直接完成稀疏KV读取、Cache Layout解析、Attention计算及结果写回，有效消除了额外的缓存重排（Rearrangement）开销，同步支持Original + Extra双路KV Cache机制及动态Top-k长度，通过TileLang对DSA算子进行深度优化，显著提升了长上下文与稀疏注意力场景下的计算效率，最终DSA Prefill及Decode算子BF16 Tensor算力利用率可达50%，这还不是终点，我们还在继续推进优化。

四层验证体系，确保生产级稳定和确定性

围绕完整推理链路，摩尔线程建立了覆盖MUSA Kernel验证、算子级精度对齐、优化路径选择、端到端场景回归四层验证体系，确保关键算子在实际运行中的正确性及稳定性。当前，摩尔线程基于DeepSeek-V4的工作已进入性能调优、长上下文能力完善与生产级稳定性验证阶段。

后续，摩尔线程将持续深耕DeepGEMM、 MoE 调度、长上下文推理服务化部署等关键能力，推动DeepSeek-V4等前沿大模型在摩尔线程GPU平台实现更高质量、更高效率的规模化部署。

从TileLang-MUSA对DeepSeek-V4 TileKernels的Day-0支持，到S5000基于FlagOS DeepSeek-V4 Pro和Flash双模型推理镜像发布，再到基于SGLang推理框架成功实现S5000 MUSA适配，摩尔线程正以“产品发布即适配、框架开源即支持”的节奏，持续推进国产GPU对前沿大模型的快速承接与深度优化。未来，摩尔线程将围绕MUSA、TileLang与FlagOS生态，持续完善FP8推理、MoE调度、长上下文与端到端部署能力，为开发者和行业用户提供性能稳定可靠、路径可持续、生态可生长的国产 AI 算力底座。

开发者可下载镜像进行开箱体验：

registry.mthreads.com/mcconline/inference/sglang:deepseek-v4-s5000-4.3.5-torch2.9.0-20260430

DeepSeek-V4推理服务部署指南：

https://blog.mthreads.com/blog/AI/2026-04-30-DeepSeek-V4%20%E6%8E%A8%E7%90%86%E6%9C%8D%E5%8A%A1%E9%83%A8%E7%BD%B2%E6%8C%87%E5%8D%97/

展开全文

使用中关村在线APP，查看更多精彩资讯

人赞过该文赞
内容纠错

相关电商优惠


摩尔线程MTT S4000

￥86389

摩尔线程MTT S80

￥1499

443人评分

98%好评

摩尔线程MTT S3000

￥29999

摩尔线程MTT X300

￥14399

摩尔线程MTT S50

￥3599

评论
更多评论
还没有人评论~快来抢沙发吧~

读过此文的还读过

首款Mini-LED笔记本微星创造者Creator 17 评测

打开APP客户端1508.03

华硕推出PN50 Mini PC 搭载锐龙4000 APU

108.04

锐龙4000H供货紧张相应笔记本可能会涨价

1008.05

十代酷睿游戏本暑促臻选文能助学习武能打游戏

4408.05

全屏生产力荣耀MagicBook Pro锐龙版评测

评测1108.01

高颜值大屏办公利器！上手体验联想昭阳X7-16

评测2206.02

全面压制 AMD锐龙AI Max+ 392对比英特尔酷睿Ultra X9 388H

评测4606.10

京东方成都8.6代OLED产线6月17日量产，全球首发领先海外同行

906.04

体积小、高能效！上手体验Dell Pro 5微型台式机

评测1406.17

英特尔酷睿Ultra7 270HX Plus评测：高端机型选它是对的

评测1706.01

七彩虹将星X16 Pro评测长江存储PC42Q加持实力诠释主流5060游戏本

评测606.23

2026暑促1kg轻薄本怎么选？惠普星Book Pro Air 14评测：1.09kg+52W性能释放

评测606.25

苹果以M5 Max新机替代M2 Max维修，七周完成跨代升级补偿

606.23

壹号本发布四款搭载英特尔Arc G3E处理器新品覆盖全场景用户需求

606.23

Intel 18A-P九大全新进展披露！英特尔代工外部商业化落地在即？

评测806.22

万元出头的高质价比18英寸巨屏游戏本：上手体验机械革命苍龙18 Pro

评测2506.09

英特尔知道自己发布20代酷睿了吗？

评测906.18

ROG枪神10X上桌体验 AMD锐龙9 9950X3D2新CPU加持信仰游戏神器

评测3806.02

能否掀起Windows掌机续航革命？英特尔Arc G3有望铸就最均衡掌机平台

评测6006.04

拯救者平替！上手体验来酷斗战者战7000P游戏本

评测3506.01

可怕的是强悍的性能和超强的散热--深海幽灵Z2性能&散热评测

论坛26

充电宝押金什么时候退

问答5

英特尔酷睿3 304单核性能逼近苹果A18 Pro，差距不足8%

206.22

DDR5内存频率对性能影响实测：高频率是否值得溢价？

306.23

摩尔线程发布图形显卡驱动v340.150，创作与游戏体验同步升级

206.24

DELL 戴尔笔记本电脑咬咬牙买了

论坛15

Word禁用宏、Excel禁用宏设置方法，关闭宏在哪里设置方法？

问答2

2026准大一第一台电脑怎么选？14寸轻薄本推荐惠普星Book Pro Air 14

606.24

5000-8000元大学生轻薄本怎么选？暑促三款热门机型横评

06.26

大学生上课通勤怕电脑太重？暑促三款14英寸轻薄本横评

406.26

MacBook Air十周年，说说你和它的故事？

论坛1

何为单反相机

问答4

联想发布异构智算平台5.0+超节点方案，软硬协同突破算力瓶颈

806.25

江城端午，燃爆光谷｜七彩虹将星X16 Pro武汉品鉴会圆满收官！

1006.22

联想全栈Token方案闪耀2026 MWC上海描绘AI普惠蓝图

706.24

h3c路由器密码破解

问答3

2026大学生创作娱乐怎么选大屏本？暑促三款16英寸轻薄本横评

606.26

联想回应内存涨价冲击：提前锁单保供应，7月起全品类终端再提价

419小时前



联想ThinkPad T14/X13电脑优惠来袭！

06.24

最新笔记本独立显卡排名

问答6

大学生玩转专业电竞，2026年三款高性能游戏本重磅推荐

406.24

526526人参与

“在一起再问天”– 联想问天焕新暨算力生态大会

06.23

联想异能者A15H-A笔记本2367元

06.23

优惠直达 >

怎样和电脑连接

问答5

2026年选购指南｜搭载RTX5060的优质游戏本，大学生捡漏推荐

206.24

亮相MWC上海“北京方案展”，摩尔线程集中展现全场景智算矩阵

906.24

小米平板7 Pro 11英寸版优惠到手1775元

06.24

优惠直达 >

电水壶功率一般有多大，烧水壶多少W？

问答5

2026轻薄长续航笔记本热卖榜 AI算力+超长续航双优

06.24

华为MatePad 11.5 S灵动款

06.24

优惠直达 >

ThinkPad E14 AI PC轻薄本限时特惠

06.22

优惠直达 >

为什么感觉苹果iPhone 11还有很多人去买？

问答11

3500-3999元笔记本哪款好开发者长续航+高色准刚需清单

06.24

最新游戏本销量排行榜适合通勤党轻度游戏+办公

06.24

笔记本性能排行榜值得买长续航+快充+高清屏三重保障

06.24

华为Mate 20 X 5G版和普通版有什么区别？

问答4

iPad Air 11英寸教育优惠价3899

06.25

优惠直达 >

联想来酷Air14笔记本，到手仅2981元

06.20

优惠直达 >

华硕无畏Pro14酷睿版2026低至5663元

06.21

优惠直达 >

iqoo7电池多大？vivo iQOO手机电池容量？

问答4

ThinkPad E14限时特惠5750元

06.20

优惠直达 >

最新笔记本划算榜单 16英寸2.5K高刷生产力组合

06.24

Apple MacBook Neo 13英寸桃粉本低至3399元

06.25

优惠直达 >
点击加载更多

内容相关产品

摩尔线程MTT S4000

三代MUSA架构，自研MTLINK1.0多卡互联，适配主流系统

显卡排行榜第0名

￥
86389

摩尔线程MTT S80

￥
2999

摩尔线程MTT S3000

兼容CUDA，全栈云原生适配，极致资源隔离与卸载

显卡排行榜第0名

￥
29999

摩尔线程MTT X300

高性能3D渲染，支持主流渲染引擎，支持主流平台系统

显卡排行榜第0名

￥
14399

摩尔线程MTT S50

MUSA架构，4K/8K超高清显示，支持主流CPU

显卡排行榜第0名

￥
3599

摩尔线程MTT S2000

硬件级虚拟化能力，全栈算力大显存，低功耗高密度部署

显卡排行榜第0名

￥
14799

说点什么吧~0
发评论，赚金豆
收藏0分享

iPhone Air

OPPOFindX7

iQOO Neo9S Pro+

vivos19

iPhone 17

iQOO Neo9S Pro

OPPOReno12

三星S25

登录|注册
意见反馈

首页查报价问答论坛下载手机笔记本游戏硬件数码影音家用电器办公打印更多

更多频道



频道导航

首页

手机

笔记本

游戏硬件

影音

家电

键鼠

显卡

游戏

音频

电视

平板

主板

CPU

机箱

显示器

空调

固态

打印

投影

耳机

内存

盒子

极客

汽车

电竞

台式机

健康家电

散热

安防

商显

HIFI

激光电视

冰箱

企业站

服务器

网络

攒机

时讯

图赏

智能锁

机器人

电动车

洗衣机

净化器

5G

辅助工具

手机性能天梯图

显卡天梯图

CPU天梯图

电源天梯图

固态硬盘天梯图

新品日历

首页

笔记本

正文

电脑版申请友链

首页

查报价

手机

笔记本

游戏硬件

影音

家电

违法和不良信息举报电话：010-64218167

{{title}}

{{adWord}}{{factory}}

{{title}}

{{adWord}}{{factory}}

{{title}}

{{adWord}}{{factory}}

{{adWord}}

------
导航页打开网址