本地 AI · 硬件

英伟达 RTX Spark:个人笔记本跑起千亿模型

它没有更强的算力,只是把"显存"这道墙拆了。拆墙的代价,写在带宽、CPU 和价格上。

2026-10-17本地推理约 12 分钟

37999 元的笔记本,凭什么

10 月 16 日晚上 8 点,北京双井京东 MALL 一楼,剪彩的红绸刚落地。同一时间,京东页面上 128GB 版本的 RTX Spark 笔记本开始变灰。几分钟,售罄。

卖的是华硕 ProArt 创16,128GB 统一内存加 1TB 固态,标价 37999 元。

这个价格放在轻薄本里,属于离谱。但买的人似乎很清楚自己在买什么:一台能在本地跑千亿参数模型的个人电脑。

过去想在本地跑大模型,只有两条路。想要大内存,买 Mac,但 CUDA 生态是缺席的,很多项目要移植、要适配;想要 CUDA,买 NVIDIA 显卡,但显存卡在 24GB,稍大一点的模型就塞不进去。

容量和生态,二选一。RTX Spark 想做的事很简单:把这个二选一取消掉。

这篇文章只回答一条问题链:墙在哪,怎么拆的,拆完跑得快不快,能干什么,代价是什么,最后该不该买。

Q1为什么以前的笔记本跑不了千亿模型?

先算账。账算完,很多营销词就不用解释了。

一个 120B 参数的模型,4-bit 量化后,权重约 60 到 70GB。一个 70B 模型,4-bit 也要 41GB。而过去笔记本上最强的独显,显存是 24GB。

装不下,就是装不下。硬压到 2-bit 能塞进去,但模型会变笨,得不偿失。

就算塞得下,还有第二道墙。传统笔记本的 CPU 内存和 GPU 显存是两块物理上分开的区域,中间隔着 PCIe。模型得一层层换进换出,带宽只有几十 GB/s,生成一个字要等很久。

所以"显存墙"其实有两堵:一堵是容量,一堵是搬运。以前所有方案都在绕过它们,没人真拆。

一句话:千亿模型进不了笔记本,不是算力不够,是加载它的地方不够大,且数据来回搬得太慢。

Mac 的路线是统一内存,M4 Max 的带宽约 540GB/s,容量也够。但 CUDA 在很多 AI 项目里是默认前提,换平台意味着重写和调试。NVIDIA 的路线是 CUDA 原生,可显存只有两位数。两边都只解决了一半。

Q2128GB 是怎么变成"显存"的?

答案不是"显存变大了",而是"显存这个概念没了"。

RTX Spark N1X 不是一块显卡,也不是传统的 CPU 加独显。它是两颗 die 用 2.5D 封装合在一起的 SoC,台积电 3nm,中间用 NVLink-C2C 连起来,双向带宽 600GB/s。

一颗 die 是联发科联合设计的 CPU,20 核 Arm:10 颗 Cortex-X925 性能核加 10 颗 Cortex-A725 能效核。另一颗是 Blackwell GPU,6144 个 CUDA 核心,配第五代 Tensor Core,FP4 精度下算力 1 PFLOP。

项目规格含义
CPU20 核 Arm(10+10)撑住智能体编排与系统并发
GPU6144 CUDA 核心与桌面 RTX 5070 同量级
AI 算力1 PFLOP(FP4)低精度矩阵乘,正是推理吃的
内存128GB LPDDR5XCPU 与 GPU 共用一个池子
内存带宽273–300GB/s不同口径,这是后面所有速度的上限
芯粒互联NVLink-C2C 600GB/sCPU 与 GPU 之间不经过 PCIe
整机功耗80W TDP桌面版为 140W

两颗 die,一个内存池

S-die · CPU 20 核 Arm · 联发科联合设计 NPU 55 TOPS G-die · GPU Blackwell · 6144 CUDA 第五代 Tensor Core NVLink-C2C 600GB/s 128GB LPDDR5X 统一内存池 最高 96GB 可划给 GPU · 峰值带宽 273–300GB/s

CPU 和 GPU 共享同一块物理内存,模型权重只加载一次,不用在两条总线之间来回搬。

关键在下面那一层。128GB LPDDR5X 是一个物理内存池,CPU 和 GPU 直接共享。最高 96GB 可以划给 GPU 使用。实测中,任务管理器里 64GB 由 GPU 硬件独占,另有 48GB 动态共享,GPU 实际可寻址空间达到 111GB。

对比一下:过去笔记本独显的显存上限是 24GB。现在这个数字变成了三位数。

纸面上的 1 PFLOP 很唬人,但真正改变游戏规则的是容量。算力决定跑多快,容量决定能不能跑。先有后者,前者才有意义。

微软也在这层做了配合:针对 RTX Spark 调整了 Windows 调度器,启用功耗与散热框架,还给显存分配做了一个滑杆,最大能划到 96GB,改完重启生效。

Q3装得下,就等于跑得快吗?

不等于。这里有一个反直觉的答案,也是全文最值得记住的一段。

推理分两个阶段。预填充阶段,模型把输入一口气读完,主要吃算力;解码阶段,每生成一个 token,都要把参与计算的权重从内存里读一遍,主要吃带宽。

而 RTX Spark 的带宽是 273 到 300GB/s。M4 Max 约 540GB/s,独立显卡的 GDDR7 更高。所以从纸面上看,它天生不擅长"一个字一个字往外蹦"。

实测数据也印证了这点,但印证的方式很有意思。

模型类型 / 体积实测输出备注
Llama 3.1 8B稠密 / 4-bit54.8 tok/s首 token 0.27 秒
Qwen3 8B稠密 / 4-bit53.8 tok/s首 token 0.27 秒
Qwen3.8-27B稠密 / 开 MTP约 30 tok/s智能体常驻够用
Qwen3.8-Flash-NextMoE / 180B,权重 97.68GB34.6 tok/s激活约 6B,加载 1 分 21 秒
Qwen3.6-35B-A3BMoE / 开 MTP80.6 tok/s接近云端网页版体感

同一台机器上的输出速度(tok/s,越高越好)

Qwen3.6-35B-A3B(MoE)
80.6
Llama 3.1 8B(稠密)
54.8
Qwen3 8B(稠密)
53.8
Qwen3.8-Flash-Next 180B(MoE)
34.6
Qwen3.8-27B(稠密)
30

数据来自公开实测,测试条件(量化方式、是否开 MTP、上下文长度)不完全一致,只用于看相对关系。

看到第三行和第四行,问题就来了:为什么 27B 的稠密模型只有 30 tok/s,而体积大出六倍的 180B 反而跑到 34.6 tok/s?

因为稠密模型每生成一个字,都要把全部权重读一遍。27B 就是 27B 的流量,一个都不能少。带宽就这么宽,再急也没用。

MoE 不一样。180B 的模型里有大量专家,但每次只叫醒最对口的几个。Qwen3.8-Flash-Next 单次激活约 6B 参数。也就是说,128GB 内存负责装下 1800 亿参数的知识,实际每次只搬 6B 的数据。

大容量装知识,小激活绕带宽。这台机器的架构,几乎是照着超大号 MoE 画的。

NVIDIA 自己也是这个思路。10 月 15 日发布的 Nemotron 3.5 Bolt 74B-A9B,740 亿参数、激活 90 亿,2-bit 量化压到 24GB,就是专门为这类设备准备的。

长上下文是另一回事

官方说它能跑 120B 模型、上下文到 100 万 token。实测里有一个更贴近真实使用的数字:一轮 250 万输入 token、3.1 万输出 token 的完整 Agent 会话,跑了 1041.7 秒,约 17 分钟,输出速度 38 tok/s。

17 分钟听起来久。但这是一次性把两百多万 token 塞进去读完,中途没有截断、没有分片、没有把资料上传到任何地方。

别误会:它不是一台"什么都快"的机器。27B 稠密模型 30 tok/s,跟云端旗舰比是慢的。它用速度换了容量,这个交换是明码标价的。

Q4装上之后,它到底能干什么?

能跑分不算本事,断网还能干活才算。

有一组测试是这样做的:拔掉网线,打开飞行模式,关掉 Wi-Fi 和蓝牙,然后让本地的 180B 模型接三个工程任务。

任务一:一句话生成深空任务控制大屏
1920×1080 一屏到底、不许滚动,300 多颗闪烁星辰、ECharts 轨道图、实时时钟,还埋了一个物理陷阱:画面上的距地距离与光信号延迟必须符合真实光速。它算对了,而且视觉上像模像样。
任务二:禁用物理引擎,手写 3D 抽积木
要求用 Three.js 做 18 层积木塔,禁止调用任何现成物理库,必须自己实现 60Hz 刚体、重力、碰撞、摩擦,倾斜超过 30 度整塔倒塌。跑起来了,拖拽、堆叠、失稳散落都符合直觉。
任务三:8 页投融资长卷,数据不能打架
用一套示例数据生成 16:9 交互式演示,要求总览页、分赛道页、集中度页的数字完全对得上,还自带键盘翻页和滚轮播放引擎。数字没有错漏,视觉风格也立住了。

说句公道话:这三个案例能成,一半靠模型能力,一半靠提示词。每个 Case 都是几百行的结构化约束。你如果只丢一句"帮我做个好看的 PPT",它一样会翻车。本地模型和云端旗舰在长链条自纠错上的差距,还在。

但它们的共同点是:全程离线。那些不方便上传的财务底稿、未开源代码、并购材料,终于有了一个不用按"发送"的地方。

日常使用时,它是什么手感

有个细节我挺喜欢。一位博主想给自己做一个浏览器翻译插件,因为受够了订阅费和按 token 计费。他选了一个 2B 的翻译模型,设了 6 路并行,半小时写完,效果接近实时。这种事以前不敢做,不是因为难,是因为每次调用都在花钱。

出图也一样。Qwen-Image-2.1 在 BF16、40 步的设置下,一张 1K 图一分多钟;H3 生成 15 秒 720P 视频,本地约 20 分钟。慢,但无限次。

游戏这边,赛博朋克 2077 在 1080p 超高清约 70 帧,QHD 约 47 帧,重光追掉到 30 帧左右。3DMark Time Spy Extreme 6060 分,高于 AMD Ryzen AI Max+ 395 的 4689。它不是游戏本,但能玩。

更关键的是持续能力。跑 180B 模型时,插座上的功率计显示整机功耗稳在 37 到 38W,核心温度约 70°C,风扇 4100 转、人位噪音 53.4 分贝。日常办公续航 8.8 小时;纯靠电池连续跑千亿模型,能撑两个半小时。

这意味着它可以一直开着。待命、轮询、在后台处理任务,而不是演示五分钟就得插电。

Q5代价是什么?

拆墙不是免费的。账单分四份寄来。

第一份:CPU 不是强项

Geekbench 7 单核 2604 到 2710,多核 23571 到 26310。多核接近 M4 Pro,单核落后 M5 一代。Cinebench 2026 单核 555 到 558,夹在 M3 和 M4 之间。

原因不复杂:Cortex-X925 是 Arm 2024 年的设计,而联发科自己的手机芯片已经用上更新的架构。这颗芯片的工程样品能追溯到 2024 年,开发周期摆在那儿。

影响是具体的:编译、渲染这类多线程活没问题;浏览器、游戏逻辑这类吃单线程的活,会明显吃亏。

第二份:Windows on Arm 的老问题

Prism 转译已经优化得不错,日常软件和原生 AI 工具链跑得很顺。但内核级反作弊没有原生 Arm 版本的游戏,仍然进不去。《使命召唤》要等到 2027 年。部分 x86 竞技网游会有掉帧。

还有一个小遗憾:那颗 55 TOPS 的 NPU,目前专供微软 Copilot+ 功能,第三方软件调不到。等于有一部分硬件,你买了但用不上。

第三份:价格

国行 128GB 加 1TB 的 ProArt 创16 是 37999 元。美国市场 24GB 起步价 2599 美元,64GB 的 ProArt P16 约 4819 美元。同样的芯片,内存翻倍,价格能差出一台车的首付。

而且这是第一代。驱动、生态、兼容性,都还要时间。现在买,买的是"能跑",不是"跑得顺"。

第四份:它替不了的东西

它没法让你在 5090 上那种速度下玩游戏,也没法在单核性能上追平苹果。它是为"装得下"设计的,不是为"最快"设计的。想清楚这一点,很多失望可以避免。

Q6该买它,买 Mac,还是继续付 API 钱?

三个方案服务三种人,不存在谁替代谁。

维度RTX Spark 128GBMac(M4 Max)桌面 RTX 5090
可分给 GPU 的内存最高 96GB统一内存,按配置32GB
内存带宽273–300GB/s约 540GB/s远高于前两者
CUDA原生不支持原生
形态1.79kg 笔记本笔记本 / 台式台式
适合的模型100B 级以上 MoE能装进内存的模型30B 级,追求速度
Buy

现在就买

  • 每月 API 账单四位数以上
  • 手里有不能上传的代码或财务数据
  • 需要 100B 级以上模型常驻本地
  • 能接受 30 tok/s 的稠密模型速度
Wait

再等一代

  • 主要跑 30B 以下模型
  • 在意单核性能和游戏帧数
  • 工作流重度依赖 x86 专业软件
  • 预算敏感,等 N1 低配版本
Skip

不用考虑

  • 只用 AI 写周报、润色邮件
  • 云端 API 每月花不到一百块
  • 没有离线或隐私刚需
  • 想要一台纯粹的游戏本
Check

买前必问

  • 你的模型能不能跑成 MoE?
  • 常用软件有原生 Arm 版吗?
  • 128GB 里你实际需要多少?
  • 电费和折旧算进成本了吗?

如果只想要一句话:它的价值不在跑分,在于把"按次付费"换成了"一次买断"。这笔账划不划算,取决于你一年会调用多少次。

收束:Token 自由的标价

把云端模型比作租来的地,把本地模型比作自己的一亩三分地,这个比喻是一个博主说的。他的意思很直白:租来的地更肥、产量更高,但随时可能被收回;自己的地产量低一点,可种什么由自己决定。

RTX Spark 就是一块标价 37999 的地。

它不便宜,也不是给所有人准备的。它真正的意义,是把"个人电脑"这个词的边界推开了一格:以前个人电脑能做的事,是打开软件、处理文件;现在它能做的事,是在断网状态下,替你读完两百万 token 的资料,然后给出一个答案。

至于这一格推得值不值,不用看发布会,看你自己上个月的 API 账单就行。

总结

  • 问题不是算力,是显存。120B 模型 4-bit 要 60–70GB,传统笔记本显存只有 24GB。
  • 拆墙的方式是统一内存。128GB LPDDR5X 由 CPU 和 GPU 共享,最高 96GB 可给 GPU,实测可寻址 111GB。
  • 速度的上限是带宽。273–300GB/s,8B 模型约 54 tok/s,27B 稠密约 30 tok/s。
  • MoE 是这台机器的最优解。180B 只激活约 6B,跑到 34.6 tok/s;35B-A3B 开 MTP 能到 80.6 tok/s。
  • 代价明确。CPU 单核落后一代、部分反作弊游戏缺席、NPU 第三方不可用、国行 37999 元。
  • 买不买看账单。月付 API 四位数以上、且有离线刚需的人,这笔账能算平;其余人等下一代。

参考资料

  1. NVIDIA 携手微软,在个人 AI 时代重塑 Windows PC(英伟达中国博客,2026-06-01)
  2. 蓄势待发:全球 PC 应用生态已为 NVIDIA RTX Spark 做好准备(英伟达中国博客,2026-10-13)
  3. NVIDIA RTX Spark 评测:打造智能体时代 AIPC 新定义(超能网,2026-10-16)
  4. NVIDIA 寄来最新 RTX Spark,最全实测来了(Datawhale,2026-10-16)
  5. 这台卖 37999 的 RTX Spark 电脑,让我实现了 Token 自由(数字生命卡兹克,2026-10-17)
  6. NVIDIA RTX Spark N1X 解禁:GPU 称王 CPU 滞后(ZAKER,2026-10-16)