本文目录
Strata 是免费开源的本地运行器。GitHub v0.2.5(published_at 2026-10-25T10:06:04Z,约北京时间 2026 年 10 月 25 日 18:06)把 DeepSeek V4.1 Flash 放进了 Windows/Linux 的桌面 App——这不等于 DeepSeek 官方发了一款新桌面产品。真正门槛也不是「只要一张 12GB 卡」:系统内存要到几十 GB,下载量是两百多 GB。
磁盘和内存要准备什么
0.2.4 的 release notes 把 DeepSeek V4.1-Flash 引进 Terminal,并写明选型框架;0.2.5 仍沿用:
- 显卡: 约 12GB 显存或以上。
- 内存: 作者在 RTX 3060 机器上约 46GB 能跑;64GB 是测过的更舒服档位。空闲内存越多,专家缓存越大、回答越快。
- 下载: 约 239GB(IQ1_M)、257GB(IQ2_XXS)或 274GB(IQ2_XS)。这是 Strata 整套下载量,含 Engram 表与 DSpark 草稿模型,因此会大于 Hugging Face 模型卡上「主干+Engram」的体积。
DeepSeek V4.1-Flash 是稀疏 MoE:Strata 把最常用的专家放进 RAM store,其余从 SSD 直接读——整模不必塞进显存。0.2.5 起,空闲内存够时 RAM store 可以装下全部专家(以前停在 48GB),并仍留出约 12GB 空闲。这是「能缓存多少」的升级,不是把「大约准备 46–64GB 内存」改掉。
App 与 Terminal,以及哪些平台有 DeepSeek
0.2.5 里 App 与 Terminal 都是 0.2.5。模型选择器列出三档官方尺寸,附带体积/速度/磁盘说明(只警告、不拦截)。上下文固定 8K,没有校准步骤。新增 Speed(Faster/Full quality):Faster 每 token 用 6 个专家里的 5 个,在显存 ≤16GB 的机器上默认开启。
DeepSeek 跑在单独的 strata-dsv41 引擎包上,与 Qwen/Metal 引擎并列。v0.2.5 资源页上,dsv41 包只有 Windows/Linux(CUDA 与一款 HIP)。Mac 有 0.2.5 dmg 和内置小体积 Metal 引擎,但没有 dsv41、也没有 DeepSeek——本版 Mac 跑不了 DeepSeek。
质量说法:三档尺寸、三道基准
权重来自 ISTA-DASLab 对 DeepSeek-V4.1-Flash-1017 的 GSQ-RCO GGUF,不是 DeepSeek 品牌的「新模型发布」。模型卡写明:IQ2_XXS(2.00 bpw) 在 AIME25、GPQA-Diamond、LiveCodeBench v6 上与基座持平(该三基准任务平均恢复率 100.0%,reasoning effort 50);IQ1_M 约保留 98.7%。这只覆盖卡片设定下的这三道分,不是「2 bit 全面无损」。Strata 0.2.4 notes 另给出各档困惑度与代码/agent 文本差异;磁盘够、更在意编码/agent 贴近度时,可看 IQ2_XS。
DeepSeek 官方侧开源的推理框架见 DeepInfer。Strata 是另一条第三方路径:安装器+本地 App/Terminal,不是 DeepInfer 本身。
速度数字(仅供参考)
0.2.4 notes 在 2.00-bit 档自报:RTX 5070 12GB+64GB 内存上输出约 5 tokens/s(代码);RTX 3060 12GB+46GB 内存上约 8–10 tokens/s;并列出 8K 提示读取速度。0.2.5 另称 Faster 模式在 RTX 5070 上代码/agent 解码约快 16%,其他机器有更小增益,并改进了「CPU 先跑已在内存的专家、其余从 SSD 读入」、减少每层 GPU launch 等。12GB 卡上磁盘速度影响很大。以上均为项目自报,仅供参考。
和站内其他 DeepSeek 文怎么摆
基座 Flash 1017 的榜单位次见 DeepSeek V4.1 Flash 1017 在 Code Arena、Vals AI 和 Artificial Analysis 上排第几。官方推理框架见 DeepSeek 开源 DeepInfer,支撑 V4.1 Flash 的推理框架。若比的是本地 coding harness 而不是本地权重运行器,见 同一个模型换套 coding harness,通过率几乎不动,账单为什么差这么多? 与 DeepSeek Harness 安装教程:Windows、Linux、CLI 与插件。
自报 tokens/s 与三基准恢复率在具体显卡、内存与 SSD 上是否成立——仅供参考。跑过可通过网站底部站长联系方式反馈。
