本文目錄
Strata 是免費開源的本地執行器。GitHub v0.2.5(published_at 2026-10-25T10:06:04Z,約北京時間 2026 年 10 月 25 日 18:06)把 DeepSeek V4.1 Flash 放進了 Windows/Linux 的桌面 App——這不等於 DeepSeek 官方發了一款新桌面產品。真正門檻也不是「只要一張 12GB 卡」:系統記憶體要到幾十 GB,下載量是兩百多 GB。
磁碟和記憶體要準備什麼
0.2.4 的 release notes 把 DeepSeek V4.1-Flash 引進 Terminal,並寫明選型框架;0.2.5 仍沿用:
- 顯示卡: 約 12GB 顯示記憶體或以上。
- 記憶體: 作者在 RTX 3060 機器上約 46GB 能跑;64GB 是測過的更舒服檔位。空閒記憶體越多,專家快取越大、回答越快。
- 下載: 約 239GB(IQ1_M)、257GB(IQ2_XXS)或 274GB(IQ2_XS)。這是 Strata 整套下載量,含 Engram 表與 DSpark 草稿模型,因此會大於 Hugging Face 模型卡上「主幹+Engram」的體積。
DeepSeek V4.1-Flash 是稀疏 MoE:Strata 把最常用的專家放進 RAM store,其餘從 SSD 直接讀——整模不必塞進顯示記憶體。0.2.5 起,空閒記憶體夠時 RAM store 可以裝下全部專家(以前停在 48GB),並仍留出約 12GB 空閒。這是「能快取多少」的升級,不是把「大約準備 46–64GB 記憶體」改掉。
App 與 Terminal,以及哪些平台有 DeepSeek
0.2.5 裡 App 與 Terminal 都是 0.2.5。模型選擇器列出三檔官方尺寸,附帶體積/速度/磁碟說明(只警告、不攔截)。上下文固定 8K,沒有校準步驟。新增 Speed(Faster/Full quality):Faster 每 token 用 6 個專家裡的 5 個,在顯示記憶體 ≤16GB 的機器上預設開啟。
DeepSeek 跑在單獨的 strata-dsv41 引擎包上,與 Qwen/Metal 引擎並列。v0.2.5 資源頁上,dsv41 包只有 Windows/Linux(CUDA 與一款 HIP)。Mac 有 0.2.5 dmg 和內建小體積 Metal 引擎,但沒有 dsv41、也沒有 DeepSeek——本版 Mac 跑不了 DeepSeek。
品質說法:三檔尺寸、三道基準
權重來自 ISTA-DASLab 對 DeepSeek-V4.1-Flash-1017 的 GSQ-RCO GGUF,不是 DeepSeek 品牌的「新模型發布」。模型卡寫明:IQ2_XXS(2.00 bpw) 在 AIME25、GPQA-Diamond、LiveCodeBench v6 上與基座持平(該三基準任務平均恢復率 100.0%,reasoning effort 50);IQ1_M 約保留 98.7%。這只覆蓋卡片設定下的這三道分,不是「2 bit 全面無損」。Strata 0.2.4 notes 另給出各檔困惑度與程式碼/agent 文字差異;磁碟夠、更在意編碼/agent 貼近度時,可看 IQ2_XS。
DeepSeek 官方側開源的推理框架見 DeepInfer。Strata 是另一條第三方路徑:安裝器+本地 App/Terminal,不是 DeepInfer 本身。
速度數字(僅供參考)
0.2.4 notes 在 2.00-bit 檔自報:RTX 5070 12GB+64GB 記憶體上輸出約 5 tokens/s(程式碼);RTX 3060 12GB+46GB 記憶體上約 8–10 tokens/s;並列出 8K 提示讀取速度。0.2.5 另稱 Faster 模式在 RTX 5070 上程式碼/agent 解碼約快 16%,其他機器有更小增益,並改進了「CPU 先跑已在記憶體的專家、其餘從 SSD 讀入」、減少每層 GPU launch 等。12GB 卡上磁碟速度影響很大。以上均為專案自報,僅供參考。
和站內其他 DeepSeek 文怎麼擺
基座 Flash 1017 的榜單位次見 DeepSeek V4.1 Flash 1017 在 Code Arena、Vals AI 和 Artificial Analysis 上排第幾。官方推理框架見 DeepSeek 開源 DeepInfer,支撐 V4.1 Flash 的推理框架。若比的是本地 coding harness 而不是本地權重執行器,見 同一個模型換套 coding harness,通過率幾乎不動,帳單為什麼差這麼多? 與 DeepSeek Harness 安裝教學:Windows、Linux、CLI 與外掛。
自報 tokens/s 與三基準恢復率在具體顯示卡、記憶體與 SSD 上是否成立——僅供參考。跑過可透過網站底部站長聯絡方式回饋。
