Hugging Face 於 10 月 22 日發布了 Carbon-X,一個能讀懂 DNA、用英文回答的開源語言模型,參數量 14.8B,基於 Qwen3-14B,採用 Apache 2.0 授權。

能做什麼

據模型卡介紹,使用者可以把 DNA 序列直接貼進對話,用英文提問。Hugging Face 稱它能判斷突變是良性還是致病,辨識調控基因活動的區域,依生物類群為序列分類,並預測序列接下來的鹼基。這些都只是研究用途:模型卡寫明 Carbon-X 未經臨床驗證,不應用於醫療決策(has not been clinically validated)。官方沒有說它可以用於臨床診斷,我們也沒有實測。模型卡還提到,生成長 DNA 序列時品質會下降,模型也不是為設計新序列而訓練的。

怎麼訓練的

Carbon-X 以 Qwen3-14B 為起點,在詞表裡加入 5,515 個 DNA token,以 6 個鹼基為一組編碼。模型卡稱,它先在 DNA、生物學文本、英文和指令資料上做了 302B token 的中期訓練,再進行監督式微調和針對 DNA 任務的強化學習。

Hugging Face 公布的數據

以下數字全部來自 Hugging Face 自己的測試,沒有第三方驗證:

  • 在五項 DNA 基準上,Carbon-X 平均 66.7%,GPT-6.1 Sol 為 67.5%,而 Carbon-X 每道題的推論成本約為其 1/1,800。Carbon-X 的成本以 H200 每小時 5 美元的實測吞吐量計算,對照模型以標準 API 價格計算。
  • 官方稱這一成績比 Qwen3-14B 高 27 分。
  • 讓 Kimi K3 把 Carbon-X 當作 DNA 子代理呼叫後,Kimi K3 在同樣五項基準上的成績從 49.4% 升到 60.5%,提高 11.1 分。

硬體需求

模型卡稱,bfloat16 權重可以放進單張 80GB GPU,支援 vLLM 和 Transformers。Hugging Face 負責後訓練的研究員 Lewis Tunstall 在 X 上表示,Carbon-X 可以用 llama.cpp 在筆電上本機執行,發布部落格也展示了在 MacBook 上執行的示範。不過模型卡的使用說明目前寫的是不支援 llama.cpp 等 GGUF 執行環境,原因是 DNA 分詞器是自訂 Python 程式碼。另一款可在自有裝置上執行的開源模型可參考 MiniCPM-V 4.7。

來源

  • Hugging Face's Carbon-X model card
  • Hugging Face Space: Carbon-X release blog
  • Loubna Ben Allal's post on X
  • Lewis Tunstall's post on X