Hugging Face 于 10 月 22 日发布了 Carbon-X,一个能读懂 DNA、用英文回答的开源语言模型,参数量 14.8B,基于 Qwen3-14B,采用 Apache 2.0 许可。

能做什么

据模型卡介绍,用户可以把 DNA 序列直接贴进对话,用英文提问。Hugging Face 称它能判断突变是良性还是致病,识别调控基因活动的区域,按生物类群给序列分类,并预测序列接下来的碱基。这些都只是研究用途:模型卡写明 Carbon-X 未经临床验证,不应用于医疗决策(has not been clinically validated)。官方没有说它可以用于临床诊断,我们也没有实测。模型卡还提到,生成长 DNA 序列时质量会下降,模型也不是为设计新序列而训练的。

怎么训练的

Carbon-X 以 Qwen3-14B 为起点,在词表里加入 5,515 个 DNA token,按 6 个碱基为一组编码。模型卡称,它先在 DNA、生物学文本、英文和指令数据上做了 302B token 的中期训练,再进行监督微调和针对 DNA 任务的强化学习。

Hugging Face 公布的数据

以下数字全部来自 Hugging Face 自己的测试,没有第三方验证:

  • 在五项 DNA 基准上,Carbon-X 平均 66.7%,GPT-6.1 Sol 为 67.5%,而 Carbon-X 每道题的推理成本约为其 1/1,800。Carbon-X 的成本按 H200 每小时 5 美元的实测吞吐量计算,对比模型按标准 API 价格计算。
  • 官方称这一成绩比 Qwen3-14B 高 27 分。
  • 让 Kimi K3 把 Carbon-X 当作 DNA 子代理调用后,Kimi K3 在同样五项基准上的成绩从 49.4% 升到 60.5%,提高 11.1 分。

硬件要求

模型卡称,bfloat16 权重可以放进单张 80GB GPU,支持 vLLM 和 Transformers。Hugging Face 负责后训练的研究员 Lewis Tunstall 在 X 上表示,Carbon-X 可以用 llama.cpp 在笔记本上本地运行,发布博客也展示了在 MacBook 上运行的演示。不过模型卡的使用说明目前写的是不支持 llama.cpp 等 GGUF 运行时,原因是 DNA 分词器是自定义 Python 代码。另一款可在自有设备上运行的开源模型可参考 MiniCPM-V 4.7。

来源

  • Hugging Face's Carbon-X model card
  • Hugging Face Space: Carbon-X release blog
  • Loubna Ben Allal's post on X
  • Lewis Tunstall's post on X