本文目錄

北京時間 2026-11-02 16:50:32(08:50:32 UTC),提交 df852cb881e4ade1eb00c493c7db4aac1c22e744 合入 Tencent-Hunyuan/Hyra-results,說明為 Add HyInv and HyPLM-Flash model releases under AI4Science。數秒後 Release hyplm-flash-weights 釋出(北京時間 16:50:59/08:50:59 UTC),欄位為 prerelease: false、draft: false。落地內容包括模型定義、推理程式碼、英文 README、技術報告 PDF、倉內 HyInv 權重,以及作為正式 GitHub Release 的 HyPLM-Flash FP32 權重——不是預告標籤。

開放推理與開放權重回答的是部署問題,並不自動回答完整訓練復現問題。下文對照合入提交、Release 頁與兩份英文 README 實際寫明的環境、精度路徑、seed/裝置規則,以及仍缺的訓練側條件。端到端速度與精度我們未跑、也未複測;README 與技術報告裡的吞吐、毫秒錶、ProteinGym 等數字若引用,一律標為文件自述。

站內相關:Hunyuan 開源 Hy-Nomas:可互動影片世界模型,4090 也能跑、騰訊開源 Hy-SimulMT:下載權重還不等於能開口同傳、Atria Dawn 正式版權重開放:Hugging Face 上的 512K 上下文、MiniMax M3.1 Flash 開源權重已上 Hugging Face。上述篇目分屬其他混元或開源權重線;本文只寫 Hyra AI4Science 的逆折疊與蛋白語言模型推理條件。

合入提交在 AI4Science 下放了什麼

按提交說明,兩個目錄都帶模型權重(HyPLM-Flash 大權重走 Release)、模型定義與推理程式碼、技術報告 PDF 與英文 README。author/committer 時間為 2026-11-02T08:50:32Z/08:50:44Z,即北京時間 16:50:32/16:50:44。路徑為 AI4Science/hyinv/ 與 AI4Science/hyplm_flash/。

兩份 README 均寫由研究代理 Hyra 2.0 訓練;樹內 LICENSE 為 MIT。這只覆蓋已釋出的推理包說明,並不等於倉庫附帶了完整訓練資料快照。

Release hyplm-flash-weights:正式 FP32 分片

Release API 與標籤頁一致:

  • tag_name: hyplm-flash-weights
  • name: HyPLM-Flash weights
  • prerelease: false · draft: false
  • published_at: 2026-11-02T08:50:59Z = 北京時間 2026-11-02 16:50:59

資源:

資源大小(位元組)
model.safetensors.part01303875482
model.safetensors.part11303875482
合計2607750964(約 2.61 GB 十進位制)

Release 正文:FP32、兩片;下載後 cat 成 model.safetensors,校驗 sha256 ce7dcd4fc473dc334d869718a9a31149573893795db03c45efeb396e8b180ab1。同流程見 AI4Science/hyplm_flash/weights/download.sh。assets API 上的分片 digest 與合併後校驗值不是同一回事——以 Release 正文裡的合併檔案校驗為準。

HyInv:1.96M 逆折疊,CPU/GPU 均可

README 描述:1.96M 引數圖網路,做蛋白逆折疊(骨架 → 序列),ProteinMPNN 風格訊息傳遞(4 層編碼器、3 層解碼器),只看 N/Cα/C/O,CPU 與 GPU 都能跑。放出的是結構獎勵強化學習版權重;文件取樣為 16 輪(編碼一次,8 輪盲寫溫度 0.6,再 8 輪改寫溫度 0.34)。

倉內權重。 Layout 寫 weights/model.safetensors 為 FP32、7.8 MB;GitHub Contents API 查詢大小為 7843508 位元組(約 7.48 MiB)。兩者描述同一檔案,沒有第三個體積。

安裝面。 Python 3.10+、PyTorch、safetensors、numpy;CUDA 加速另需 triton(pip install -e '.[fast]')。CLI 形如 python -m hyinv design --pdb structure.pdb --n 128 --seed 0 --out designs.fasta,並支援鏈、固定殘基、溫度、--device cpu|cuda、--fast off|exact|bf16、--weights。

可復現條件(README Notes)。 結果一致需要同一 seed、batch size(預設 64,按長度自動收緊)、device type、PyTorch 版本。每個 batch 獨立隨機流:第 k 個 batch 用 seed+k,改 batch size 就會改結果。CPU 與 GPU 隨機流不同,同 seed 下序列也不會相同。筆記本 CPU 煙測對上實驗室 GPU 跑數時,這條最容易漏。

--fast。 預設 off:FP32 參考實現(CPU/GPU)。exact:FP32 級加速(TF32×3、erf GELU),引數對齊時序列幾乎總與 off 相同,機率接近平局時偶發單點翻轉。bf16:BF16 運算元、FP32 累加、tanh GELU——最快,但數值路徑不同,同 seed 不保證與 off 同序列,自身在相同引數下可復現。Triton 核心在 Hopper 類 H20(sm_90) 上驗證過;其它架構 README 寫「應能編譯」且未驗證。首次編譯與 CUDA graph 捕獲耗時與穩態延遲分開記。

README/技術報告中的毫秒表(例如單卡 H20、給定條件下 bf16 約 25/54 ms 對應 148/402 殘基)屬文件自述,我們未複測。

HyPLM-Flash:650M masked PLM,必須 CUDA

README:650M masked 蛋白語言模型;安裝需要 CUDA GPU,推薦 Hopper(H20/H100)。FP32 權重即上述 Release 雙分片(約 2.61 GB),用 bash weights/download.sh 拉取(需 curl;觸達限流再設 GITHUB_TOKEN)。pip install -e . 依賴 torch、safetensors、triton、flash-attn;有 FlashAttention-3 則優先,否則 FlashAttention-2。

精度(README 表)。 預設 precision="int8" 面向表徵抽取、zero-shot、結構/功能預測等;文件自述單卡 H20 約 130,000 residues/s。precision="bf16" 自述約 90,000 residues/s,更適合在近同變體上訓監督迴歸(如 FLIP 的 AAV/GB1)——README 稱 INT8 下同蛋白變體表徵大約只差 1%。INT8 下 zero-shot/結構/功能/likelihood 與 BF16 差距自述在 0.01 內。以上均為文件宣傳,我們未實測。

介面:HyPLMEncoder.from_pretrained("weights")(預設 INT8)、encode/logits、多卡輔助與低延遲 CUDA graph。單序列最長 8190 殘基;batch_tokens 預設 32768。

README 中 ProteinGym zero-shot Spearman 0.409、「長程接觸精度最佳」等表述為自述評測文案,我們未復現該評測網格。

開放推理 ≠ 訓練全復現

就合入提交與 README 可見範圍,這兩款模型公開了:

  • 模型定義與推理程式碼
  • 技術報告 PDF
  • HyInv 倉內 FP32 權重(README 7.8 MB/API 7843508 B)
  • HyPLM-Flash 正式 Release FP32 權重(約 2.61 GB、兩片)
  • MIT 許可文字

同一批頁面不能據此寫成完整訓練一鍵可復現:

  • 完整語料與精確資料配方(HyPLM-Flash README 僅有相對 ESM-2 等的高層對比,如「0.73× ESM-2 650M 資料量」)
  • 端到端訓練指令碼、日程與獎勵管線的完整公開回放
  • 保證任意本機棧在未對齊硬體/軟體/seed 時復現 README 延遲或 ProteinGym 數字

結論:可部署的推理包 + 已釋出權重,外加取樣/編碼的可復現規則——不是「克隆倉庫等於訓練全復現」。

運維對照清單

  1. 時間。 合入與 Release 集中在北京時間 2026-11-02 16:50(08:50 UTC);Release 為正式版(prerelease: false)。
  2. 目錄。 逆折疊 → AI4Science/hyinv;masked PLM → AI4Science/hyplm_flash + Release 下載。
  3. HyInv 可復現。 鎖定 seed、batch size、device type、PyTorch 版本;記住每 batch seed+k 與 CPU≠GPU 隨機流。
  4. HyInv --fast。 off=FP32 參考;exact≈對齊 off;bf16=同分布另一取樣,不與 off 逐位相同。核心在 Hopper H20 驗證;其它 GPU 未驗證。
  5. HyPLM-Flash 硬體。 必須 CUDA;推薦 Hopper。README 未聲稱支援 CPU 推理。
  6. 精度。 預設 INT8 做表徵/zero-shot/結構功能向;近同變體上訓迴歸更宜 BF16。
  7. 校驗權重。 HyPLM-Flash:合併分片後核 sha256 ce7dcd4fc473dc334d869718a9a31149573893795db03c45efeb396e8b180ab1。HyInv:README 7.8 MB 與 API 7843508 B 指向同一 model.safetensors。
  8. 宣傳數字。 吞吐、毫秒錶、ProteinGym 0.409 等讀作「README/技術報告自述」——我們未複測。
  9. 許可。 兩包均為 MIT;再分發時保留 LICENSE。
  10. 選題。 寫的是 Hyra AI4Science 蛋白工具條件,不是 Hy-Nomas、不是 Hy-SimulMT,也不宣稱訓練已全部公開。

小結

北京時間 2026-11-02 16:50,Tencent-Hunyuan/Hyra-results 開放了 HyInv(1.96M,CPU/GPU,seed/batch/device/PyTorch 硬條件)與 HyPLM-Flash(650M,CUDA/偏 Hopper,預設 INT8、近同變體迴歸偏 BF16)的推理程式碼、報告與權重——含約 2.61 GB 的正式 HyPLM-Flash Release。按文件可以把推理路徑搭起來;這不等於完整訓練可復現,且 README 數字我們未實測。現場跑數反饋可透過頁尾站長聯絡方式提交。