本文目錄
北京時間 2026-11-02 16:50:32(08:50:32 UTC),提交 df852cb881e4ade1eb00c493c7db4aac1c22e744 合入 Tencent-Hunyuan/Hyra-results,說明為 Add HyInv and HyPLM-Flash model releases under AI4Science。數秒後 Release hyplm-flash-weights 釋出(北京時間 16:50:59/08:50:59 UTC),欄位為 prerelease: false、draft: false。落地內容包括模型定義、推理程式碼、英文 README、技術報告 PDF、倉內 HyInv 權重,以及作為正式 GitHub Release 的 HyPLM-Flash FP32 權重——不是預告標籤。
開放推理與開放權重回答的是部署問題,並不自動回答完整訓練復現問題。下文對照合入提交、Release 頁與兩份英文 README 實際寫明的環境、精度路徑、seed/裝置規則,以及仍缺的訓練側條件。端到端速度與精度我們未跑、也未複測;README 與技術報告裡的吞吐、毫秒錶、ProteinGym 等數字若引用,一律標為文件自述。
站內相關:Hunyuan 開源 Hy-Nomas:可互動影片世界模型,4090 也能跑、騰訊開源 Hy-SimulMT:下載權重還不等於能開口同傳、Atria Dawn 正式版權重開放:Hugging Face 上的 512K 上下文、MiniMax M3.1 Flash 開源權重已上 Hugging Face。上述篇目分屬其他混元或開源權重線;本文只寫 Hyra AI4Science 的逆折疊與蛋白語言模型推理條件。
合入提交在 AI4Science 下放了什麼
按提交說明,兩個目錄都帶模型權重(HyPLM-Flash 大權重走 Release)、模型定義與推理程式碼、技術報告 PDF 與英文 README。author/committer 時間為 2026-11-02T08:50:32Z/08:50:44Z,即北京時間 16:50:32/16:50:44。路徑為 AI4Science/hyinv/ 與 AI4Science/hyplm_flash/。
兩份 README 均寫由研究代理 Hyra 2.0 訓練;樹內 LICENSE 為 MIT。這只覆蓋已釋出的推理包說明,並不等於倉庫附帶了完整訓練資料快照。
Release hyplm-flash-weights:正式 FP32 分片
Release API 與標籤頁一致:
tag_name:hyplm-flash-weightsname: HyPLM-Flash weightsprerelease: false ·draft: falsepublished_at: 2026-11-02T08:50:59Z = 北京時間 2026-11-02 16:50:59
資源:
| 資源 | 大小(位元組) |
|---|---|
model.safetensors.part0 | 1303875482 |
model.safetensors.part1 | 1303875482 |
| 合計 | 2607750964(約 2.61 GB 十進位制) |
Release 正文:FP32、兩片;下載後 cat 成 model.safetensors,校驗 sha256 ce7dcd4fc473dc334d869718a9a31149573893795db03c45efeb396e8b180ab1。同流程見 AI4Science/hyplm_flash/weights/download.sh。assets API 上的分片 digest 與合併後校驗值不是同一回事——以 Release 正文裡的合併檔案校驗為準。
HyInv:1.96M 逆折疊,CPU/GPU 均可
README 描述:1.96M 引數圖網路,做蛋白逆折疊(骨架 → 序列),ProteinMPNN 風格訊息傳遞(4 層編碼器、3 層解碼器),只看 N/Cα/C/O,CPU 與 GPU 都能跑。放出的是結構獎勵強化學習版權重;文件取樣為 16 輪(編碼一次,8 輪盲寫溫度 0.6,再 8 輪改寫溫度 0.34)。
倉內權重。 Layout 寫 weights/model.safetensors 為 FP32、7.8 MB;GitHub Contents API 查詢大小為 7843508 位元組(約 7.48 MiB)。兩者描述同一檔案,沒有第三個體積。
安裝面。 Python 3.10+、PyTorch、safetensors、numpy;CUDA 加速另需 triton(pip install -e '.[fast]')。CLI 形如 python -m hyinv design --pdb structure.pdb --n 128 --seed 0 --out designs.fasta,並支援鏈、固定殘基、溫度、--device cpu|cuda、--fast off|exact|bf16、--weights。
可復現條件(README Notes)。 結果一致需要同一 seed、batch size(預設 64,按長度自動收緊)、device type、PyTorch 版本。每個 batch 獨立隨機流:第 k 個 batch 用 seed+k,改 batch size 就會改結果。CPU 與 GPU 隨機流不同,同 seed 下序列也不會相同。筆記本 CPU 煙測對上實驗室 GPU 跑數時,這條最容易漏。
--fast。 預設 off:FP32 參考實現(CPU/GPU)。exact:FP32 級加速(TF32×3、erf GELU),引數對齊時序列幾乎總與 off 相同,機率接近平局時偶發單點翻轉。bf16:BF16 運算元、FP32 累加、tanh GELU——最快,但數值路徑不同,同 seed 不保證與 off 同序列,自身在相同引數下可復現。Triton 核心在 Hopper 類 H20(sm_90) 上驗證過;其它架構 README 寫「應能編譯」且未驗證。首次編譯與 CUDA graph 捕獲耗時與穩態延遲分開記。
README/技術報告中的毫秒表(例如單卡 H20、給定條件下 bf16 約 25/54 ms 對應 148/402 殘基)屬文件自述,我們未複測。
HyPLM-Flash:650M masked PLM,必須 CUDA
README:650M masked 蛋白語言模型;安裝需要 CUDA GPU,推薦 Hopper(H20/H100)。FP32 權重即上述 Release 雙分片(約 2.61 GB),用 bash weights/download.sh 拉取(需 curl;觸達限流再設 GITHUB_TOKEN)。pip install -e . 依賴 torch、safetensors、triton、flash-attn;有 FlashAttention-3 則優先,否則 FlashAttention-2。
精度(README 表)。 預設 precision="int8" 面向表徵抽取、zero-shot、結構/功能預測等;文件自述單卡 H20 約 130,000 residues/s。precision="bf16" 自述約 90,000 residues/s,更適合在近同變體上訓監督迴歸(如 FLIP 的 AAV/GB1)——README 稱 INT8 下同蛋白變體表徵大約只差 1%。INT8 下 zero-shot/結構/功能/likelihood 與 BF16 差距自述在 0.01 內。以上均為文件宣傳,我們未實測。
介面:HyPLMEncoder.from_pretrained("weights")(預設 INT8)、encode/logits、多卡輔助與低延遲 CUDA graph。單序列最長 8190 殘基;batch_tokens 預設 32768。
README 中 ProteinGym zero-shot Spearman 0.409、「長程接觸精度最佳」等表述為自述評測文案,我們未復現該評測網格。
開放推理 ≠ 訓練全復現
就合入提交與 README 可見範圍,這兩款模型公開了:
- 模型定義與推理程式碼
- 技術報告 PDF
- HyInv 倉內 FP32 權重(README 7.8 MB/API 7843508 B)
- HyPLM-Flash 正式 Release FP32 權重(約 2.61 GB、兩片)
- MIT 許可文字
同一批頁面不能據此寫成完整訓練一鍵可復現:
- 完整語料與精確資料配方(HyPLM-Flash README 僅有相對 ESM-2 等的高層對比,如「0.73× ESM-2 650M 資料量」)
- 端到端訓練指令碼、日程與獎勵管線的完整公開回放
- 保證任意本機棧在未對齊硬體/軟體/seed 時復現 README 延遲或 ProteinGym 數字
結論:可部署的推理包 + 已釋出權重,外加取樣/編碼的可復現規則——不是「克隆倉庫等於訓練全復現」。
運維對照清單
- 時間。 合入與 Release 集中在北京時間 2026-11-02 16:50(08:50 UTC);Release 為正式版(
prerelease: false)。 - 目錄。 逆折疊 →
AI4Science/hyinv;masked PLM →AI4Science/hyplm_flash+ Release 下載。 - HyInv 可復現。 鎖定 seed、batch size、device type、PyTorch 版本;記住每 batch
seed+k與 CPU≠GPU 隨機流。 - HyInv
--fast。off=FP32 參考;exact≈對齊off;bf16=同分布另一取樣,不與off逐位相同。核心在 Hopper H20 驗證;其它 GPU 未驗證。 - HyPLM-Flash 硬體。 必須 CUDA;推薦 Hopper。README 未聲稱支援 CPU 推理。
- 精度。 預設 INT8 做表徵/zero-shot/結構功能向;近同變體上訓迴歸更宜 BF16。
- 校驗權重。 HyPLM-Flash:合併分片後核 sha256
ce7dcd4fc473dc334d869718a9a31149573893795db03c45efeb396e8b180ab1。HyInv:README 7.8 MB 與 API 7843508 B 指向同一model.safetensors。 - 宣傳數字。 吞吐、毫秒錶、ProteinGym 0.409 等讀作「README/技術報告自述」——我們未複測。
- 許可。 兩包均為 MIT;再分發時保留 LICENSE。
- 選題。 寫的是 Hyra AI4Science 蛋白工具條件,不是 Hy-Nomas、不是 Hy-SimulMT,也不宣稱訓練已全部公開。
小結
北京時間 2026-11-02 16:50,Tencent-Hunyuan/Hyra-results 開放了 HyInv(1.96M,CPU/GPU,seed/batch/device/PyTorch 硬條件)與 HyPLM-Flash(650M,CUDA/偏 Hopper,預設 INT8、近同變體迴歸偏 BF16)的推理程式碼、報告與權重——含約 2.61 GB 的正式 HyPLM-Flash Release。按文件可以把推理路徑搭起來;這不等於完整訓練可復現,且 README 數字我們未實測。現場跑數反饋可透過頁尾站長聯絡方式提交。
