百度公開 ERNIE-5.5-Flash-Base 權重,讓自行訓練模型的團隊多了一個起點。若要打造企業內部助手,後續工作包括整理業務資料、準備硬體,以及建立訓練、測試與維運流程。
官方說明,這份 Base 權重來自預訓練結束的檢查點,尚未進行中期訓練或後訓練,可用於領域適配與指令微調。要讓它穩定遵守工作規則,仍需後續訓練、測試與產品設計。
模型採用稀疏混合專家架構,總參數為2,800億,每個 token 啟用約140億參數;預訓練上下文上限為128K,官方列出的微調與推論支援範圍可達1M。部署時仍須容納完整權重,記憶體需求無法只按每次啟用的參數估算。長篇內容中的關鍵資訊能否被正確引用,也需另行測試。
初期可以挑選容易評分的工作,例如依據產品文件回答售前問題。整理常見問法、正確答案,以及資料缺漏或互相矛盾的例子,再用同一批樣本比較現有方案。評分項目包括引用是否正確、有無遺漏限制,以及需要多少人工修改。
繁體中文服務的測試還可加入在地用字、專有名詞一致性、日期與金額格式,以及業務規則。涉及多份文件時,加入版本衝突與相似段落,檢查答案是否採用有效資料。這些項目能具體反映服務上線後需要處理的修正工作。
模型卡列出的授權是 ERNIE 5.5 Flash Base Model License Agreement v1.0。商用、再散布或提供線上服務的具體條件需以完整協議為準,包括適用地區、收入門檻、通知及標示要求。評估時應記錄採用的模型與授權版本。
第一輪驗證可先固定一小批業務樣本與驗收標準,確認硬體預算,再決定要自行微調、採用既有指令模型,或維持目前服務。本文根據官方資料整理,未進行模型實測。
