螞蟻百靈於 11 月 5 日推出 Ling-3.2-flash,提供上線首兩週限時免費。[1] 正在評估多模態 API 的開發者,可以用手邊的工作資料,測試圖表讀取、介面分析和長篇資料查找。
模型原生支援文字、圖片與影片輸入,官方標示的上下文視窗為 1M token。[2] 長篇文件和圖文混合資料都是適合的測試材料,可以觀察資訊擷取的準確度,以及整理與查核時間有沒有減少。
免費期間與後續收費
官方價格頁說明,首兩週免費結束後恢復收費。截至發稿,Ling-3.2-flash 的具體單價、活動截止時間及時區尚未公布。[3] 透過第三方平台呼叫時,價格與活動條件依該平台說明。
打算導入正式服務的團隊,可以先保留切回原有模型的方式,並設定用量提醒。測試時記下輸入、輸出用量和重試次數,等正式價格公布後再估算費用。
從手邊的工作挑三種測試
第一種是有圖表的資料。選一份產品簡介或公開報告,要求模型找出指定數據,並指出來自哪一頁、哪張圖。逐項檢查數字、單位和日期,記錄圖表與正文被誤讀或混淆的情況。
第二種是介面截圖。請模型列出頁面上的元件、文字與相對位置,也標出無法從圖片確認的細節。若接著產生或修改程式碼,再實際執行頁面,對照截圖檢查畫面與功能。
第三種是長篇資料查找。把答案分別放在文件前段、中段和末段,設計需要跨段核對的問題,再加入幾題資料中沒有答案的問題。除了找對資料,也要檢查模型能否清楚指出資訊缺漏。
測試使用公開或已獲上傳授權的資料;公司資料、客戶內容與個人資訊,先做去識別化處理。
API 接入與呼叫限制
官方快速入門使用 OpenAI SDK,接入網址為 https://api.ant-ling.com/v1/,模型名稱是 Ling-3.2-flash。[4] 先確認短文字請求能正常運作,再逐步加入圖片、長資料與批次處理,較容易找出問題來源。
目前限制為每秒最多 2 次請求,同步呼叫有 90 秒逾時限制,官方建議採用串流輸出。[5] 批次工作需要佇列與退避重試機制,收到 429 錯誤後延後重送。比較處理時間時,計入排隊、重試及人工查核。
整理導入評估結果
選一批有代表性的題目,保存輸入、參考答案、錯誤類型與總處理時間,再用同一批資料測試現有方案。後續價格公布後,把 API 費用和人工查核、修正成本一起比較,作為導入依據。
本文根據官方資料整理,未進行效能實測。
