北京時間 2026 年 10 月 23 日,AWS Open Source Blog 由 Shadaj Laddad 發文介紹 Infinity。專案以 Apache 2.0 開源,歸屬 Hydro(AWS 與 UC Berkeley 合作)。文中把它寫成面向極高並發的研究型 agent(智慧體)運行時:agent 發起工具呼叫時,Infinity 派發呼叫、儲存對話並掛起;工具結果到達後再從儲存狀態喚醒。

掛起後的 agent 幾乎只佔對話歷史,因此可同時駐留大量 agent,也可跑在 serverless(無伺服器)上:掛起期間函式可以結束,工具跑幾分鐘甚至幾天也不必一直佔著計算。短訊層面,官博還提到 synthetic tool calls(合成工具呼叫:把非同步事件塞進模型可理解的對話結構)、面向批量投遞的 step mode(步進模式),以及參考部署(SQS FIFO、Lambda、Aurora DSQL、DynamoDB)——細節見官方部落格與倉庫。

記憶體方面,AWS 給出的是自家基準,不是通用 SLA(服務水準約定):約 100 KB/idle(空閒)agent;按此估算約 75,000 個並發 agent 可裝進 8 GB(Raspberry Pi 5 記憶體量級)。測試在單執行緒 AMD EPYC 9R14、記憶體態儲存上跑了 80,000 個 agent。文中明確寫這是早期研究發布,歡迎回饋。

Infinity 談的是掛起/喚醒這類 agent 運行時基建,與 Agents API Scheduled Automations 顯示 completed 不等於做完 不是同一產品。至於這些並發數字在你工作負載上是否成立、研究型運行時實際表現如何,我們還沒有這方面的消息。如果你用過的話,可以透過網站底部的站長聯絡方式回饋給我們。