北京时间 2026 年 10 月 23 日,AWS Open Source Blog 由 Shadaj Laddad 发文介绍 Infinity。项目以 Apache 2.0 开源,归属 Hydro(AWS 与 UC Berkeley 合作)。文中把它写成面向极高并发的研究型 agent(智能体)运行时:agent 发起工具调用时,Infinity 派发调用、保存对话并挂起;工具结果到达后再从保存状态唤醒。
挂起后的 agent 几乎只占对话历史,因此可同时驻留大量 agent,也可跑在 serverless(无服务器)上:挂起期间函数可以结束,工具跑几分钟甚至几天也不必一直占着计算。短讯层面,官博还提到 synthetic tool calls(合成工具调用:把异步事件塞进模型可理解的对话结构)、面向批量投递的 step mode(步进模式),以及参考部署(SQS FIFO、Lambda、Aurora DSQL、DynamoDB)——细节见官方博客与仓库。
内存方面,AWS 给出的是自家基准,不是通用 SLA(服务水平约定):约 100 KB/idle(空闲)agent;按此估算约 75,000 个并发 agent 可装进 8 GB(Raspberry Pi 5 内存量级)。测试在单线程 AMD EPYC 9R14、内存态存储上跑了 80,000 个 agent。文中明确写这是早期研究发布,欢迎反馈。
Infinity 谈的是挂起/唤醒这类 agent 运行时基建,与 Agents API Scheduled Automations 显示 completed 不等于做完 不是同一产品。至于这些并发数字在你工作负载上是否成立、研究型运行时实际表现如何,我们还没有这方面的消息。如果你用过的话,可以通过网站底部的站长联系方式反馈给我们。
