AgentENV: Distributed Runtime for AI Agents at Scale (Open Source, Rust)
AgentENV: Distributed Runtime for AI Agents at Scale (Open Source, Rust)
AgentENV:面向 AI Agent 大规模运行的分布式运行时(开源,Rust)
AgentENV (AENV) is a Rust-based distributed platform for running AI agent environments at scale, now powering Kimi K3’s agentic RL training. AgentENV (AENV) 是一个基于 Rust 构建的分布式平台,旨在支持 AI Agent 环境的大规模运行,目前已为 Kimi K3 的智能体强化学习(RL)训练提供支持。
Why It Matters: Most agent frameworks are single-process toys. AENV makes agents distributed with Firecracker micro-VMs: 为什么它很重要:大多数 Agent 框架仅限于单进程的“玩具”级别。AENV 通过 Firecracker 微型虚拟机(micro-VM)实现了 Agent 的分布式运行:
- 50ms cold start — snapshot environments boot or resume in <50ms
- 50ms 冷启动 — 快照环境可在 50 毫秒内启动或恢复。
- Incremental snapshot/fork <100ms — fork a running environment into independent sandboxes
- 增量快照/分叉 <100ms — 可将运行中的环境分叉为独立的沙箱。
- Overlaybd OCI images — no pre-pulling, cluster-wide cache, images can exceed disk capacity
- Overlaybd OCI 镜像 — 无需预拉取,支持集群级缓存,镜像大小可超过磁盘容量。
- ublk I/O — host page cache sharing across storage and filesystem, high density
- ublk I/O — 实现宿主机页缓存(page cache)在存储与文件系统间的共享,支持高密度部署。
- S3 persistence — snapshots persist to S3-compatible storage
- S3 持久化 — 快照可持久化存储至兼容 S3 的存储系统中。
Quick Start: 快速上手:
git clone https://github.com/kvcache-ai/AgentENV
cd AgentENV && cargo build --release
./target/release/agentenv --node-id node1
vs Alternatives: 对比其他方案:
| Feature | AENV | Ray | Kubernetes |
|---|---|---|---|
| Isolation | micro-VM | process | pod |
| Cold start | 50ms | ~1s | ~1s+ |
| Snapshot/fork | ✅ <100ms | ❌ | ❌ |
| Agent-native | ✅ | ❌ | ❌ |
| 特性 | AENV | Ray | Kubernetes |
|---|---|---|---|
| 隔离方式 | 微型虚拟机 | 进程 | Pod |
| 冷启动 | 50ms | ~1s | ~1s+ |
| 快照/分叉 | ✅ <100ms | ❌ | ❌ |
| Agent 原生支持 | ✅ | ❌ | ❌ |
Stars: 1411 · Language: Rust · License: MIT GitHub: https://github.com/kvcache-ai/AgentENV 星标:1411 · 语言:Rust · 许可证:MIT GitHub 地址:https://github.com/kvcache-ai/AgentENV