文档
快速开始
主分支已包含可运行的 Rust 代码,实现基于 CPU/TCP 的 G3.5 共享 KV 缓存。先运行软件契约测试,无需 GPU 或 DPU。
开发中
源码已可获取。目前没有可安装的发布版本,也未完成生产部署验证。
从源码构建和测试
需要稳定版 Rust 与 Cargo、Git 和 Python 3。首次运行需下载依赖。测试使用合成 KV 块,不是真实推理模型的输出。
git clone https://github.com/rustfs/GPUCache.git
cd GPUCache
cargo test --workspace --all-targets运行 CPU 演示
运行以下演示前,不要设置 GPUCACHE_RUSTFS_* 端点或凭据。冷层演示默认使用 mock,不构成真实 RustFS 验证。
cargo run -p gpucache-transport --bin share-demo
cargo run -p gpucache-transport --bin shard-demo
cargo run -p gpucache-cold --bin cold-demo
cargo run -p gpucache-storage --bin engine-spike
cargo run -p gpucache-dpu --bin dpu-demo预期标签依次为 REUSE_OK、SHARD_OK、COLD_CONTRACT_OK、FAKE_BLOCK_CONTRACT_OK 和 DPU_CONTRACT_OK。引擎实验仅验证伪造的完整块;DPU 演示为主机模拟。这些标签不表示真实引擎或设备已运行。
复现完整 CPU 回归
回归工具检查格式、依赖、Clippy、测试、可选特性及演示,禁用真实 RustFS 访问,并保存 summary.md、results.json、JUnit 和日志。每次运行使用新输出目录;--offline 要求依赖已下载。
cargo fetch --locked
python3 scripts/ci/vm_regression.py --profile cpu --offline --output artifacts/cpu-docs这些检查尚不能证明什么
真实 vLLM 导出/导入、RDMA、GDS 和 BlueField-3 均为 NOT_RUN_HARDWARE;GPU/模型运行属于 NOT_RUN_BUDGET。检查通过不代表已有零拷贝路径、硬件性能结果或热层持久性副本。
相关文档
架构 · 路线图 · 扩展与部署边界 · CPU_COMPLETION.md