ドキュメント
クイックスタート
main ブランチには、CPU/TCP による G3.5 共有 KV キャッシュの実行可能な Rust コードがあります。まずソフトウェア契約テストを実行してください。GPU や DPU は不要です。
開発中
ソースコードは利用できます。インストール可能なリリースや本番導入の検証はまだありません。
ソースからビルドしてテスト
安定版 Rust と Cargo、Git、Python 3 を用意します。初回は依存関係の取得が必要です。テストは合成 KV ブロックを使い、推論モデルの出力は使いません。
git clone https://github.com/rustfs/GPUCache.git
cd GPUCache
cargo test --workspace --all-targetsCPU デモを実行
GPUCACHE_RUSTFS_* の接続先や認証情報を設定せずに実行してください。cold デモは既定の mock を使い、実際の RustFS を検証しません。
cargo run -p gpucache-transport --bin share-demo
cargo run -p gpucache-transport --bin shard-demo
cargo run -p gpucache-cold --bin cold-demo
cargo run -p gpucache-storage --bin engine-spike
cargo run -p gpucache-dpu --bin dpu-demo期待されるラベルは REUSE_OK、SHARD_OK、COLD_CONTRACT_OK、FAKE_BLOCK_CONTRACT_OK、DPU_CONTRACT_OK です。エンジンの実験は偽の完全なブロックを検証し、DPU デモはホスト上でシミュレーションします。実エンジンや実機の実行を意味しません。
CPU 回帰をまとめて再現
ランナーは書式、依存関係、Clippy、テスト、オプション機能、デモを確認します。実際の RustFS へのアクセスを無効にし、summary.md、results.json、JUnit、ログを保存します。毎回新しい出力先を使い、--offline の前に依存関係を取得してください。
cargo fetch --locked
python3 scripts/ci/vm_regression.py --profile cpu --offline --output artifacts/cpu-docsこの検証の対象外
実際の vLLM エクスポート／インポート、RDMA、GDS、BlueField-3 は NOT_RUN_HARDWARE、GPU／モデル実行は NOT_RUN_BUDGET です。ゼロコピー、実機性能、ホット層の永続レプリカを示す結果ではありません。