安装¶
Aegaeon 支持 Linux x86_64 和 aarch64,要求标准 CPython 3.10。x86_64 可使用 CUDA 12.9 或 13.0;aarch64(包括 DGX Spark)使用 CUDA 13.0。
预编译 wheel¶
wheel 包含 Aegaeon 的 CUDA 和 Rust 扩展。运行时内核编译仍需匹配的 CUDA Toolkit、C++ 编译器和 Ninja,工具链命令见源码安装。Rust/Cargo 仅用于源码构建。每种 CUDA 路线使用独立的 Python 3.10 环境。
从 GitHub Releases 下载匹配 CUDA 版本、CPU 架构和 CPython 3.10 的 wheel。激活 Python 环境,在仅包含这一份 Aegaeon wheel 的目录中执行安装命令。
CUDA 12.9:Linux x86_64¶
预编译发行版支持 Linux x86_64、标准 CPython 3.10,以及 glibc >=2.31。
python -m pip install ./aegaeon-*.whl \
--extra-index-url https://download.pytorch.org/whl/cu129 \
--extra-index-url https://wheels.vllm.ai/0.26.0/cu129
CUDA 13.0:DGX Spark / Linux aarch64¶
DGX Spark 预编译 wheel 支持 Linux aarch64、标准 CPython 3.10 和 glibc >=2.31,需要兼容 CUDA 13.0 的 NVIDIA 驱动。
在 DGX Spark 的 Linux 终端安装 CUDA 13.0 aarch64 wheel:
python -m pip install ./aegaeon-*.whl
源码安装¶
源码构建要求 glibc >=2.28、匹配的 CUDA Toolkit(包含 nvcc)、C++ 编译器、Ninja 和 Rust/Cargo。在仓库根目录执行:
conda create --solver classic -n aegaeon python=3.10 -y
conda activate aegaeon
| 选择 | CUDA Toolkit | PyTorch | vLLM | 平台 |
|---|---|---|---|---|
cu129 |
12.9 | 2.11.0+cu129 | 0.26.0+cu129 | Linux x86_64 |
cu130 |
13.0 | 2.11.0 | 0.26.0 | Linux x86_64 / aarch64 |
需要兼容的 NVIDIA 驱动,见 NVIDIA 的 CUDA 兼容性指南。
CUDA 12.9¶
该路线支持 Linux x86_64。如果尚未准备匹配的工具链,可以在 Conda 环境中手动安装:
conda install --solver classic -c nvidia cuda-toolkit=12.9 \
gcc_linux-64=11.2.0 gxx_linux-64=11.2.0 rust ninja -y
conda activate aegaeon
export CUDA_HOME="$CONDA_PREFIX"
export CUDA_PATH="$CUDA_HOME"
export LIBRARY_PATH="$CUDA_HOME/lib:$CUDA_HOME/lib64${LIBRARY_PATH:+:$LIBRARY_PATH}"
如果使用系统 Toolkit,将 CUDA_HOME 设为其根目录。上述 Conda 示例使用 GCC/G++ 11.2。
安装匹配的依赖,然后编译安装 Aegaeon:
python -m pip install -r requirements-cu129.txt
AEGAEON_CUDA=cu129 python -m pip install --no-build-isolation -e .
CUDA 13.0¶
Linux x86_64:
conda install --solver classic -c nvidia cuda-toolkit=13.0.2 \
gcc_linux-64=11.2.0 gxx_linux-64=11.2.0 rust ninja -y
conda activate aegaeon
export CUDA_HOME="$CONDA_PREFIX"
export CUDA_PATH="$CUDA_HOME"
export LIBRARY_PATH="$CUDA_HOME/lib:$CUDA_HOME/lib64${LIBRARY_PATH:+:$LIBRARY_PATH}"
Linux aarch64 / DGX Spark 使用系统 CUDA 13.0 Toolkit 和 GCC/G++ 13:
conda install --solver classic -c conda-forge rust ninja -y
export CUDA_HOME=/usr/local/cuda-13.0
export CUDA_PATH="$CUDA_HOME"
export PATH="$CUDA_HOME/bin:$PATH"
export CC=/usr/bin/gcc
export CXX=/usr/bin/g++
export LIBRARY_PATH="$CUDA_HOME/lib:$CUDA_HOME/lib64${LIBRARY_PATH:+:$LIBRARY_PATH}"
然后安装 CUDA 13.0 依赖并编译 Aegaeon:
python -m pip install -r requirements-cu130.txt
AEGAEON_CUDA=cu130 python -m pip install --no-build-isolation -e .
环境检查¶
python -m pip check
aegaeon doctor
aegaeon doctor --check-cuda
在 Linux aarch64 / CUDA 13.0 环境中,pip check 可能报 nvidia-cusparselt-cu13 0.8.0 is not supported on this platform。这是 NVIDIA 上游 wheel 的元数据问题:文件名中的平台标签为 manylinux2014_aarch64,内部却声明为 manylinux2014_sbsa,导致兼容性检查失败。
Foundry 图 SAVE/LOAD 为可选功能,需要另行安装 Foundry,见 CUDA Graph。接下来阅读快速开始。安装错误见故障排查。