CUDA12.8+TensorRT10.9+onnxRuntime1.22.1环境配置

CUDA12.8+TensorRT10.9+onnxRuntime1.22.1环境配置

期期 0 2025-07-22

CUDA12.8+TensorRT10.9+onnxRuntime1.22.1环境配置

初始环境

1、升级到显卡驱动到最新版本，目前是576.88

2、若有卸载原来的版本

image-qbrs.png

3、检查环境变量，删除相关cuda环境变量

其他相关：
cuda tensorrt onnxRuntime版本对应关系

image-qtwo.png

cudnn 版本对应关系

image-sygq.png

环境安装

1、CUDA工具链

CUDA ToolKit （下载12.8版本，安装前需要确认已安装Visual Studio，此示例12.8.1_57261）

cuDNN (下载对应cuda版本，此示例9.11.0）

cuDNN配置：下载解压后复制对应文件到cuda目录下：

- `cuda/bin` → `C:/Program Files/NVIDIA GPU Computing Toolkit/CUDA/vXX.X/bin`
- `cuda/include` → `C:/Program Files/NVIDIA GPU Computing Toolkit/CUDA/vXX.X/include`
- `cuda/lib` → `C:/Program Files/NVIDIA GPU Computing Toolkit/CUDA/vXX.X/lib`

2、TensorRT

下载10.9GA版本（需登录）

下载解压后复制对应文件到cuda目录下：

- `include` → `C:/Program Files/NVIDIA GPU Computing Toolkit/CUDA/v10.0/include`
- `lib/*.lib` → `C:/Program Files/NVIDIA GPU Computing Toolkit/CUDA/v10.0/lib/x64`
- `lib/*.dll` → `C:/Program Files/NVIDIA GPU Computing Toolkit/CUDA/v10.0/bin`

3、环境变量配置

用户变量PATH:
C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.0\lib

系统变量PATH

     C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.0\lib\x64
     C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.0
     C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.0\bin
     C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.0\lib
     C:\qiqi\TensorRT-8.6.1.6\bin

4、onnxRuntime

下载1.22.1 gpu版本

onnxruntime-win-x64-gpu-1.22.1.zip

使用参考vs配置onnxRuntime文章