本文记录于2021年初。不满于网络上的资料大多过时和有瑕疵，重新整理 Ubuntu 环境下配置 CUDA 开发套件的步骤。

  • 本文介绍的步骤主要面向 CUDA 相关的机器学习开发环境配置。所以它包含 CUDA、cuDNN、TensorRT、onnx。如果你不需要其中某些组件，直接跳过即可。
  • 本文涉及的版本信息：Ubuntu 18.04、CUDA 10.2、cuDNN v8.0.5、TensorRT 7.1 GA。请根据你自己的需要选择恰当的版本，唯一注意的是：这几个组件之间的版本必须严格对应，请跟自己的团队确认好版本之后再执行安装，否则会遇到很多版本兼容性问题。

C++ 和 python

C++ 编译链

sudo apt install g++
sudo snap install cmake --classic

确保安装的是最新版 cmake：https://cmake.org/download/
（我安装的时候是 3.19.1）

Anaconda

官网上下载，然后:

bash ./Anaconda3-2019.10-Linux-x86_64.sh

一路 yes，然后重启 terminal 生效

CUDA 相关底层支持

安装 CUDA 工具包

非常值得参考的官方文档：https://docs.nvidia.com/cuda/cuda-installation-guide-linux/index.html

与网上大部分教程不同，我们无需先安装显卡驱动，cuda 包里自带驱动。

在这里下载 CUDA Toolkit 10.2 (Nov 2019) ：https://developer.nvidia.com/cuda-toolkit-archive
（如果要求注册账号就注册一下，后续也会用到）

注意版本选择 CUDA 10.2

里面再选 Linux -> x86_64 -> Ubuntu -> 18.04 -> deb(local)

注释：为什么选 deb(local)，不按网上其他教程选 run，因为后面安装 TensorRT 会变简单。何况有 deb 包为什么不用呢，软件管理起来都更方便。

然后按下载页面内指示安装，（2021.2.24 下面代码框内容来自官方页面的安装指南信息，可能会过期）：

wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1804/x86_64/cuda-ubuntu1804.pin
sudo mv cuda-ubuntu1804.pin /etc/apt/preferences.d/cuda-repository-pin-600
wget https://developer.download.nvidia.com/compute/cuda/10.2/Prod/local_installers/cuda-repo-ubuntu1804-10-2-local-10.2.89-440.33.01_1.0-1_amd64.deb
sudo dpkg -i cuda-repo-ubuntu1804-10-2-local-10.2.89-440.33.01_1.0-1_amd64.deb
sudo apt-key add /var/cuda-repo-10-2-local-10.2.89-440.33.01/7fa2af80.pub
sudo apt-get update
sudo apt-get -y install cuda

完成后打上页面内提供的两个补丁。（先把这两个补丁包下载到本地，然后执行命令）

sudo dpkg -i cuda-repo-ubuntu1804-10-2-local_10.2.1-1_amd64.deb
sudo dpkg -i cuda-repo-ubuntu1804-10-2-local_10.2.2-1_amd64.deb

完事重启，让显卡驱动生效。

[ IMPORTANT ! ]

参考官方文档最后的要求：Post-installation Actions

新增环境变量

export PATH=/usr/local/cuda-10.2/bin${PATH:+:${PATH}}
export LD_LIBRARY_PATH=/usr/local/cuda-10.2/lib64${LD_LIBRARY_PATH:+:${LD_LIBRARY_PATH}}

检查 cuda 版本（确认是否安装成功）：
nvcc --version

安装cuDNN

官方指引文档：https://docs.nvidia.com/deeplearning/cudnn/install-guide/index.html

下载地址：https://developer.nvidia.com/rdp/cudnn-download

填写问卷，同意协议后，
选择跟 CUDA 版本对应的版本： Download cuDNN v8.0.5 (November 9th, 2020), for CUDA 10.2

找到 Ubuntu18.04 的 Deb 包，这两个都要下：

cuDNN Runtime Library for Ubuntu18.04 (Deb)
cuDNN Developer Library for Ubuntu18.04 (Deb)

下载完后安装：

sudo dpkg -i libcudnn8_x.x.x-1+cudax.x_arm64.deb
sudo dpkg -i libcudnn8-dev_8.x.x.x-1+cudax.x_arm64.deb

安装 TensorRT

务必参考 Nvidia 的官方文档严格执行，否则非常多坑：https://docs.nvidia.com/deeplearning/tensorrt/install-guide/index.html

下载地址：https://developer.nvidia.com/nvidia-tensorrt-download

选择 TensorRT 7 -> TensorRT 7.1 GA -> TensorRT 7.1 for Linux -> TensorRT 7.1.3.4 for Ubuntu 1804 and CUDA 10.2 DEB local repo package 下载

版本必须跟团队一致，因为 TensorRT 不提供跨版本兼容。确定版本后先设置shell变量：

os="ubuntu1804"
tag="cuda10.2-trt7.1.3.4-ga-20200617"

以上两项的参数根据你当时使用的包决定，不能有错

sudo dpkg -i nv-tensorrt-repo-${os}-${tag}_1-1_amd64.deb
sudo apt-key add /var/nv-tensorrt-repo-${tag}/7fa2af80.pub

sudo apt-get update
sudo apt-get install tensorrt

sudo apt-get install python3-libnvinfer-dev

其他

独立安装 onnx

（参考这篇里的onnx部分：https://zhuanlan.zhihu.com/p/158895888）

git clone https://github.com/onnx/onnx.git
cd onnx
git submodule update --init --recursive
mkdir build && cd build
cmake ..
make -j
sudo make install

如果你的 CUDA 版本安装有误

To remove cuda toolkit:

sudo apt-get --purge remove "*cublas*" "cuda*" "nsight*"

To remove Nvidia drivers:

sudo apt-get --purge remove "*nvidia*"

Remove related pkg:

sudo apt autoremove

If you have installed via source files (assuming the default location to be /use/local) then remove it using:

sudo rm -rf /usr/local/cuda*

If you get the problem of broken packages, it has happened since you added repo to the apt/sources.lst. Run the following to delete it:

sudo vim /etc/apt/sources.list

Go to the line containing reference to Nvidia repo and comment it by appending # in front of the line, for e.g.:

# deb http://developer.download.nvidia.com/compute/cuda/repos/ubuntu1804/x86_64/ /

检查这个路径下有没有 CUDA 相关的 source，有就删掉，否则会干扰新版本的源：

/etc/apt/sources.list.d

Then run

sudo apt-get update