Установка CUDA-11.8 на Ubuntu 22.04

В этом руководстве рассмотрим, как убедиться, что ваша система оборудована поддерживаемым графическим процессором, а также как корректно удалить предыдущие версии CUDA Toolkit и драйверов NVIDIA для чистой установки.
Проведем вас через весь процесс: от проверки вашего оборудования и удаления старых компонентов до установки самых последних версий драйверов и самой CUDA. Пошаговые инструкции позволят вам без проблем настроить вашу систему для работы с CUDA. Помните, что точность и внимание к деталям критически важны на каждом этапе этого процесса.

Убедимся что в системе установлен графический процессор с поддержкой cuda

lspci | grep -i nvidia

Если были предыдущие установки CUDA Toolkit, то их обязательно нужно удалить:

### To remove CUDA Toolkit: 
 
sudo apt-get --purge remove "*cuda*" "*cublas*" "*cufft*" "*cufile*" "*curand*" \ 
"*cusolver*" "*cusparse*" "*gds-tools*" "*npp*" "*nvjpeg*" "nsight*" "*nvvm*"

### To remove NVIDIA Drivers: 
 
sudo apt-get --purge remove "*nvidia*" "libxnvctrl*"

### To clean up the uninstall: 
 
sudo rm /etc/apt/sources.list.d/cuda* 
sudo apt-get autoremove && sudo apt-get autoclean 
sudo rm -rf /usr/local/cuda*

### system update 
 
sudo apt-get update

Если будут сообщения с битыми ключами, то их можно удалить из списка в sources.list.d по аналогии

grep -v "^#\|^$" /etc/apt/sources.list{,.d/*.list} 
 
# находим нужный лист и редактируем его с помощью nano 
 
sudo nano /etc/apt/sources.list.d/archive_uri-https_developer_download_nvidia_com_compute_cuda_repos_ubuntu2204_x86_64_-jammy.list

Далее удаляем строку с ключом и сохраняем ctr+o.

обновим все до последней версии

sudo apt-get update -y && sudo apt-get full-upgrade -y && sudo apt-get autoremove -y && sudo apt-get autoclean -y

установим дополнительные пакеты

sudo apt-get install linux-headers-$(uname -r) 
 
sudo apt-get install g++ freeglut3-dev build-essential libx11-dev libxmu-dev libxi-dev libglu1-mesa libglu1-mesa-dev

получим репозиторий с драйверами

sudo add-apt-repository ppa:graphics-drivers/ppa 
 
sudo apt-get update

установим последние необходимые драйвера для видеокарты

# перезагрузим компютер (загрузка произойтёт без драйвера видеокарты, если не пропущен шаг с предыдущими удалениями CUDA) 
sudo reboot 
 
# запустим автоматическую установку драйверов и опять перезагрузим 
sudo ubuntu-drivers autoinstall && sleep 10 && sudo reboot

# pre-install CUDA-11.8 
sudo add-apt-repository contrib 
 
sudo apt-key del 7fa2af80 
 
wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2204/x86_64/cuda-keyring_1.1-1_all.deb 
 
sudo dpkg -i cuda-keyring_1.1-1_all.deb 
 
sudo apt-get update

 # installing CUDA-11.8 
sudo apt-get install cuda-11-8 -y

если возникают проблемы с конфликтом пакетов, то

sudo apt --fix-broken install

настроим пути

echo 'export PATH=/usr/local/cuda-11.8/bin:$PATH' >> ~/.bashrc 
 
echo 'export LD_LIBRARY_PATH=/usr/local/cuda-11.8/lib64:$LD_LIBRARY_PATH' >> ~/.bashrc 
 
source ~/.bashrc 
 
sudo ldconfig

Из официальной документации Tensorflow следует установить v8.7.0, но по факту работает и с v9

скачивание и распаковка

CUDNN_TAR_FILE="cudnn-linux-x86_64-8.7.0.84_cuda11-archive" 
 
sudo wget https://developer.download.nvidia.com/compute/redist/cudnn/v8.7.0/local_installers/11.8/${CUDNN_TAR_FILE}.tar.xz 
 
sudo tar -xvf ${CUDNN_TAR_FILE}.tar.xz 
 
sudo mv ${CUDNN_TAR_FILE} cuda

перемещение в папку с установкой cuda toolkit

sudo cp -P cuda/include/cudnn.h /usr/local/cuda-11.8/include 
 
sudo cp -P cuda/lib/libcudnn* /usr/local/cuda-11.8/lib64/ 
 
sudo chmod a+r /usr/local/cuda-11.8/lib64/libcudnn*

Установка версии 9 (важно: если не была установлена 8.7 ):

sudo apt-get -y install cudnn9-cuda-11

sudo reboot

Проверка установки

nvidia-smi 
 
nvcc -V

Самая простая установка возможна через пакеты .deb

Скачиваем пакет с официального сайта :

https://developer.nvidia.com/downloads/

Переходим в папку с загруженным файлом, распаковываем и создаем локальный репозиторий:

cd ~/Downloads || cd ~/Загрузки 
 
os="ubuntu2204" 
tag="8.6.1-cuda-11.8" 
sudo dpkg -i nv-tensorrt-local-repo-${os}-${tag}_1.0-1_amd64.deb 
sudo cp /var/nv-tensorrt-local-repo-${os}-${tag}/*-keyring.gpg /usr/share/keyrings/ 
sudo apt-get update

Устанавливаем tensorrt

sudo apt-get install tensorrt

Дополнительные пакеты для работы с Python

sudo apt-get install python3-libnvinfer 
sudo apt-get install python3-libnvinfer-dev

Если вы хотите использовать TensorRT с конвертером UFF для преобразования моделей из TensorFlow

python3 -m pip install protobuf 
sudo apt-get install uff-converter-tf

Если вы хотите запустить примеры, требующие onnx-graphsurgeon, или использовать модуль Python для своего собственного проекта

python3 -m pip install numpy onnx 
sudo apt-get install onnx-graphsurgeon

Проверка установки

dpkg-query -W tensorrt