Установка CUDA-11.8 на Ubuntu 22.04

В этом руководстве рассмотрим, как убедиться, что ваша система оборудована поддерживаемым графическим процессором, а также как корректно удалить предыдущие версии CUDA Toolkit и драйверов NVIDIA для чистой установки.
Проведем вас через весь процесс: от проверки вашего оборудования и удаления старых компонентов до установки самых последних версий драйверов и самой CUDA. Пошаговые инструкции позволят вам без проблем настроить вашу систему для работы с CUDA. Помните, что точность и внимание к деталям критически важны на каждом этапе этого процесса.

Убедимся что в системе установлен графический процессор с поддержкой cuda

lspci | grep -i nvidia

Если были предыдущие установки CUDA Toolkit, то их обязательно нужно удалить:

### To remove CUDA Toolkit:

sudo apt-get --purge remove "*cuda*" "*cublas*" "*cufft*" "*cufile*" "*curand*" \
"*cusolver*" "*cusparse*" "*gds-tools*" "*npp*" "*nvjpeg*" "nsight*" "*nvvm*"

### To remove NVIDIA Drivers:

sudo apt-get --purge remove "*nvidia*" "libxnvctrl*"

### To clean up the uninstall:

sudo rm /etc/apt/sources.list.d/cuda*
sudo apt-get autoremove && sudo apt-get autoclean
sudo rm -rf /usr/local/cuda*

### system update

sudo apt-get update

Если будут сообщения с битыми ключами, то их можно удалить из списка  в sources.list.d по аналогии

grep -v "^#\|^$" /etc/apt/sources.list{,.d/*.list}

# находим нужный лист и редактируем его с помощью nano

sudo nano /etc/apt/sources.list.d/archive_uri-https_developer_download_nvidia_com_compute_cuda_repos_ubuntu2204_x86_64_-jammy.list

Далее удаляем строку с ключом и сохраняем ctr+o.

обновим все до последней версии

sudo apt-get update -y && sudo apt-get full-upgrade -y && sudo apt-get autoremove -y && sudo apt-get autoclean -y

установим дополнительные пакеты

sudo apt-get install linux-headers-$(uname -r)

sudo apt-get install g++ freeglut3-dev build-essential libx11-dev libxmu-dev libxi-dev libglu1-mesa libglu1-mesa-dev

получим репозиторий с драйверами 

sudo add-apt-repository ppa:graphics-drivers/ppa

sudo apt-get update

установим последние необходимые драйвера для видеокарты

# перезагрузим компютер (загрузка произойтёт без драйвера видеокарты, если не пропущен шаг с предыдущими удалениями CUDA)
sudo reboot

# запустим автоматическую установку драйверов и опять перезагрузим
sudo ubuntu-drivers autoinstall && sleep 10 && sudo reboot

# pre-install CUDA-11.8
sudo add-apt-repository contrib

sudo apt-key del 7fa2af80

wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2204/x86_64/cuda-keyring_1.1-1_all.deb

sudo dpkg -i cuda-keyring_1.1-1_all.deb

sudo apt-get update

 # installing CUDA-11.8
sudo apt-get install cuda-11-8 -y

если возникают проблемы с конфликтом пакетов, то 

sudo apt --fix-broken install

настроим пути

echo 'export PATH=/usr/local/cuda-11.8/bin:$PATH' >> ~/.bashrc

echo 'export LD_LIBRARY_PATH=/usr/local/cuda-11.8/lib64:$LD_LIBRARY_PATH' >> ~/.bashrc

source ~/.bashrc

sudo ldconfig

Из официальной документации Tensorflow следует установить v8.7.0, но по факту работает и с v9

скачивание и распаковка

CUDNN_TAR_FILE="cudnn-linux-x86_64-8.7.0.84_cuda11-archive"

sudo wget https://developer.download.nvidia.com/compute/redist/cudnn/v8.7.0/local_installers/11.8/${CUDNN_TAR_FILE}.tar.xz

sudo tar -xvf ${CUDNN_TAR_FILE}.tar.xz

sudo mv ${CUDNN_TAR_FILE} cuda

перемещение в папку с установкой cuda toolkit

sudo cp -P cuda/include/cudnn.h /usr/local/cuda-11.8/include

sudo cp -P cuda/lib/libcudnn* /usr/local/cuda-11.8/lib64/

sudo chmod a+r /usr/local/cuda-11.8/lib64/libcudnn*

Установка версии 9 (важно: если не была установлена 8.7 ):

sudo apt-get -y install cudnn9-cuda-11

sudo reboot

Проверка установки

nvidia-smi

nvcc -V

Самая простая установка возможна через пакеты .deb

Скачиваем пакет с официального сайта :

https://developer.nvidia.com/downloads/

Переходим в папку с загруженным файлом, распаковываем и создаем локальный репозиторий:

cd ~/Downloads || cd ~/Загрузки

os="ubuntu2204"
tag="8.6.1-cuda-11.8"
sudo dpkg -i nv-tensorrt-local-repo-${os}-${tag}_1.0-1_amd64.deb
sudo cp /var/nv-tensorrt-local-repo-${os}-${tag}/*-keyring.gpg /usr/share/keyrings/
sudo apt-get update

Устанавливаем tensorrt

sudo apt-get install tensorrt

Дополнительные пакеты для работы с Python

sudo apt-get install python3-libnvinfer
sudo apt-get install python3-libnvinfer-dev

Если вы хотите использовать TensorRT с конвертером UFF для преобразования моделей из TensorFlow

python3 -m pip install protobuf
sudo apt-get install uff-converter-tf

Если вы хотите запустить примеры, требующие onnx-graphsurgeon, или использовать модуль Python для своего собственного проекта

python3 -m pip install numpy onnx
sudo apt-get install onnx-graphsurgeon

Проверка установки

dpkg-query -W tensorrt