WUNDER ist eine Parallel-Computing-Plattform und ein Programmiermodell, das eine bemerkenswerte Benutzererfahrung bietet, wenn die GPU für das alltägliche Allzweck-Computing genutzt wird. CUDA steht für Cberechnen Unifiziert Device EINArchitektur. Es wird von NVIDIA erstellt.
CUDA umfasst das CUDA-Toolkit ( Compiler, Profil und Debugger ), den Softwaretreiber und das CUDA SDK. Die Softwareschicht bietet direkten Zugriff auf den virtuellen Befehlssatz und die parallelen Rechenelemente der GPU. Für Deep-Learning-Forschungen und Framework-Entwickler verwenden cuDNN für eine leistungsstarke GPU-Beschleunigung. Es ist eine Bibliothek von Primitiven für tiefe neuronale Netze.
In dieser Anleitung lernen wir, wie man installiere CUDA und CuDNN unter Ubuntu 20.04. Dazu gibt es zwei Möglichkeiten. Sie können CUDA aus dem Ubuntu-Repository installieren – was der einfachste Ansatz ist – oder aus dem CUDA-Repository installieren, das die neueste Version von CUDA bereitstellt.
Voraussetzungen:
- Mindestens 20 GB freier Speicherplatz
- Empfohlen 2 GB RAM
- Sollte NVIDIA Grafiktreiber installiert sein. Der mit CUDA gelieferte Treiber ist möglicherweise nicht die neueste Version.
Methode 1: CUDA aus dem Ubuntu-Repository installieren
Beginnen Sie mit der Aktualisierung der Paketlisten auf Ihrer Ubuntu 20.04-Instanz.
$ sudo apt update
Als nächstes installieren Sie das CUDA-Toolkit mit dem APT-Paketmanager wie folgt. Beachten Sie, dass die Installation intensiv ist und stellen Sie daher sicher, dass Sie über eine schnelle und stabile Internetverbindung und mindestens 10 GB Festplattenspeicher verfügen.
$ sudo apt install nvidia-cuda-toolkit
Sobald die Installation abgeschlossen ist, müssen wir CUDA zu PATH hinzufügen, um der Shell den Speicherort von CUDA mitzuteilen. Dazu geben wir den PATH in der .bashrc-Datei an. Öffnen Sie die Datei also mit Ihrem Befehlszeilen-Texteditor.
$ sudo vim ~/.bashrc
Kopieren Sie ganz am Ende der Datei die folgenden Codezeilen und fügen Sie sie ein.
# set PATH for cuda 10.1 installation
if [ -d "/usr/local/cuda-10.1/bin/" ]; then
export PATH=/usr/local/cuda-10.1/bin${PATH:+:${PATH}}
export LD_LIBRARY_PATH=/usr/local/cuda-10.1/lib64${LD_LIBRARY_PATH:+:${LD_LIBRARY_PATH}}
fi
Laden Sie als Nächstes die Änderungen in der .bashrc-Datei neu.
$ source ~/.bashrc
Überprüfen und bestätigen Sie nun die installierte CUDA-Version mit dem folgenden Befehl.
$ nvcc --version
Methode 2: CUDA aus dem CUDA-Repository installieren
Wie bereits erwähnt, stellt das CUDA-Repository die neueste Version von CUDA bereit. Wenn Sie also die neueste Version installieren möchten, befolgen Sie die hier beschriebenen Anweisungen.
Laden Sie zuerst den CUDA-Repository-Pin herunter:
$ wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2004/x86_64/cuda-ubuntu2004.pin
Als nächstes bewegen Sie den Stift auf die /etc/preferences.d
Verzeichnis und benennen Sie es um in cuda-repository-pin-600
.
$ sudo mv cuda-ubuntu2004.pin /etc/apt/preferences.d/cuda-repository-pin-600

Laden Sie danach die CUDA Debian-Datei herunter. Beachten Sie, dass die Datei ziemlich groß ist – 2,3 G zum Zeitpunkt der Erstellung dieses Handbuchs. Stellen Sie sicher, dass Sie über eine gute Internetverbindung und ausreichend Speicherplatz verfügen.
$ wget https://developer.download.nvidia.com/compute/cuda/11.4.2/local_installers/cuda-repo-ubuntu2004-11-4-local_11.4.2-470.57.02-1_amd64.deb
Verwenden Sie nach dem Herunterladen die dpkg
Dienstprogramm, um die Datei auszuführen.
sudo dpkg -i cuda-repo-ubuntu2004-11-4-local_11.4.2-470.57.02-1_amd64.deb
Als nächstes installieren Sie den CUDA GPG-Schlüssel wie folgt:
$ sudo apt-key add /var/cuda-repo-ubuntu2004-11-4-local/7fa2af80.pub
Aktualisieren Sie abschließend die Paketlisten und installieren Sie CUDA mit dem APT-Paketmanager.
$ sudo apt update
$ sudo apt install cuda -y
CuDNN installieren
CuDNN kommt nicht mit Cuda. Zu CuDNN herunterladen Sie müssen sich registrieren, um Mitglied des kostenlosen NVIDIA-Entwicklerprogramms zu werden.

Nach der Registrierung im NVIDIA Developer Program können Sie die neueste Version von cuDNN herunterladen. Hier lade ich die cuDNN-Bibliothek für Linux herunter.
Extrahieren Sie zuerst das cuDNN-Paket:
$ tar -xzvf cudnn-10.2-linux-x64-v8.2.4.15.tgz
Kopieren Sie dann die folgenden Dateien in das CUDA-Verzeichnis:
$ sudo cp cuda/include/cudnn*.h /usr/local/cuda/include
$ sudo cp cuda/lib64/libcudnn* /usr/local/cuda/lib64
$ sudo chmod a+r /usr/local/cuda/include/cudnn*.h /usr/local/cuda/lib64/libcudnn*
Abschluss
In diesem Tutorial haben wir gelernt, wie man CUDA und cuDNN unter Ubuntu 20.04 installiert. Vielen Dank fürs Lesen, bitte hinterlassen Sie Ihr Feedback und Ihre Vorschläge.