Průvodce instalací NVIDIA CUDA na Windows (WSL) a Ubuntu

Pokud pracujete se strojovým učením, počítačovým viděním nebo vysoce výkonnými výpočty, je instalace NVIDIA CUDA téměř nezbytná pro využití akcelerace GPU. Výběr správné verze ovladače a sady nástrojů Je důležité vyhnout se chybám a vytěžit z toho maximum technické vybavení od první minuty.

V tomto návodu krok za krokem a bez odboček vysvětluji, jak nechat CUDA připravenou ve Windows prostřednictvím WSL (Windows Subsystem for...). Linux) jako v Ubuntu 22.04 a 24.04. Uvidíte také požadavky, kontroly, speciální případy, jako například RTX 50 A co se stane, když nainstalujete pouze ovladač a zobrazí se vám NVCC konkrétní verze, aniž byste si o to požádali.

Požadavky a kompatibilita

Než se čehokoli dotknete, je dobré zkontrolovat výchozí bod. Potřebujete alespoň jednu grafickou kartu kompatibilní s CUDA (seznam modelů naleznete v oficiální příručce NVIDIA) a pro informaci, pro mnoho pracovních postupů s umělou inteligencí se doporučuje mít 6 GB vyhrazené grafické paměti.

Pokud budete používat Windows s WSL, podpora je široká: Windows 11 a nedávné aktualizace systému Windows 10 (verze 21H2 a novější) umožňují spouštění nástrojů strojového učení, knihoven a frameworků, které používají CUDA v rámci linuxové distribuce na WSL. To zahrnuje PyTorch, TensorFlow, Docker a NVIDIA Container Toolkit. stejně jako v nativním Linuxu.

Ve veřejném cloudovém prostředí s instancemi grafických karet NVIDIA je často nejlepší začít s obrazem virtuálního počítače poskytnutým samotným poskytovatelem cloudu. Tyto obrazy jsou již dodávány s příslušným ovladačem a sadou nástrojů CUDA. a ušetříte si pár složitých kroků. Pokud instalujete na vlastní počítač, čtěte dál.

U funkcí GPU ve WSL se ujistěte, že je jádro Linuxu ve WSL aktuální. Je vyžadována verze 5.10.43.3 nebo novější.Můžete si to ověřit z PowerShell s:

wsl cat /proc/version

Pokud potřebujete aktualizovat WSL, přejděte do Nastavení systému Windows → Windows Update a klikněte na Zkontrolovat aktualizace. Udržování jádra v aktuálním stavu zabraňuje nekompatibilitě s CUDA a další komponenty GPU ve WSL.

CUDA na Windows přes WSL: Ovladač, WSL a distribuce

Pořadí je důležité. Nejprve nainstalujte ovladač NVIDIA s podporou CUDA na WSL. Stáhněte a nainstalujte ovladač NVIDIA s podporou CUDA na WSL doporučený společností NVIDIA pro vaši grafickou kartu a verzi systému Windows. Tento ovladač umožňuje akceleraci grafické karty v rámci subsystému Linux.

Po instalaci ovladače povolte WSL a nainstalujte distribuci založenou na glibc, například Ubuntu nebo Debian. S povoleným a nainstalovaným WSL spusťte aktualizace z Windows Update, aby jádro WSL zůstalo aktuální.

Zkontrolujte verzi jádra z PowerShellu (nebo konzole) pomocí:

wsl cat /proc/version

Pokud je vaše jádro kompatibilní (≥ 5.10.43.3), můžete nyní v rámci WSL pracovat s frameworky a nástroji ML, jako je PyTorch nebo TensorFlow. kromě použití Dockeru a NVIDIA Container Toolkit jako byste používali nativní Linux. Pokud narazíte na nějaké problémy, NVIDIA centralizuje zpětnou vazbu a podporu CUDA ve WSL prostřednictvím své komunity.

Ovladače NVIDIA na Ubuntu 22.04 a 24.04 (včetně RTX 50)

V Ubuntu je prvním krokem také ovladač. U novějších grafických karet je zde důležité upozornění: RTX 50 vyžadují ovladače verze 570.xxx.xx nebo vyššíStarší verze nemusí fungovat správně, takže klasické metody instalace mohou selhat.

V Ubuntu 22.04 je praktické použít oficiální instalační program NVIDIA ve formátu .run. Začněte s několika předpoklady:

sudo apt -y install gcc make

Stáhněte si instalační program z webových stránek NVIDIA, udělte mu oprávnění ke spuštění a spusťte jej. Pro instalaci ovladače s otevřeným zdrojovým kódem vyberte možnost MIT/GPL a vyhněte se chybě „Nenalezena žádná zařízení“ po restartu:

wget https://us.download.nvidia.com/XFree86/Linux-x86_64/570.124.04/NVIDIA-Linux-x86_64-570.124.04.run
sudo chmod +x NVIDIA-Linux-x86_64-570.124.04.run
sudo ./NVIDIA-Linux-x86_64-570.124.04.run

Po dokončení restartujte systém aby se ovladač správně načetl:

sudo shutdown -r now

V některých prostředích může být vhodné znovu sestavit konfiguraci GRUBu, aby se systém po instalaci ovladače spustil se správnými parametry jádra. Pokud máte pochybnosti o bota, regenerace GRUBu to obvykle vyřeší než se zblázníš do diagnóz.

Dalším doporučením, které se objevuje v nedávných nasazeních s touto větví ovladače, je zakázat GSP a restartovat počítač. Zakázání GSP může zabránit konfliktům na určitých počítačích., zejména pokud po instalaci 570 zaznamenáte abnormální chování.

Pro Ubuntu 24.04 existuje ještě jedna nuance: nástroj ubuntu-drivers stále nemusí rozpoznat RTX 5090 ani nenabídnout vhodnou možnost. V takovém případě nainstalujte správný balíček ručně a nezapomeňte zahrnout příponu open:

sudo apt install nvidia-driver-570-server-open

Bez otevřeného postfixu systém nemusí identifikovat grafickou kartu (GPU) a zobrazit chybu „Nenalezena žádná zařízení“. Po instalaci restartujte pro načtení modulu:

sudo shutdown -r now

Pokud chcete, můžete ve verzi 24.04 použít stejný postup jako ve verzi 22.04 pomocí instalačního programu NVIDIA .run. Vyberte si metodu, která nejlépe vyhovuje vašemu toku a zásady vašeho prostředí.

Instalace sady CUDA Toolkit na Ubuntu (12.4 vs. 12.8 a cesty k prostředím)

Jakmile máte ovladač, je čas nainstalovat sadu nástrojů. V současném ekosystému, PyTorch bez problémů funguje s CUDA 12.4 a 12.8, ale pokud používáte RTX 50, doporučuje se verze 12.8 pro pokročilé funkce a optimalizovaná jádra. Podívejme se na robustní metodu využívající lokální repozitář NVIDIA:

Nejprve si stáhněte pin soubor pro upřednostnění repozitáře NVIDIA:

wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2404/x86_64/cuda-ubuntu2404.pin

Přesuňte ten špendlík na Adresář preferencí APT:

sudo mv cuda-ubuntu2404.pin /etc/apt/preferences.d/cuda-repository-pin-600

Nyní si stáhněte lokální repozitář sady nástrojů (příklad s verzí 12.8.1 pro Ubuntu 24.04):

wget https://developer.download.nvidia.com/compute/cuda/12.8.1/local_installers/cuda-repo-ubuntu2404-12-8-local_12.8.1-570.124.06-1_amd64.deb

Nainstalujte ho pomocí dpkg a přidat GPG klíč do klíčenky z Ubuntu, aby APT důvěřoval repozitáři:

sudo dpkg -i cuda-repo-ubuntu2404-12-8-local_12.8.1-570.124.06-1_amd64.deb
sudo cp /var/cuda-repo-ubuntu2404-12-8-local/cuda-*-keyring.gpg /usr/share/keyrings/

Aktualizace indexů a instalace sady nástrojů:

sudo apt-get update && sudo apt-get -y install cuda-toolkit-12-8

Restartujte počítač aby se předešlo překvapením s nově instalovanými knihovnami:

sudo shutdown -r now

Po instalaci je vhodné ověřit, zda je CUDA k dispozici, a přidat cesty do vašeho prostředí. Přidejte proměnné do shellu tak, aby nvcc a knihovny byly v cestě PATH. v budoucích relacích. Například v Bash:

echo 'export PATH=/usr/local/cuda/bin:$PATH' >> ~/.bashrc
echo 'export LD_LIBRARY_PATH=/usr/local/cuda/lib64:$LD_LIBRARY_PATH' >> ~/.bashrc
source ~/.bashrc

Pokud používáte Zsh, můžete jej přidat do ~/.zshrc a pro neinteraktivní relace do ~/.profile nebo ~/.bash_profile. Cílem je, aby jakýkoli terminál nebo přihlášení nalezlo knihovny CUDA aniž byste museli pokaždé cokoli konfigurovat.

Zkontrolujte instalaci pomocí:

nvcc --version

Pokud nechcete spravovat lokální repozitáře, existují další skripty a zdroje, které vám mohou pomoci, když se dostanete do problémů. Nezapomeňte zachovat konzistenci mezi verzemi ovladače a sady nástrojů. obvykle vyřeší 90 % problémů.

Windows pro specifické nástroje: CUDA 10.1 a cuDNN 7.6.4 (případ Model Builderu)

Existují nástroje, které vyžadují specifické, starší verze. To je případ určitých scénářů klasifikace obrázků s nástrojem Model Builder, které vyžadují CUDA 10.1 a cuDNN 7.6.4 pro verzi 10.1V této souvislosti se ujistěte o následujícím:

• Mějte vývojářský účet NVIDIA pro přístup descargas.
• Exkluzivně nainstalujte CUDA v10.1; žádné vyšší verze pro daný konkrétní scénář.
• Stáhněte si cuDNN v7.6.4 pro CUDA 10.1, rozbalte jej a zkopírujte potřebný binární soubor.

Po stažení souboru cuDNN zip jej rozbalte a zkopírujte soubor cudnn64_7.dll do cesty k souboru toolkit. Nezapomeňte, že nemůžete mít více verzí cuDNN současně. ve stejném prostředí. Příklad trasy:

<CUDNN_zip_files_path>\cuda\bin\cudnn64_7.dll -> <YOUR_DRIVE>\Archivos de programa\NVIDIA GPU Computing Toolkit\CUDA\v10.1\bin

Nemáte k dispozici lokální grafickou kartu ani grafickou kartu Azure? Tyto scénáře lze spustit na procesoru, ale trénink bude podstatně pomalejšíZvažte použití virtuálního počítače s grafickou kartou, pokud čas es critico

Kontroly, trasy a časté otázky

Co Verze CUDA máte ve svém systému? Rychlá kontrola je:

nvcc --version

Pokud používáte Ubuntu a nainstalovali jste ovladač pomocí APT (např. nvidia-driver-525) a vidíte v seznamu nvcc 11.2, aniž byste explicitně nainstalovali sadu nástrojů, nepanikařte. V některých konfiguracích může instalace ovladače přetáhnout balíčky CUDA. nebo již byly zahrnuty v základním obrazu systému. Pokud instalujete pouze ovladač, nebudete si moci vždy vybrat verzi sady nástrojů.

Pokud potřebujete zkontrolovat přesnou verzi CUDA, nainstalujte si repozitář NVIDIA a specifický balíček nástrojů (např. cuda-toolkit-12-8), jak jsme viděli. Tím je zajištěno, že verze sady nástrojů je sladěna s ovladačem. a s potřebami vašich frameworků.

Nezapomeňte nakonfigurovat proměnné prostředí pro vyhledání binárních souborů a knihoven. V Bashu můžete do souboru ~/.bashrc přidat:

export PATH=/usr/local/cuda/bin:$PATH
export LD_LIBRARY_PATH=/usr/local/cuda/lib64:$LD_LIBRARY_PATH

V Zsh použijte ~/.zshrc a pokud chcete, aby se vztahoval na přihlášení, ~/.profile nebo ~/.bash_profile. Bez těchto cest některé aplikace nenajdou knihovny CUDA., i když je sada nástrojů nainstalována.

Pokud si ve Windows nejste jisti, jakou grafickou kartu máte, můžete si ji ověřit několika způsoby. V Nastavení: klikněte pravým tlačítkem myši na nabídku Start → Nastavení → Systém → Zobrazení → Související nastavení → Upřesnit zobrazení. Značka a model se zobrazují v části „Zobrazit informace“Také z Správce úloh: Podrobnosti naleznete na kartě Výkon → GPU.

Pokud v Nastavení nebo Správci úloh nevidíte grafickou kartu (GPU), ale víte, že je nainstalována NVIDIA, otevřete Správce zařízení → Grafické adaptéry → Nainstalujte příslušný ovladač pro vaši grafickou kartu (GPU)Aktualizace si můžete prohlédnout v aplikaci GeForce Experience a pokud se to nepodaří, můžete si vždy stáhnout nejnovější ovladač z webových stránek NVIDIA.

Ve scénářích WSL nezapomeňte: ovladač NVIDIA s podporou CUDA ve WSL, povolený WSL, distribuci založenou na glibc, jádro 5.10.43.3 nebo vyšší a poté vaše frameworky (PyTorch/TensorFlow) nebo kontejnery s NVIDIA Container Toolkit. Toto pořadí instalace zabraňuje úzkým hrdlům a obtížně laditelným chybám..

V Ubuntu 22.04/24.04, pokud používáte RTX 50, držte se větve 570 a v Ubuntu 24.04 použijte balíček nvidia-driver-570-server-open nebo instalační program .run. Nezapomeňte restartovat a v případě potřeby vypnout GSP.Co se týče nástrojů, je 12.8 s RTX 50 nejvhodnější; PyTorch také podporuje 12.4, ale s 12.8 získáte lepší optimalizace.

Jakmile je vše připraveno, můžete spustit své toky na nativním Linuxu nebo WSL s Dockerem nebo přímo s PyTorch/TensorFlow. Pokud se něco nespustí, zkontrolujte verze, cesty k prostředí a kompatibilitu. před změnou poloviny instalace. Mnoho problémů se vyřeší sladěním ovladače a sady nástrojů a zajištěním toho, aby systém „viděl“ grafickou kartu.

Tato příručka shrnuje základní informace pro spolehlivou instalaci CUDA na Windows (prostřednictvím WSL) a Ubuntu, zahrnuje požadavky, ovladače RTX 50, instalaci sady nástrojů 12.8 s lokálním repozitářem, cesty k prostředím a návody. S touto mapou byste měli být schopni nechat svou grafickou kartu pracovat s co nejmenším třením..