Jak nainstalovat NVIDIA CUDA na Windows a Linux (WSL a Native)

Pokud pracujete s umělou inteligencí, datovou vědou nebo simulacemi, instalace NVIDIA CUDA je jedním z těch kroků, které znamenají zásadní rozdíl. Akcelerace GPU Zvyšuje výkon a dnes podrobně a bez zbytečných okolků vysvětlím, jak ho nastavit jak ve Windows (včetně WSL), tak i v nativním Linuxu.

Uvidíte vše od předpokladů a předběžných kontrol až po instalaci ovladačů, sadu nástrojů CUDA, testování s PyTorch a Docker a bonusovou funkci pro nastavení Minicondy, swapu a serveru. Průvodce shrnuje osvědčené postupy a opravte běžné chyby, abyste neztráceli čas tím zřejmým.

Co je CUDA a proč by vás to mohlo zajímat

CUDA je ekosystém NVIDIA pro paralelní výpočty, který vám umožňuje používat grafickou kartu (GPU) k mnohem více než jen pro grafiku. Zahrnuje... kompilátor, knihovny a nástroje které urychlují úlohy, jako je hluboké učení, vědecká analýza nebo simulace.

Verze jako 11.8 nebo 12.6 jsou dodávány s vylepšení výkonu, podpora pro technické vybavení poslední, vyladěnou správu paměti a propracovanou integraci s frameworky jako TensorFlow a PyTorch. Výsledkem je zvýšená rychlost a stabilita pro náročné projekty.

Kromě knihoven vysoké úrovně orchestruje běhové prostředí CUDA i provádění jader, spravuje paměť na GPU a usnadňuje škálování vašich aplikací pomocí tisíců jader paralelně. Pro moderní úlohy umělé inteligence je to doslova základ.

Pokud vyvíjíte ve Windows, klíčovou výhodou je, že WSL2 umožňuje použití CUDA v rámci linuxových distribucí jako Ubuntu nebo Debian, téměř nativně, s podporou pro Docker a NVIDIA Container Toolkit. Je to velmi výkonná volba pro smíšená prostředí.

Požadavky a kompatibilita

Před instalací čehokoli se ujistěte, že váš hardware a systém splňují požadavky. Potřebujete grafickou kartu NVIDIA s výpočetní kapacitou 3.0 nebo vyšší pro CUDA 11.8 a moderní podporou pro novější verze, jako je 12.6.

V Linuxu můžete zkontrolovat přítomnost GPU pomocí: lspci | grep -i nvidiaPokud chcete v Ubuntu najít doporučený ovladač, zkuste: zařízení s ovladači ubuntuVe Windows se podívejte na Správce zařízení v části „Grafické adaptéry“.

Pokud jde o systémy, CUDA 11.8 se široce používá v Windows 10/11 64-bit a distribuce jako Ubuntu 18.04 a 20.04, stejně jako RHEL/CentOS 7/8. Pro WSL, Windows 11 a Windows 10 verze 21H2 nebo novější podporuje výpočty na GPU s CUDA v rámci subsystému Linux.

Pro WSL2 se ujistěte, že máte aktualizované jádro. Je vyžadována verze 5.10.43.3 nebo novější.Verzi si můžete ověřit z PowerShell s: wsl cat /proc/versionTaké si udržujte Windows Update aktuální (Nastavení > Windows Update > Zkontrolovat aktualizace).

Pokud jde o paměť, pro tréninkové úkoly je vhodné mít alespoň 8 GB RAM v systému a 4 GB VRAM na GPU, ačkoli mnoho modelů ocení podstatně více. Seznam doplňuje procesor x86_64 a moderní kompilátor C++ (C++14 nebo vyšší).

Instalace na Windows 11/10 s WSL2

Správné pořadí předchází problémům: nejprve povolte WSL a nainstalujte Linux, poté Ovladače NVIDIA pro Windowsa v rámci WSL také sadu nástrojů CUDA a knihovny umělé inteligence. Volitelně můžete na konec přidat Docker Desktop.

1) Povolte WSL z PowerShellu s oprávněními správce: aktivuje funkci a restartujte, když budete vyzváni.

Enable-WindowsOptionalFeature -Online -FeatureName Microsoft-Windows-Subsystem-Linux

2) Aktualizujte jádro WSL na nejnovější verzi z PowerShellu: wsl - aktualizacePak si nainstalujte svou oblíbenou distribuci (například Ubuntu 22.04 LTS):

wsl --install -d Ubuntu-22.04

3) Otevřete nově nainstalovanou aplikaci Ubuntu, aktualizujte indexy a balíčky a nainstalujte základní utility. Udržujte systém aktuální snižuje následné poruchy.

sudo apt update && sudo apt -y upgrade

4) V Ubuntu (WSL) nainstalujte PYTHON pip a CUDA Toolkit z oficiálních repozitářů. Ovladače GPU nejsou v WSL nainstalovány. v linuxovém jádře se ty nacházejí ve Windows.

sudo apt -y install python3-pip nvidia-cuda-toolkit

5) Přidejte cestu k uživatelským skriptům do proměnné PATH, abyste se vyhnuli problémům se spouštěním nástrojů nainstalovaných pomocí pipu. To zrychluje používání služeb bez absolutních tras.

nano ~/.bashrc
# Al final añade, adaptando 'usergpu' a tu usuario
export PATH=/home/usergpu/.local/bin${PATH:+:${PATH}}
# Guarda (Ctrl+O), sal (Ctrl+X) y recarga
source ~/.bashrc

6) Nainstalujte Ovladač NVIDIA pro WSL V systému Windows si stáhněte ovladač s podporou CUDA z webových stránek NVIDIA/Microsoft (ovladač GPU compute pro WSL). Po instalaci v případě potřeby restartujte systém Windows.

7) Zkontrolujte verzi jádra ve WSL a zda vše funguje správně: wsl cat /proc/verzePokud používáte verzi 5.10.43.3 nebo novější, je to skvělé. Udržujte Windows Update aktuální, abyste dostávali vylepšení WSL2.

8) Nainstalujte PyTorch s podporou CUDA v Ubuntu (WSL). Index cu118 je široce používaná a stabilní možnost. Takto využijete výhody GPU ve svých poznámkových blokech nebo skriptech.

pip3 install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu118

9) Rychlý test v Pythonu: Spusťte PyTorch a zkontrolujte, zda je k dispozici CUDA a kolik GPU detekuje. To potvrzuje, že zásobník funguje..

python3
>>> import torch
>>> torch.cuda.device_count()
# Ejemplo de salida: 1 (o más, según tu equipo)
>>> torch.cuda.is_available()
# Esperado: True

10) Docker s GPU na WSL: Nainstalujte Docker Desktop na Windows, aktivujte jej a spusťte testy z Ubuntu WSL. Sada nástrojů pro kontejnery NVIDIA Je podporován v WSL pro scénáře podobné Linuxu.

docker run --rm -it --gpus=all nvcr.io/nvidia/k8s/cuda-sample:nbody \
  nbody -gpu -benchmark -numdevices=1

Pokud se u více grafických karet zobrazuje chyba „k dispozici je pouze 0 zařízení“, známým řešením je zakázat a znovu povolit každou grafickou kartu v Správce zařízení Windows (Grafické adaptéry > Akce > Zakázat a poté Povolit). Poté test zopakujte.

Nativní instalace na Linuxu (Ubuntu/Mint a deriváty)

V nativním Linuxu je doporučená cesta: nainstalovat oficiální ovladač NVIDIA, poté CUDA Toolkit a nakonec konfigurace proměnných prostředí. V novějších verzích fungují větev 560 ovladače a CUDA 12.6 velmi dobře.

1) Přidejte grafické ovladače PPA (Ubuntu) a nainstalujte ovladač 560. Restartujte aby jádro načetlo aktualizovaný modul.

sudo add-apt-repository ppa:graphics-drivers/ppa
sudo apt update
sudo apt install -y nvidia-driver-560
# Reinicia el equipo

2) Ověřte pomocí nvidia-smi, zda je ovladač funkční. Mělo by se zobrazit verze, grafická karta a paměť. než budete pokračovat s CUDA.

nvidia-smi

3) Nainstalujte závislosti sestavení a stáhněte si instalační program CUDA 12.6 (příklad s runfile). V průvodci... zrušte zaškrtnutí políčka ovladače pokud jste již nainstalovali 560, abyste předešli konfliktům.

sudo apt install -y build-essential
wget https://developer.download.nvidia.com/compute/cuda/12.6.3/local_installers/cuda_12.6.3_560.35.05_linux.run
sudo sh cuda_12.6.3_560.35.05_linux.run

4) Exportujte PATH a LD_LIBRARY_PATH do nainstalované verze a znovu načtěte profil. Tím je zajištěno, že nvcc a knihovny jsou k dispozici v relaci.

nano ~/.bashrc
# Añade al final (ajusta si tu ruta difiere)
export PATH=/usr/local/cuda-12.6/bin${PATH:+:${PATH}}
export LD_LIBRARY_PATH=/usr/local/cuda-12.6/lib64${LD_LIBRARY_PATH:+:${LD_LIBRARY_PATH}}
# Guarda y recarga
source ~/.bashrc

5) Zkontrolujte verzi kompilátoru CUDA. Pokud 'nvcc –version' odpovídá správně, instalace je připravena k produkci. Bez tohoto kroku mnoho sestavení selže..

nvcc --version

Další poznámky k jiným verzím: Pokud instalujete CUDA 11.8 S runfile je proces podobný a cesta je obvykle /usr/local/cuda-11.X. V každém případě zkontrolujte matici kompatibility ovladačů, aby správně odpovídala verzi CUDA a ovladači.

Miniconda, PyTorch a ekosystém

Správa prostředí pomocí Minicondy je extrémně pohodlná: izoluje závislosti, zjednodušuje sestavení a umožňuje přepínat mezi verzemi Pythonu. Ideální pro umělou inteligenci a pracovní postupy s více projekty.

Nainstalovat Minikonda v Linuxu pomocí těchto kroků přijměte licenci a restartujte počítač terminál na konci. Poté, uvidíte aktivní základní prostředí.

wget https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-x86_64.sh
bash ./Miniconda3-latest-Linux-x86_64.sh
# Enter > Avanzar > yes > enter > yes

U některých grafických balíčků to může být nutné python3-tk na systémech Ubuntu/Mint. Je také užitečné mít po ruce git.

sudo apt update -y && sudo apt install -y python3-tk git

Jakmile je prostředí připravené, nainstalujte PyTorch se stabilní verzí CUDA (cu118) nebo i nightly, pokud hledáte nejnovější výkon (např. cu124). Vyberte si podle svých potřeb stability vs. novostí.

# Estable (ejemplo cu118)
pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu118
# Nightly (ejemplo cu124)
pip install --pre torch torchvision torchaudio --index-url https://download.pytorch.org/whl/nightly/cu124

Pokud pracujete s kreativními pipelinemi, jako je ComfyUI, můžete naklonovat jejich repozitář a spustit aplikaci. Pro přístup z jiného počítače v síti použijte příznak –listen 0.0.0.0. Je to velmi praktické na headless serverech..

git clone https://github.com/comfyanonymous/ComfyUI
cd ComfyUI
pip install -r requirements.txt
python main.py --listen 0.0.0.0

Testování a validace (PyTorch a Docker)

Ověření instalace vám ušetří pozdější překvapení. V Pythonu ověřte, zda PyTorch vidí GPU, zda dokáže alokovat paměť a zda se jádra spouští bez chyb. Dva klíčové hovory Jsou to parametry is_available a device_count.

python3
>>> import torch
>>> torch.cuda.is_available()
True
>>> torch.cuda.device_count()
1

Pomocí Dockeru vyzkoušejte ukázkový kontejner NVIDIA 'nbody'. Pokud funguje s –gpus=all, máte běhové prostředí kontejneru správně nakonfigurovaný a viditelnost GPU z kontejnerů.

docker run --rm -it --gpus=all nvcr.io/nvidia/k8s/cuda-sample:nbody \
  nbody -gpu -benchmark -numdevices=1

Pokud se ve Windows+WSL zobrazí chyba „0 zařízení“, vzpomeňte si na trik s deaktivací/povolením grafických karet ve Správci zařízení. Je to známý problém což se někdy stává na počítačích s více kartami.

Nakonec nezapomeňte ověřit kompilátor CUDA pomocí nvcc -V a instalaci ovladače pomocí nvidia-smi. Ambos příkazy musí běžet bez chyb.

Užitečné vylepšení v Linuxu: swap a serverový režim

Abyste se vyhnuli pádům v důsledku nedostatku paměti během intenzivního tréninku, může být rozšíření odkládacího souboru záchranou. Velikost 32 GB obvykle dává rezervu u velkých modelů.

sudo swapon --show
sudo swapoff -a
sudo dd if=/dev/zero of=/swapfile bs=1M count=32768 status=progress
sudo chmod 600 /swapfile
sudo mkswap /swapfile
sudo swapon /swapfile
sudo swapon --show
sudo nano /etc/fstab
# Añade si no existe:
/swapfile none swap sw 0 0

Pokud používáte Linux Mint (a podobné systémy na jiných systémech), můžete spustit systém do režimu pro více uživatelů bez grafického prostředí, abyste ušetřili zdroje, včetně části VRAM. Ideální pro servery nebo trénovací uzly.

sudo nano /etc/default/grub
# Cambia "quiet splash" por "text"
sudo update-grub
sudo systemctl set-default multi-user.target
# Reinicia; para volver al escritorio en sesión:
startx

Běžné problémy a jejich řešení

Nesprávně zarovnané ovladače a sada nástrojů: Pokud instalujete nekompatibilní ovladač S vaší verzí CUDA se můžete setkat s chybami při kompilaci nebo spouštění jader. Prostudujte si tabulku kompatibility NVIDIA a srovnejte verze.

Konflikty závislostí v Linuxu: odstraňte zbývající balíčky z předchozích instalací a použijte apt nebo yum k řešení vyřešit přesné verze když vás o to instalační program požádá. Přesné dodržování oficiálního návodu hodně pomáhá.

WSL bez správného jádra: kontrola wsl - aktualizace a zkontrolujte verzi pomocí příkazu „wsl cat /proc/version“. Aby bylo možné přijímat vylepšení subsystému, musí být aktualizace systému Windows aktuální.

Docker bez GPU: Ujistěte se, že ho máte nainstalovaný Sada nástrojů pro kontejnery NVIDIA a Docker Desktop je aktivní ve Windows. Zkuste kontejner nbody a pokud něco selže, zkontrolujte uživatelská oprávnění.

CESTA a knihovny: Pokud nvcc nebo knihovny CUDA nejsou nalezeny, zkontrolujte proměnné CESTA a CESTA_KNIHOVNY_LDPo úpravě se vraťte do souboru 'source ~/.bashrc' a v případě potřeby restartujte relaci.

Cloudová alternativa: instance GPU připravené k použití

Pokud nemůžete nebo nechcete provádět lokální nastavení, cloudová instance s grafickými procesory vám tuto práci ulehčí. Služby s A100, RTX 4090 nebo A6000 nabízejí surový výkon a šablony připravené pro umělou inteligenci.

Na platformách, které poskytují předkonfigurované pody, můžete spustit své prostředí během několika minut, snížit náklady díky fakturaci na základě využití a vybrat si image optimalizované pro PyTorch. Pro týmy, které rotují modely a potřebují škálovat, je to velmi efektivní způsob.

S výše uvedeným nyní máte kompletní mapu: požadavky, instalaci na Windows s WSL a na nativním Linuxu, ověření klíčů pomocí PyTorch a Docker a navíc doplňky pro zvýšení produktivity s Minicondou, swapem a serverovým režimem. Cílem je, abyste se dostali od nuly k tréninku. žádné zasekávání, s pevným a snadno udržovatelným stohem.