Ako krok za krokom nainštalovať TensorFlow s GPU na Windows 11

Konfigurácia TensorFlow tak, aby skutočne využíval výhody GPU v systéme Windows 11, môže byť trochu otravná, ak do toho idete naslepo: nekompatibilné verzie, zvláštne chyby, zastarané návody a konflikty s predchádzajúcimi inštaláciami Pythonu, CUDA alebo cuDNN. Ak ste sa niekedy zamýšľali nad tým, „prečo sa TensorFlow stále spolieha na CPU, keď mám výkonný GPU?“, tento návod je pre vás.

Po zostavení a konsolidácii informácií z rôznych oficiálnych sprievodcov a postupov z praxe sa naučíte, ako spoľahlivo spúšťať TensorFlow s grafickými procesormi v systéme Windows 11 pomocou virtuálnych prostredí (Conda/Miniconda). Uvidíte tiež príklady Pythonu pre umelú inteligenciu , ktoré kombinácie verzií fungujú, vaše možnosti, ak je vaša grafická karta NVIDIA (CUDA) alebo ak chcete používať DirectML (AMD, Intel, NVIDIA) a ako overiť, či je všetko správne nakonfigurované. Cieľom je, aby ste po dokončení mali stabilné a izolované prostredie bez narušenia iných inštalácií alebo projektov Pythonu.

Hardvérové ​​požiadavky a možnosti akcelerácie v systéme Windows 11

Pred inštaláciou čohokoľvek je dôležité vedieť, aký typ akcelerácie chcete použiť a či je váš hardvér kompatibilný. V systéme Windows 11 máte v podstate dve možnosti použitia grafickej karty s TensorFlow: klasický stack NVIDIA (CUDA + cuDNN) alebo doplnok TensorFlow-DirectML , ktorý beží na DirectX 12 a podporuje grafické karty NVIDIA, AMD a Intel.

Ak máte grafickú kartu NVIDIA s podporou CUDA (napríklad GeForce RTX 2060, RTX 3060 alebo podobnú), môžete postupovať tradičným spôsobom s použitím CUDA a cuDNN, ktorý sa najlepšie integruje s natívnym systémom Windows TensorFlow 2.10. Táto metóda sa vo veľkej miere spolieha na správne zarovnanie verzií ovládačov , CUDA Toolkit, cuDNN, Pythonu a TensorFlow. Praktické pokyny na inštaláciu CUDA Toolkit nájdete v špecifických príručkách k CUDA + cuDNN.

Ak však vaša grafická karta používa AMD alebo Intel, alebo jednoducho chcete flexibilnejšiu možnosť, doplnok TensorFlow-DirectML vám umožňuje používať vašu grafickú kartu cez DirectML vo Windowse 10/11, a to natívne aj pod WSL. V tomto prípade nie ste závislí od CUDA/cuDNN, ale skôr od podpory DirectX 12 a aktuálnych ovládačov pre vašu grafickú kartu.

Typické minimálne systémové požiadavky pre DirectML v systéme Windows (podľa dokumentácie spoločnosti Microsoft) zahŕňajú: Windows 10 verzie 1709 alebo novšej, alebo Windows 11 21H2 alebo novšej; Python 3.7 až 3.10 (64-bitový); a kompatibilnú grafickú kartu, ako napríklad AMD Radeon R5/R7/R9 2xx alebo novšej, Intel HD Graphics 5xx alebo novšej, alebo NVIDIA GeForce GTX 9xx alebo novšej. Ak používate CUDA priamo, zamerajte sa na grafickú kartu NVIDIA s architektúrou CUDA 3.5 alebo novšou a aktuálnymi ovládačmi.

Vo všetkých prípadoch je povinné mať nainštalované najnovšie ovládače grafickej karty . V systéme Windows môžete aktualizácie skontrolovať v časti „Nastavenia > Windows Update > Skontrolovať aktualizácie“ a v prípade NVIDIA aj v aplikácii GeForce Experience alebo na oficiálnej webovej stránke ovládačov.

Výber verzií: prečo je TensorFlow 2.10 kľúčový vo Windowse

Jedným z najväčších problémov pri inštalácii TensorFlow s GPU v systéme Windows 11 je, že nie všetky verzie sú kompatibilné. Počnúc verziou TensorFlow 2.11 je natívna podpora CUDA v systéme Windows ukončená; preto je TensorFlow 2.10 v praxi poslednou stabilnou verziou, ktorú môžete používať s GPU cez CUDA v systéme Windows bez použitia WSL alebo Dockeru.

V testovanej konfigurácii na Windows 11 s procesorom Intel Core i7-11800H, grafickou kartou NVIDIA GeForce RTX 3060 Laptop a 16 GB RAM bol v rámci Conda použitý TensorFlow 2.10 s Pythonom 3.10 spolu s CUDA 11.2 a cuDNN 8.1 , aj keď systém mal globálne nainštalovaný Python 3.12.6 a CUDA 12.3. Toto oddelenie bolo dosiahnuté práve vďaka použitiu virtuálneho prostredia Conda.

TensorFlow 2.10 je obzvlášť citlivý na NumPy : nefunguje s NumPy 2.x, preto je dôležité mať nainštalovaný NumPy 1.23.5 alebo inú podporovanú verziu 1.x. Ak už máte vo svojom prostredí nainštalovaný NumPy 2, pred inštaláciou TensorFlow budete musieť preinštalovať príslušnú verziu.

Ak pracujete so staršími verziami, TensorFlow 1.15 rozlišoval medzi balíkmi CPU a GPU s rôznymi názvami v pip (tensorflow a tensorflow-gpu). Počnúc TensorFlow 2.x obsahuje balík pip tensorflow vstavanú podporu GPU, keď sú splnené požiadavky CUDA/cuDNN, hoci v systéme Windows je táto podpora efektívne obmedzená na vetvu 2.10.

Pre tých, ktorí si vyberú DirectML , spoločnosť Microsoft odporúča kombináciu tensorflow-cpu==2.10 ako základ a následné pridanie balíka tensorflow-directml-plugin, ktorý automaticky aktivuje backend DirectML bez zmeny kódu.

Inštalácia a nastavenie Minicondy v systéme Windows 11

Najčistejším spôsobom, ako sa vyhnúť konfliktom medzi verziami Pythonu, TensorFlow, CUDA a cuDNN, je pracovať s virtuálnymi prostrediami. Miniconda je ľahká a veľmi pohodlná možnosť na vytváranie týchto izolovaných prostredí v systéme Windows 11, pričom globálne inštalácie zostávajú nedotknuté.

Najprv si musíte stiahnuť inštalátor Minicondy pre 64-bitový systém Windows (verzia x86-64). Inštalátor sa zvyčajne dodáva ako súbor .exe. Počas inštalácie sa dôrazne odporúča nevyberať možnosť „Pridať Minicondu do PATH“, aby ste predišli konfliktom s inými inštaláciami Pythonu, ktoré môžete mať.

Po dokončení sprievodcu inštaláciou reštartujte počítač, aby ste sa uistili, že je všetko správne zaregistrované . Potom otvorte terminál ( CMD alebo PowerShell ) a overte, či je conda k dispozícii spustením:

conda --version

Ak uvidíte takýto výsledok conda 25.1.1 alebo podobné znamená, že Miniconda bola správne nainštalovaná a teraz môžete začať vytvárať špecifické virtuálne prostredia pre TensorFlow pomocou GPU.

Vytvorte prostredie Conda pre TensorFlow 2.10 a grafické karty NVIDIA

Po spustení Minicondy je ďalším krokom vytvorenie izolovaného prostredia na inštaláciu TensorFlow 2.10 spolu so všetkými jeho závislosťami CUDA/cuDNN. Tým sa zabezpečí, že zmeny neovplyvnia iné projekty ani celkové prostredie Pythonu v systéme.

Otvorte Anaconda Prompt alebo PowerShell s podporou Conda a vytvorte nové prostredie, napríklad s názvom tf-2.10, s Pythonom 3.10:

conda create --name tf-2.10 python=3.10

Po dokončení vytvárania prostredia inicializujte Condu vo vašom shelli , aby ste ju mohli jednoducho aktivovať spustením:

conda init

Po tomto príkaze zatvorte a znova otvorte okno PowerShellu alebo CMD, aby sa zmeny prejavili. Potom môžete novovytvorené prostredie aktivovať pomocou:

conda activate tf-2.10

V aktívnom prostredí tf-2.10 bude všetko, čo nainštalujete pomocou pip alebo conda , zapuzdrené v ňom bez toho, aby sa to miešalo s inými inštaláciami. V tomto prostredí nainštalujete NumPy, TensorFlow 2.10 a potrebné knižnice CUDA/cuDNN.

Nainštalujte TensorFlow 2.10, kompatibilný s NumPy, CUDA a cuDNN v Conde

TensorFlow 2.10 má veľmi špecifické požiadavky na knižnice . Najprv sa uistite, že NumPy nie je vo vetve 2.x v prostredí tf-2.10. Ak máte podozrenie, že bola nainštalovaná nekompatibilná verzia, môžete nastaviť správnu verziu takto:

pip install numpy==1.23.5

Keď máte NumPy v akceptovanej verzii, nainštalujte TensorFlow 2.10 z pipu v rovnakom prostredí:

pip install tensorflow==2.10

Ako už bolo spomenuté, natívny Windows TensorFlow 2.10 je viazaný na CUDA 11.2 a cuDNN 8.1 . Pre zjednodušenie a vyhnutie sa globálnym inštalátorom NVIDIA môžete tieto knižnice nainštalovať priamo v prostredí Conda pomocou kanála conda-forge:

conda install -c conda-forge cudatoolkit=11.2 cudnn=8.1

S týmto prístupom nie ste závislí od globálnej sady nástrojov CUDA vášho počítača, ktorá zodpovedá požiadavkám TensorFlow. V skutočnosti môžete mať napríklad CUDA 12.3 nainštalovaný vo Windowse pre iné úlohy a zároveň používať „virtuálny“ CUDA 11.2 v rámci tf-2.10 bez toho, aby medzi nimi dochádzalo ku konfliktu.

Majte na pamäti, že oficiálna príručka TensorFlow tiež popisuje „klasický“ postup inštalácie CUDA a cuDNN na systémovej úrovnipridaním ich ciest do cesty systému Windows. Ak sa rozhodnete použiť túto tradičnú metódu, budete musieť zabezpečiť, aby nainštalované verzie presne zodpovedali verziám požadovaným systémom TensorFlow, a aby súbor cuDNN64_8.dll Je prítomný a prístupný.

Klasická inštalácia ovládačov NVIDIA, CUDA Toolkit 11.2 a cuDNN 8.1

Ak uprednostňujete alebo potrebujete mať CUDA/cuDNN globálne nainštalovaný v systéme Windows 11 , existuje široko používaná logická postupnosť, ktorá bola testovaná aj v systéme Windows 10 s grafickými kartami ako GeForce RTX 2060. Tento prístup je založený na oficiálnom balíku NVIDIA a spolieha sa na niektoré ďalšie nástroje.

Prvou požiadavkou je kompilátor Microsoft Visual C++ , pretože CUDA Toolkit sa integruje s Visual Studiom na kompiláciu určitých komponentov. Najjednoduchší spôsob, ako to dosiahnuť, je nainštalovať Microsoft Visual Studio so zapnutou sadou nástrojov C++.

Potom si nainštalujte najnovšie ovládače pre vašu grafickú kartu NVIDIA z oficiálnej webovej stránky NVIDIA na stiahnutie , pričom vyberte svoj konkrétny model (napríklad GeForce RTX 2060) a príslušný operačný systém Windows. Inštalátor zvyčajne ponúka režim rýchlej inštalácie; v praxi stačí jednoducho súhlasiť a pokračovať.

Po nainštalovaní ovládačov môžete pokračovať v inštalácii CUDA Toolkit 11.2 z archivovaných verzií od NVIDIA. Tam si vyberiete vetvu 11.2, operačný systém (Windows) a typ inštalátora (.exe). Počas inštalácie je bežné zvoliť „vlastný“ režim, ale vo väčšine prípadov môžete ponechať predvolené nastavenia jednoduchým kliknutím na Ďalej a OK.

Ďalším krokom je práca s cuDNN 8.1, špecifickou knižnicou pre hlboké neurónové siete . Na jej stiahnutie musíte byť zaregistrovaní na vývojárskom portáli NVIDIA. Po prihlásení prejdite do súboru s verziou cuDNN a vyberte variant, ktorý zodpovedá CUDA 11.2 pre Windows.

Balík cuDNN nie je klasický inštalátor, ale komprimovaný súbor s priečinkom s názvom „cuda“ Vo vnútri nájdete podpriečinky ako bin, include a lib, ktoré obsahujú súbory .dll, .hy a ďalšie súbory. Musíte skopírovať obsah týchto podpriečinkov do príslušných ciest vašej inštalácie CUDA 11.2, zvyčajne v C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.2, s rešpektom k štruktúre bin, include a lib.

Po skopírovaní týchto súborov je dôležité skontrolovať a upraviť premennú prostredia Windows %PATH% tak, aby zahŕňala adresáre, v ktorých sa nachádzajú knižnice CUDA, CUPTI a cuDNN. Napríklad pre CUDA 11.0 (analogicky s 11.2) oficiálna dokumentácia navrhuje príkazy ako:

SET PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0\bin;%PATH%
SET PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0\extras\CUPTI\lib64;%PATH%
SET PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0\include;%PATH%
SET PATH=C:\tools\cuda\bin;%PATH%

Prispôsobením týchto ciest vašej konkrétnej verzii CUDA a priečinku, kam ste umiestnili cuDNN (napríklad C:\tools\cuda), zabezpečíte, že TensorFlow pri spustení nájde potrebné knižnice DLL.

Nainštalujte grafickú kartu TensorFlow v alternatívnych prostrediach Conda a otestujte ju.

Existujú aj iné kombinácie verzií, ktoré sa úspešne používajú aj v systéme Windows , najmä so staršími verziami TensorFlow. Napríklad pre TensorFlow 2.6.0 s GPU v prostredí Python 3.7 môžete vytvoriť prostredie Conda takto:

conda create -n test_tensorflow_gpu python=3.7

Po vytvorení prostredia sa aktivuje pomocou :

conda activate test_tensorflow_gpu

a potom nainštalujte tensorflow-gpu 2.6.0 pomocou pip :

pip install tensorflow-gpu==2.6.0

Existujú aj príklady o niečo starších prostredí s TensorFlow 2.1.0 a CUDA 10.1 , kde je vytvorené prostredie Conda pomocou Anacondy a Pythonu 3.7.7, je pridaný ipykernel a sú nainštalované rôzne vedecké závislosti, Keras 2.3.1 a ďalšie:

$ conda create -n entornoGPU anaconda python=3.7.7
$ conda activate entornoGPU
$ conda install ipykernel
$ python -m ipykernel install --user --name entornoGPU --display-name "entornoGPU"
$ conda install tensorflow-gpu==2.1.0 cudatoolkit=10.1
$ pip install tensorflow==2.1.0
$ pip install jupyter
$ pip install keras==2.3.1
$ pip install numpy scipy Pillow cython matplotlib scikit-image opencv-python h5py imgaug IPython

Bez ohľadu na to, akú konkrétnu kombináciu si vyberiete (2.10, 2.6.0, 2.1.0 atď.), postup je vždy rovnaký: vytvorte čisté virtuálne prostredie, nainštalujte kompatibilnú verziu Pythonu, pridajte TensorFlow a príslušné knižnice CUDA/cuDNN a nakoniec skontrolujte, či je GPU viditeľné.

Rýchly spôsob, ako zistiť, či TensorFlow rozpozná GPU, je otvoriť Python a spustiť:

import tensorflow as tf
print("TensorFlow version:", tf.__version__)
print("GPUs available:", tf.config.list_physical_devices('GPU'))

Ideálny výstup by vyzeral nejako takto :

TensorFlow version: 2.10.0
GPUs available:

Ak naopak Zoznam grafických procesorov sa zdá byť prázdny ([]), TensorFlow využíva iba CPU. V takom prípade je vhodné zatvoriť terminál, znova aktivovať prostredie, skontrolovať, či sú cesty CUDA/cuDNN správne nakonfigurované, či je ovládač NVIDIA aktuálny a či neexistujú žiadne nekompatibility verzií.

Používanie doplnku TensorFlow-DirectML v systéme Windows 11

Pre mnohých používateľov Windowsu 11, najmä pre tých s grafickými kartami AMD alebo Intel , alebo pre tých, ktorí sa chcú vyhnúť zložitosti CUDA/cuDNN, ponúka tensorflow-directml-plugin zaujímavú alternatívu. Tento plugin využíva DirectML nad DirectX 12 a umožňuje vám zrýchliť TensorFlow bez spoliehania sa na ekosystém CUDA.

Prvou požiadavkou je, aby váš systém Windows 10/11 bol kompatibilný s verziou (Windows 10 1709+ alebo Windows 11 21H2+) a aby vaša grafická karta podporovala DirectX 12 a DirectML . Okrem toho potrebujete Python x86-64 verzie 3.7, 3.8, 3.9 alebo 3.10, pričom 3.10 je najvyššia verzia podporovaná týmto doplnkom.

Opäť sa odporúča použiť Minicondu na vytvorenie virtuálneho prostredia . Po nainštalovaní Minicondy môžete vytvoriť prostredie s názvom napríklad tfdml_plugin pomocou:

conda create --name tfdml_plugin python=3.9
conda activate tfdml_plugin

Po aktivácii prostredia musíte nainštalovať základnú verziu TensorFlow na CPU, ktorú plugin vyžaduje , konkrétne tensorflow-cpu==2.10, pretože nie je kompatibilná s „normálnym“ tensorflow alebo tensorflow-gpu:

pip install tensorflow-cpu==2.10

Ďalej sa samotný plugin tensorflow-directml nainštaluje jednoduchým spôsobom:

pip install tensorflow-directml-plugin

Po dokončení by vaše skripty TensorFlow mali začať transparentne používať backend DirectML bez toho, aby ste museli upravovať kód. Ak už máte modely alebo notebooky, jednoducho ich spustite v prostredí tfdml_plugin.

Integrujte prostredie Conda s PyCharm a ďalšími IDE

Ak na vývoj v Pythone používate PyCharm alebo iné IDE , je veľmi užitočné prepojiť interpret IDE priamo s prostredím Conda, ktoré ste vytvorili pre TensorFlow, aby ste mohli spúšťať a ladiť projekty presne s použitím tých verzií knižníc, ktoré ste nakonfigurovali.

Napríklad v PyCharm môžete prejsť do Súbor > Nastavenia > Projekt: <VášProjekt> > Interpret Pythonu a odtiaľ pridať svoje existujúce prostredie Conda. Ak to chcete urobiť, vyberte „Pridať interpret > Pridať lokálny interpret“.

V sprievodcovi vyberte možnosť „Existujúce prostredie“ a prejdite na cestu k spustiteľnému súboru Pythonu vášho prostredia, ktorý zvyčajne vyzerá takto:

C:\Users\<tu_usuario>\miniconda3\envs\tf-2.10\python.exe

Po výbere zvoľte prostredie tf-2.10 (alebo akýkoľvek iný názov, ktorý ste mu dali) , potvrďte tlačidlom OK a PyCharm ho začne používať pre daný projekt. Týmto spôsobom budú importy TensorFlow, NumPy, CUDA/cuDNN atď. vždy vyriešené zo správneho prostredia.

Pokročilé testy a benchmarky GPU vs. CPU

Okrem základnej kontroly „tf.config.list_physical_devices('GPU')“ existujú aj pokročilejšie spôsoby, ako zabezpečiť, aby TensorFlow používal GPU a mimochodom zmerať skutočný rozdiel vo výkone v porovnaní s CPU.

Pre inštalácie ako TensorFlow-gpu 2.6.0 v Pythone 3.7 môžete napísať malý Python skript , ktorý načíta zoznam lokálnych zariadení a zobrazí podrobné informácie o GPU, verzii CUDA a verzii cuDNN, ktoré TensorFlow interne používa. Typickým príkladom by bolo:

import tensorflow
from tensorflow.python.client import device_lib

def print_info():
print('Verzia TensorFlow: {}'.format(tensorflow.__version__))
print('GPU: {}'.format())
print('Verzia Cuda -> {}'.format(tensorflow.sysconfig.get_build_info()))
print(' Verzia Cudnn -> {}'.format(tensorflow.sysconfig.get_build_info()))

print_info()

Výstup tohto typu skriptu vám presne povie, čo TensorFlow vidí : názov GPU (napríklad NVIDIA GeForce RTX 2060), výpočtový výkon a integrované verzie CUDA/cuDNN. To vám umožní potvrdiť, že kombinácie sú konzistentné a že sa používa správne zariadenie, a v prípade akýchkoľvek pochybností o terminológii si môžete preštudovať glosár pojmov .

Ak chcete zájsť ešte o krok ďalej, nástroje ako ai-benchmark vám umožňujú porovnať výkon GPU a CPU v rôznych populárnych neurónových sieťach (MobileNet, Inception, ResNet, VGG atď.). Ak chcete ai-benchmark nainštalovať do svojho virtuálneho prostredia s aktívnym GPU:

pip install ai-benchmark

Potom môžete z interpreta Pythonu spustiť benchmark na GPU pomocou:

from ai_benchmark import AIBenchmark
benchmark_gpu = AIBenchmark(use_CPU=False)
benchmark_gpu.run_training()

Výsledky ukazujú časy trénovania pre každý model a celkové „skóre trénovania zariadenia“. Napríklad v testoch s RTX 2060 trvalo trénovanie MobileNet-V2 s dávkou = 50 a veľkosťou 224 × 224 približne 325 ms na iteráciu na GPU.

Pre porovnanie s CPU môžete spustiť:

benchmark_cpu = AIBenchmark(use_CPU=True)
benchmark_cpu.run_training()

Za rovnakých podmienok trvalo CPU v MobileNet-V2 v rovnakom scenári približne 3148 ms, čo je takmer 10-krát dlhšie ako GPU. Tento rozdiel sa s obmenami opakuje aj v iných benchmarkových modeloch, čo jasne ilustruje výhodu použitia GPU na intenzívny tréning.

Základnejšiu kontrolu je možné vykonať aj v prostredí TensorFlow 2.1.0/2.10 spustením:

$ python
$ import tensorflow as tf
$ tf.__version__
$ tf.test.gpu_device_name()

Ak `tf.test.gpu_device_name()` vráti niečo ako „/device:GPU:0“ , GPU je detekovaný a používaný TensorFlow. Ak vráti prázdny reťazec, pravdepodobne je potrebné správne nakonfigurovať zásobník CUDA/cuDNN alebo opraviť niektorú nekompatibilitu verzií.

Kombináciou týchto kontrol, nastavením virtuálnych prostredí pomocou Minicondy a starostlivým výberom verzií (TensorFlow 2.10 pre natívny Windows s CUDA 11.2 a cuDNN 8.1 alebo tensorflow-cpu 2.10 s pluginom DirectML) môžete dosiahnuť, aby TensorFlow využíval vašu grafickú kartu v systéme Windows 11 bez toho, aby sa zbláznil do kryptických chýb alebo narušil iné inštalácie Pythonu, ktoré už máte na svojom počítači.