Rozdíly mezi Vulkan a Vulkan Compute pro GPGPU a grafiku

Když si člověk začne hrát s Výpočetní technika GPU Je normální, že si člověk plete tolik API: OpenGL, Vulkan, DirectX, CUDA… a v rámci Vulkanu slyší lidi mluvit o „Vulkan Compute“, jako by to bylo něco jiného. Pokud uvažujete o implementaci simulací, fyziky, IA nebo jakýkoli úkol GPGPU, dobře rozumějte Rozdíly mezi Vulkanem pro grafiku a jeho použitím jako výpočetního API Je to klíčové pro výběr správné cesty.

Vulkan je v konečném důsledku jen jeden z nich, ale lze jej použít jako Tradiční grafické API nebo univerzální výpočetní API Využití jeho výpočetních shaderů. Pojďme se blíže podívat na změny ve srovnání s OpenGL, jaké jsou rozdíly oproti CUDA a jak to vše zapadá do zbytku moderního ekosystému API, jako je DirectX nebo dokonce OpenCL.

Co je Vulkan a jak vypadá Vulkan Compute?

Vulkan je nízkoúrovňové API Vytvořeno a spravováno skupinou Khronos Group jako vývoj staré filozofie OpenGL a Mantle (AMD). Bylo spuštěno v roce 2016 jako moderní API pro 3D grafiku a obecné GPU výpočty se dvěma jasnými cíli: vytěžit maximum z... technické vybavení a být skutečně multiplatformní.

Na rozdíl od OpenGL, které se rozrůstalo prostřednictvím rozšíření a záplat, Vulkan byl navržen od nuly pro vícejádrové CPU, moderní GPU a zařízení od stolních počítačů až po mobilní telefony a konzole. Silně se opírá o myšlenku, že vývojář přebírá velkou část správy zdrojů a synchronizace výměnou za… brutální snížení přetížení ovladače.

Když mluvíme o „Vulkan Compute“, ve skutečnosti máme na mysli použití výpočet shaderů uvnitř Vulkanu Pro úlohy GPGPU: simulace, zpracování obrazu, fyzika částic, pokročilé postprocessing, umělá inteligence atd. Neexistuje samostatné API s tímto názvem; existuje pouze jednotný model, kde grafické a výpočetní shadery Sdílejí stejný ekosystém: stejný systém deskriptorů, stejnou frontu příkazystejná paměť a stejné synchronizační nástroje.

Tento jednotný přístup umožňuje správu jedinému enginu nebo aplikaci renderování a výpočty se stejným APIaniž by bylo nutné kombinovat například OpenGL pro grafiku a další samostatné výpočetní API pro obecnou práci s GPU.

Od OpenGL k Vulkanu: skok ve výpočetních shaderech

OpenGL byl zaveden před lety výpočet shaderůDíky tomu byl GPGPU pro mnoho úkolů poměrně pohodlný. Jeho konstrukce však s sebou nese globální stavový stroj, silná závislost na jediném kontextu a režie validací, implicitní zámky a skrytá synchronizace, které se ne vždy dobře škálují na vícejádrových procesorech.

V OpenGL je většina stavu API spojena s globálním kontextem: Hovory se uskutečňují postupně A ovladač za vás dělá mnoho „magických“ rozhodnutí. Pro malý program nebo demo by to mohlo fungovat, ale pokud chcete skutečně paralelizovat, využít všechna jádra CPU a vytvořit dobře optimalizované pracovní fronty, tento přístup selhává.

Vulkan se s tímto modelem rozchází a je založen na objekty bez globálního stavuMísto volání funkcí, které upravují globální stavy, ve Vulkanu vytváříte vyrovnávací paměti příkazů kde přesně popíšete, co chcete spustit: jaké zdroje použít, které shadery spustit, jak synchronizovat atd. Tyto příkazy lze generovat paralelně z více vláken a poté je velmi efektivně odeslat na GPU.

To má jasný důsledek: ve srovnání s OpenGL, Vulkan umožňuje mnohem lepší využití vícejádrových procesorůVe Vulkanu lze shadery pro výpočetní výpočty připravovat a odesílat z více vláken, aniž by se ovladač stal úzkým hrdlem. Proto se Vulkan často používá u velmi náročných úloh nebo u úloh s mnoha malými úlohami. překonat OpenGL jednoduše snížením nákladů na CPU a umožněním lepšího rozložení zátěže.

Další důležitý rozdíl spočívá v shaderech: OpenGL používá GLSL na vysoké úrovni Každý ovladač musí obsahovat vlastní kompilátor, který za běhu převádí zdrojový kód do binárního souboru GPU. To komplikuje údržbu ovladače a může vést k rozdílnému chování mezi výrobci.

Vulkan používá podobný přístup jako Direct3D: shadery nejsou doručovány jako text, ale v standardní binární meziformát nazývaný SPIR-VShadery můžete zkompilovat jednou (například z GLSL nebo HLSL do binárního souboru SPIR-V) a ovladač pak už jen musí provést finální optimalizaci. To zlepšuje... časy načítáníSnižuje chyby kompilace za běhu a usnadňuje jeho použití. velké množství různých shaderů ve stejné scéně nebo výpočetním kanálu.

Rozdíly ve výkonu: OpenGL Compute vs. Vulkan Compute

Z čistě GPU hlediska, výpočetní kód, který běží ve výpočetním shaderu Ať už to píšete pro OpenGL nebo Vulkan, může to být velmi podobné. Celkový výkon aplikace však nezávisí jen na tom, co GPU běží, ale také na... Jak napájíš tu GPU z CPU? a jak synchronizujete a sdílíte data.

S Vulkanem to dokážete eliminovat velkou část režijních nákladů řidičeExplicitní používání front příkazů, seskupování mnoha operací do dávek, ruční správa paměti a vyhýbání se globálním stavům, které blokují paralelismus. To vše v praxi znamená, že Stejná simulace nebo stejný obecný výpočet má ve Vulkanu tendenci fungovat lépe. než v OpenGL, zejména ve scénářích s mnoha vlákny nebo mnoha malými úlohami.

V reálných aplikacích byly podobné rozdíly pozorovány i v čisté grafice: s identickým hardwarem a v prostředí, jako je Windows 7Bylo naměřeno, že Vulkan dokáže dosáhnout přibližně 303 fps ve srovnání s přibližně 270 fps s jiným API. v některých benchmarkech tradičnější, a to právě díky tomuto snížení režie a lepšímu rozložení zátěže CPU/GPU.

Navíc, Vulkan se mnohem lépe škáluje s vícejádrovými procesoryOpenGL 4 a DirectX 11 byly původně navrženy pro jednojádrové procesory a byly rozšířeny pro práci s více jádry, ale jejich model se tak dobře neškáluje. Vulkan byl na druhou stranu navržen s ohledem na tuto skutečnost od základu, takže příprava paralelní práce pro GPU je přirozenou součástí API, nikoli doplňkem.

Vulkan vs. DirectX: Moderní nízkoúrovňová API

Pro umístění Vulkan Compute na celou mapu je užitečné porovnat jej s Kompletní srovnání: Vulkan vs DirectX vs OpenGLzejména Direct3D 11 a 12, které zůstávají měřítkem ve vývoji hra pro Windows a Xbox.

DirectX, vyvíjený společností Microsoft od roku 1995, je ve skutečnosti sada multimediálních API (grafika, zvuk, vstup atd.). Direct3D je komponenta 3D grafiky a v Direct3D 11 je API na vyšší úrovni: velkou část správy zdrojů, synchronizace a logiky ověřování automaticky zpracovává ovladač. To zjednodušuje život vývojářům, ale také implikuje... větší režie CPU a méně jemné ovládání.

S Direct3D 12 se Microsoft přiblížil filozofii Vulkan: API nižší úrovně, explicitní ovládání a lepší škálování na vícejádrových procesorech. DirectX je však technologie proprietární a zaměřený na ekosystém MicrosoftuKonzole Windows a Xbox. Pokud se primárně zaměřujete na Windows, DirectX má velmi rozvinutý ekosystém, rozsáhlou dokumentaci a obrovskou komunitu. Pokud si nejste jisti, můžete zjistit, jakou verzi DirectX máte nainstalovanou.

Vulkan je na druhou stranu multiplatformní od první minuty. Pracuje na Linux, AndroidBSD Unix, Windows Nintendo Spínač a dalších platformách s podporou třetích stran na macOS a iOS prostřednictvím vrstev kompatibility. Díky tomu je obzvláště atraktivní pro studie, které chtějí cílit na více platforem s jedinou kódovou základnouvčetně počítačů, mobilních telefonů a konzolí.

Ještě jeden bod: DirectX je Kolekce API, zatímco Vulkan je obvykle popisován jako software programování videohry nové generace/OpenGL ale sjednocený pro grafiku a výpočetní techniku. Vulkan nabízí Velmi vyvážené využití CPU/GPU a velmi dobře se etabloval v Androidu a ve světě emulátorů, zatímco DirectX jasně dominuje ve Windows.

Pokud jde o hrubou rychlost, často se říká, že Vulkan je rychlejší než DirectX V mnoha scénářích, zejména pokud je práce dobře paralelizována a je využita vícevláknová, nízkoúrovňová povaha API, se DirectX 12 může rovnat nebo v určitých případech dokonce překonat. Chcete-li ověřit kompatibilitu, můžete Zkontrolujte, zda je vaše grafická karta kompatibilní s DirectX 12 Ultimate.

Vulkan vs. CUDA pro čistý GPGPU

Dalším důležitým hráčem v oblasti univerzálních GPU výpočtů je CUDA, nástupiště NVIDIAPokud přecházíte z CUDA a uvažujete o změně nebo doplnění svého stacku, je klíčové pochopit, co s Vulkan Compute získáte a co ztratíte.

CUDA je navržena speciálně pro vědecké výpočty, HPC, umělá inteligence, strojové učení a náročné úlohy zpracování. Nabízí obrovský ekosystém optimalizovaných knihoven, ladicích nástrojů a profilů a je hluboce integrován do akademického světa a světa superpočítačů. Syntaxe C/C++ s rozšířeními CUDA je poměrně uživatelsky přívětivá, pokud jste s tímto prostředím již obeznámeni.

Vulkan je zase Univerzální grafické a výpočetní APIJeho výpočetní shadery dokážou dělat většinu toho, co děláte v CUDA, ale mentální model je jiný: pracujete s Shadery SPIR-VPoužívají se deskriptorové struktury, fronty příkazů a explicitní synchronizace. Syntaxe není identická s CUDA; obvykle se píše v GLSL, HLSL nebo jiném zdrojovém jazyce, který se následně kompiluje do SPIR-V.

Velkou výhodou Vulkanu oproti CUDA je, že Není omezeno na hardware NVIDIAJako otevřený standard od společnosti Khronos funguje s grafickými procesory od různých výrobců a na mnoha různých operačních systémech: Linux, Android, Windows, Nintendo a dalších. Pokud potřebujete, aby váš software GPGPU běžel na AMD, Intelmobilní telefony nebo konzoleVulkan je mnohem flexibilnější řešení.

Nicméně, křivka učení pro Vulkan je obvykle... strmější než CUDA. Je třeba nastavit spoustu infrastruktury: logická zařízení, fronty, vyrovnávací paměti, deskriptory, pipeline, ruční synchronizaci atd. V CUDA je mnoho z těchto vrstev více integrováno nebo abstrahováno vlastními knihovnami NVIDIA.

Z hlediska praktického využití, Vulkan je ideální, když potřebujete sjednotit grafiku a výpočetní techniku. a nasadit na mnoho platforem. CUDA je fantastická pro čisté GPGPU v ekosystému NVIDIA, zvláště pokud se budete spoléhat na její knihovní stack (cuBLAS, cuDNN atd.) a nepotřebujete pokročilou grafiku integrovanou do stejného API.

Vulkan versus jiná API a standardy: OpenCL, Metal, Mantle…

Vulkan nestojí sám proti OpenGL, DirectX a CUDA; v oblasti paralelních výpočtů existují i ​​další hráči. Jedním důležitým příkladem je OpenCL, rovněž od společnosti Khronos, která se již léta používá pro univerzální paralelní programování napříč více zařízeními.

S příchodem OpenCL 2.2 společnost Khronos oznámila, že OpenCL by se sblížil s Vulkanem Pokud je to možné, měl by být kód OpenCL nasaditelný jak na OpenCL, tak na Vulkan. Tento přístup již byl demonstrován v reálných produktech: například Adobe Premiere Rush používá kompilátor s otevřeným zdrojovým kódem. clspv převést jádra OpenCL C na SPIR-V a spustit je na Běhové prostředí Vulkan na Androidu.

Existují také API specifická pro danou platformu, jako například metal (Apple) nebo historické kořeny Vulkanu v MantleVulkan, API od AMD, jehož kód byl darován společnosti Khronos za účelem vytvoření nízkoúrovňového, otevřeného standardu podobného DirectX 12, ale multiplatformního, dědí mnoho myšlenek od Mantle a sdílí filozofii s DirectX 12 a Metal. Nízké režijní náklady, explicitní kontrola a zaměření na vícejádrové CPU.

Vývoj Vulkanu a zaměření na výpočetní techniku

Od svého prvního vydání v roce 2016 získal Vulkan několik hlavní aktualizace které zdokonalují své schopnosti jak pro grafiku, tak pro výpočetní shadery.

Ve verzi Vulkan 1.1, rozšíření jako například vícenásobné zobrazení, skupiny zařízení, sdílení napříč procesy a APIByly zavedeny pokročilé výpočetní funkce, vylepšená kompatibilita s HLSL a podpora barevných formátů, jako je YCbCr. Byla také přidána explicitní podpora pro více grafických karet a doků pro moderní techniky, jako je sledování paprsků, se ještě více přibližují možnostem DirectX 12.

Integrovaný Vulkan 1.2 23 dalších rozšíření široce používané v základním standardu. Mezi nejdůležitější patří semafory časové osy pro synchronizaci (mnohem lépe zvládnutelné ve složitých scénářích), formální paměťový model, který přesně definuje, jak jsou operace synchronizovány mezi různými vlákny, a indexování deskriptorůcož umožňuje opětovné použití návrhů deskriptorů s více shadery, což je velmi užitečné při kombinaci grafiky a výpočetní techniky.

Vulkan 1.3 pokračoval v tomto duchu a integroval také řadu rozšíření a zaměřil se na snížit fragmentaciAby bylo zařízení prohlášeno za kompatibilní s Vulkanem 1.3, určité funkce přestávají být volitelné a stávají se povinnými, což vývojářům usnadňuje přesně vědět, jaké možnosti mohou očekávat. Kromě toho byla přidána vylepšení dynamické vykreslování, dynamičtější stavy a vylepšené synchronizační APITo vše je velmi důležité při kombinaci grafiky s náročnými výpočty.

Souběžně s tím se vyvíjel i SPIR-V, který prošel verzemi, jako je 1.3, která umožňuje vyjadřovat stále složitější shadery a výpočetní jádra a kompatibilní s různými API na vysoké úrovni.

Praktické výhody Vulkanu pro grafiku a výpočetní techniku

Vulkan byl navržen tak, aby oproti předchozím API nabízel řadu jasných výhod, a to jak v grafice, tak i v obecné výpočetní technice. Jednou z nejzřejmějších je snížení přetížení regulátoruTo se promítá do menší zátěže pro CPU. Použitím dávkového zpracování a vyrovnávacích pamětí příkazů můžete pro GPU připravit velké množství práce najednou.

Další výhodou je lepší škálování na vícejádrových procesorechDirectX 11 a OpenGL 4 se zrodily v éře jednojádrových procesorů a později byly opraveny, aby lépe fungovaly s více jádry, ale jejich modely se tak dobře neškálují. Vulkan byl navržen speciálně tak, aby umožňoval více vláknům připravovat příkazy paralelně bez překrývání, a využíval tak výhody procesorů s mnoha jádry.

Co se týče paměti a synchronizace, Vulkan vám nabízí explicitní kontrola nad správou paměti GPU a jak jsou operace synchronizovány. Tím se zabrání neočekávanému „magickému“ chování ovladače, i když to vyžaduje mnohem větší opatrnost. Aby se pomohlo, namísto kontroly chyb za běhu, jako to dělá OpenGL, Vulkan odděluje validaci do vývojových vrstev které můžete aktivovat při ladění a deaktivovat v produkčním prostředí pro zvýšení výkonu.

Další důležitou výhodou je, že Sjednocuje správu výpočetních jader a grafických shaderů.Už není třeba používat například jedno API pro grafiku a druhé pro výpočty; renderování i GPGPU fungují na stejném modelu front, paměti a deskriptorů. To výrazně zjednodušuje projekty, kde jsou grafika a výpočty úzce propojeny, jako jsou moderní herní enginy, komplexní simulátory nebo aplikace... virtuální realitou a zvýšil.