- Omogoča vam povečanje lokalne zmogljivosti umetne inteligence za do 100 % na grafičnih karticah RTX 20, 30 in 40.
- Postopek spreminja registre nizke ravni z uporabo UEFI ali ukaznih vrstic, ne da bi trajno spremenil VBIOS.
- Izboljšava je namenjena izključno nalogam računalništva z umetno inteligenco in ne vpliva na zmogljivost v video igrah ali DLSS.
Ste se kdaj vprašali, ali vaša grafična kartica deluje s polnim potencialom ali pa je Nvidia skrila rezervo moči ? Izkazalo se je, da za uporabnike serij RTX 20, 30 in 40 obstaja presenetljiva resničnost: jedra Tensor, odgovorna za čarobnost umetne inteligence, so privzeto omejena, kar nam pušča ogromno neizkoriščene računalniške moči.
Zahvaljujoč iznajdljivosti skupnosti modderjev so se pojavila orodja, ki uporabnikom omogočajo, da zaobidejo te omejitve in kar najbolje izkoristijo svojo strojno opremo . Ne govorimo o preprostem običajnem overklokiranju, temveč o spreminjanju nizkonivojskih registrov, da grafični procesor pri lokalnih nalogah umetne inteligence deluje odlično, s čimer se stara kartica spremeni v pravo zver za obdelavo podatkov, ne da bi pri tem porabili en sam peni za novo strojno opremo.
Kaj točno vključuje odklepanje GPU-ja?
Obstaja več rešitev, med katerimi sta najbolj znana »GPU Unlock« in »NV UEFI Unlocker«. Ta orodja ne delujejo na tradicionalne gonilnike, temveč na nizkonivojske konfiguracijske registre kartice . V primeru NV UEFI Unlockerja je trik v tem, da deluje med zagonom sistema, tik preden prevzame nadzor gonilnik Nvidia, kar vam omogoča, da zaobidete frekvenčne omejitve, ki jih je prvotno določil proizvajalec.
Najbolj zanimivo pri tej metodi je, da je v mnogih njenih izvedbah sprememba začasna. To pomeni, da sprememba izgine, ko je računalnik izklopljen , kar preprečuje trajne spremembe VBIOS-a in zmanjšuje tveganje, da bi kartica postala neuporabna, čeprav je to še vedno postopek za uporabnike, ki so seznanjeni z ukazno vrstico.
Resničen vpliv na delovanje umetne inteligence
Številke, o katerih razpravljamo, so preprosto osupljive. Pri nalogah množenja matric v FP32 se je pokazalo, da RTX 2070 poskoči s 36 TFLOPS na približno 63 TFLOPS, kar je skoraj 75-odstotno povečanje . V višjem cenovnem razredu pa stvari postanejo resnejše; RTX 3090 Ti lahko v FP16 doseže od 87,46 TFLOPs na približno 118,39 TFLOPs, v BF16 pa je skok še večji in doseže vse do 157,41 TFLOPs.
Tudi neverjetno zmogljiva RTX 4090 ne zaostaja, saj je v BF16 podvojila svojo zmogljivost, s 165,6 TFLOP na približno 331,6 TFLOP . To postavlja kartice prejšnjih generacij na raven moči, ki se približuje tisti, ki jo ponuja najnovejša serija, kar omogoča izvajanje jezikovnih modelov in lokalno generiranje slik s hitrostjo, ki je Nvidia ni nameravala zagotoviti.
Pomembne omejitve in opozorila
Preden se lotimo dela, razjasnimo nekaj stvari, da se izognemo neprijetnim presenečenjem. Prvič, ta "trik" je zasnovan izključno za aplikacije umetne inteligence . Če pričakujete, da bodo vaše igre delovale z višjimi FPS ali da se bo DLSS čarobno izboljšal, pozabite na to; tradicionalna rasterizacija in nevronsko upodabljanje ostajata nespremenjena, ker se ti procesi bolj zanašajo na pasovno širino pomnilnika kot na surovo moč Tensor Cores.
- Tveganje strojne opreme: To ni program, ki bi ga "namestili in zagnali"; zahteva konfiguriranje kompleksnih ukaznih vrstic, ki bi lahko poškodovati kartico če so opravljeni nepravilno.
- Tehnične zahteve: V nekaterih primerih morate pripraviti izvedljiv USB pogon, onemogočiti Secure Boot ali aktivirati način vdelane programske opreme GSP na seriji 20.
- Hlapnost: Ker ne gre za posodobitev BIOS-a, Mod moraš zagnati vsakič, ko se računalnik znova zažene.
Sprostitev potenciala tenzorskih jeder je neverjetna priložnost za tiste, ki delajo z lokalno umetno inteligenco, saj omogoča grafičnim procesorjem, za katere smo mislili, da so zastareli, da so ponovno v ospredju množične obdelave podatkov , pod pogojem, da se uporabi potrebna previdnost in tehnično znanje, da se prepreči preobremenitev strojne opreme.
Strasten pisec o svetu bajtov in tehnologije nasploh. Rad delim svoje znanje s pisanjem in to je tisto, kar bom počel v tem blogu, saj vam bom pokazal vse najbolj zanimive stvari o pripomočkih, programski opremi, strojni opremi, tehnoloških trendih in še več. Moj cilj je, da vam pomagam krmariti po digitalnem svetu na preprost in zabaven način.