Cara Mengakses NPU dalam Copilot+ PC: Panduan Lengkap untuk Memanfaatkan AI sepenuhnya

Jika anda tertanya-tanya bagaimana untuk memanfaatkan sepenuhnya NPU PC Copilot+ anda , anda telah datang ke tempat yang betul. Dalam panduan ini, saya akan menerangkan secara terperinci, dalam bahasa Sepanyol (Sepanyol), apa yang anda perlukan untuk memanfaatkannya, cara mengaksesnya daripada Windows 11 dan aplikasi anda , API yang hendak digunakan, format model yang serasi dan cara mengukur prestasi bagi memastikan pecutan AI berfungsi sebagaimana mestinya.

Di luar aspek teknikal, anda akan melihat pengalaman dunia sebenar yang didayakan oleh Copilot+ (produktiviti, hayat bateri, privasi), bagaimana NPU sesuai dengan CPU dan GPU, dan apa yang berlaku jika peranti anda tidak mencapai 40 TOPS yang diperlukan oleh Microsoft untuk pengalaman Copilot+ penuh. Pendek kata, anda akan mendapat gambaran keseluruhan praktikal tentang keseluruhan ekosistem tanpa terperangkap dalam jargon teknikal yang tidak perlu.

Apakah itu PC Copilot+ dan mengapa NPU mengubah peraturan?

Copilot+ PC mentakrifkan kelas baharu komputer riba dan desktop Windows 11 yang direka bentuk berdasarkan unit pemprosesan saraf (NPU) berprestasi tinggi. NPU ini dikhususkan untuk beban kerja pembelajaran mendalam—terjemahan masa nyata, penjanaan/penyuntingan imej, kesan video AI—dan mampu melebihi 40 TOPS (trilion operasi sesaat), membolehkan pelaksanaan model secara tempatan dengan kependaman rendah dan penggunaan kuasa yang minimum.

Kuncinya ialah NPU berfungsi seiring dengan CPU dan GPU . Windows 11 menugaskan setiap tugas kepada sumber yang paling sesuai untuk mengimbangi kelajuan dan kecekapan: CPU untuk logik umum, GPU untuk grafik/ML selari dan NPU untuk inferens AI yang berterusan dengan prestasi terbaik setiap watt. Taburan inilah yang membolehkan fungsi AI lancar tanpa menghabiskan bateri anda pada pertengahan pagi.

Dalam ekosistem Copilot+, Microsoft menyediakan pengalaman dan API Windows AI asli yang digabungkan dalam Windows AI Foundry, dengan sokongan untuk model yang dioptimumkan yang berjalan pada NPU. Keupayaan ini sedang disepadukan secara progresif ke dalam versi moden Windows 11 dan SDK aplikasi Windows, sekali gus mengurangkan gesekan untuk pembangun dan pengguna akhir.

Apakah perbezaannya berbanding PC tradisional? Walaupun GPU yang berkuasa boleh mempercepatkan AI, NPU ditala dengan teliti untuk mengendalikan beban inferens yang berpanjangan secara senyap dan cekap, menghasilkan hayat bateri yang lebih baik dan responsif yang konsisten dalam tugasan latar belakang ( sari kata langsung , kabur pintar, penindasan hingar, dsb.).

Keperluan dan Keserasian Peranti

Pengalaman penuh Copilot+ memerlukan peranti yang serasi . Microsoft telah menetapkan penanda aras sebanyak 40 TOPS kapasiti NPU untuk memastikan prestasi dan kecekapan yang lancar. Penanda aras ini telah dicapai oleh peranti dengan generasi terkini Arm SoC dan sedang ditambah secara progresif pada platform Intel dan AMD dalam Windows 11.

Jika anda bekerja dalam persekitaran profesional, terdapat varian Copilot+ gred perusahaan (contohnya, peranti Surface berorientasikan IT) dengan keselamatan peringkat perusahaan dan faedah pengkomputeran tempatan AI yang sama. Terlepas dari pengeluarnya, perkara penting ialah peranti anda menyertakan NPU berprestasi tinggi dan firmware/pemacu terkini supaya Windows boleh mengaktifkan laluan pecutan yang betul.

Bagaimana jika PC anda tidak mencapai 40 TOPS? Anda masih boleh menggunakan ciri AI, tetapi bukan semua yang disertakan dalam pakej Copilot+ . Windows boleh menggunakan GPU atau CPU sebagai alternatif, walaupun ini akan mengakibatkan penggunaan sumber yang lebih tinggi dan latensi yang lebih lama. Dalam erti kata lain, anda masih akan mempunyai AI, tetapi bukan pengalaman komprehensif yang dioptimumkan yang membezakan Copilot+.

Snapdragon X Elite dan platform lain: bagaimana beban kerja dibahagikan

SoC Snapdragon X Elite keluaran Qualcomm, berdasarkan seni bina Arm , merangkumi falsafah ini: ia mengintegrasikan NPU terkemuka dalam kelasnya yang mampu memproses sejumlah besar data secara selari dengan kecekapan tenaga yang jauh lebih tinggi daripada CPU/GPU untuk AI. Dalam praktiknya, ini diterjemahkan kepada hayat bateri yang lebih lama dan kurang haba semasa beban kerja AI setiap hari.

Windows 11 mengurus pengaturan antara CPU, GPU dan NPU . Apabila anda membuka aplikasi dengan ciri AI, sistem akan memutuskan sama ada untuk menghantar operasi ke NPU (pilihan), GPU atau CPU, bertukar berdasarkan ketersediaan dan kestabilan penyedia pelaksanaan. Ini berlaku dengan lancar; anda hanya perlu perasan bahawa semuanya berjalan lancar dan bateri anda tahan lebih lama.

Di aspek lain, Intel dan AMD juga sedang membuat kemajuan dengan NPU bersepadu dan penyedia pelaksanaan yang serasi (OpenVINO dalam Intel, EP khusus dalam AMD) yang boleh didayakan oleh Windows melalui Windows ML. Matlamat bersama adalah untuk menawarkan pecutan asli dan mengekalkan keserasian dengan perkakasan dan pemacu sebelumnya apabila mungkin.

Ciri AI eksklusif dalam Copilot+ dan API yang tersedia

PC Copilot+ merangkumi pengalaman AI yang terbina dalam Windows 11 dan boleh diakses melalui Windows AI Foundry/Windows Runtime API untuk model NPU yang dioptimumkan. Ini merangkumi segala-galanya daripada kesan panggilan video (pembingkaian, pengaburan, pembatalan hingar) kepada keupayaan ringkasan, terjemahan dan penjanaan setempat, semuanya direka bentuk untuk berjalan secara bebas daripada awan.

Bagi pembangun, kaedah inferens yang diutamakan ialah Windows Machine Learning (Windows ML) . Microsoft sedang memindahkan akses yang disyorkan daripada DirectML kepada Windows ML untuk memudahkan penggunaan, mengurus penyedia pelaksanaan (EP) secara automatik dan mengekalkan ONNX Runtime sebagai enjin inferens asas tanpa memerlukan anda bergelut dengan binari dan kebergantungan.

Akses kepada NPU pada Copilot+ PC untuk pengguna dan pembangun

Sebagai pengguna, anda boleh menyemak penggunaan NPU anda secara masa nyata daripada Pengurus Tugas . Buka tab Prestasi dan anda akan melihat graf NPU di samping CPU, GPU, memori, cakera dan rangkaian. Aktifkan, sebagai contoh, kesan studio kamera web dan anda akan memerhatikan aktiviti NPU yang diskret dan berterusan, sesuai untuk panggilan video tanpa menghabiskan bateri.

Sebagai pembangun, NPU ialah sumber perkakasan yang mesti anda sasarkan menggunakan API yang sesuai. NPU direka bentuk untuk operasi rangkaian saraf moden (konvolusi, pengaktifan, perhatian, dll.), dan aksesnya pada Windows kini disalurkan melalui Windows ML dengan ONNX Runtime di bawahnya, memastikan laluan pecutan terbaik yang tersedia pada setiap mesin.

Akses Terprogram dengan Windows ML: EP, ORT dan Fallback

Windows ML memperkenalkan penemuan dan penghantaran penyedia pelaksanaan (EP) terbina dalam . Tidak perlu lagi membungkus QNNExecutionProvider Qualcomm, OpenVINO EP Intel atau yang lain secara manual: Windows menyertakannya atau menyediakannya melalui Kemas Kini Windows , mengurangkan saiz aplikasi dan isu kebergantungan.

Di bawahnya, ONNX Runtime (ORT) kekal sebagai enjin inferens sumber terbuka yang menjalankan model ONNX anda. Windows ML mengabstrakkan kerumitan: ia menyemak perkakasan yang tersedia, memilih EP yang ideal (QNN jika NPU Qualcomm tersedia; OpenVINO jika berkenaan; GPU/CPU sebagai sandaran), memuat turun/memuatkan pembekal dan melancarkan inferens. Jika EP pilihan gagal atau tidak tersedia, ia secara automatik akan kembali ke laluan lain tanpa merosakkan aplikasi anda.

Kolaborasi ini disokong oleh kerjasama langsung Microsoft dengan pengeluar (Qualcomm, Intel, AMD, dll.) untuk memastikan keserasian pemacu ke belakang dan sokongan untuk silikon baharu (cth., Snapdragon X Elite, Intel Core Ultra ), yang membolehkan anda memberi tumpuan kepada pengalaman dan bukannya integrasi peringkat rendah.

Model yang serasi, kuantisasi dan penyepaduan dengan Olive

Banyak model dilatih pada ketepatan tinggi seperti FP32 , tetapi kebanyakan NPU berfungsi paling baik dengan integer yang lebih kecil, biasanya INT8. Oleh itu, model sering ditukar atau dikuantisasi untuk pelaksanaan pada NPU, mendarabkan prestasi dan kecekapan tanpa mengorbankan terlalu banyak kualiti.

Jika anda tidak menggunakan model pra-optimum, anda boleh membawa model anda sendiri (BYOM) dan menjalankannya melalui rantaian alat Olive, yang memampatkan, mengoptimumkan dan mengkompil untuk Masa Larian ONNX dengan pecutan NPU. Olive memudahkan langkah-langkah yang sebelum ini memerlukan skrip dan tweak setiap EP dan mempercepatkan masa untuk pengeluaran dengan penalaan prestasi automatik.

Cara mengukur prestasi model NPU dan AI

Untuk mengesahkan bahawa integrasi anda berjalan lancar, anda memerlukan metrik dan jejak . Windows menawarkan satu set alat berkuasa yang merekodkan aktiviti NPU, mengukur masa inferens dan memecahkan kesesakan mengikut pengendali, sesi atau penyedia pelaksanaan.

Antara keupayaan utama, anda akan dapat merakam jejak sistem semasa penggunaan aplikasi anda, menggambarkan penggunaan NPU dan susunan panggilannya, menghubungkan kerja pada CPU/GPU/NPU, menganalisis masa beban dan permulaan (pemuatan model dan penciptaan sesi ORT), menyemak parameter konfigurasi EP dan memprofilkan operator individu untuk memahami sumbangan mereka kepada jumlah masa.

Tambahan pula, peristiwa Runtime ONNX dalam Windows Performance Analyzer (bermula dengan ORT 1.17, dengan penambahbaikan dalam 1.18.1) membolehkan anda melihat masa pemuatan model, tetapan EP, masa inferens, subkomponen tertentu (seperti QNN) dan profil operator. Ia merupakan gambaran tepat tentang apa yang dilakukan oleh model anda pada setiap lapisan.

Alat yang disyorkan untuk diagnosis dan profil

• Pengurus Tugas: Gambaran keseluruhan pantas dan masa nyata sistem anda (CPU, memori, cakera, rangkaian, GPU dan kini NPU), dengan peratusan penggunaan, memori dikongsi, versi pemacu dan banyak lagi. Ideal untuk mengesahkan bahawa fungsi anda benar-benar menghidupkan NPU.
• Perakam Prestasi Windows (WPR): Kini termasuk profil 'Pemprosesan Neural' yang merekodkan interaksi Model Pemacu Pengiraan Microsoft (MCDM) dengan NPU. Ini membolehkan anda mengenal pasti proses yang menggunakan NPU dan panggilan yang menghantar kerja. Ini berguna untuk mengasingkan regresi atau pengesahan EP.
• Penganalisis Prestasi Windows (WPA): Mengubah surih ETW kepada graf dan carta selang masa untuk menganalisis CPU, cakera, rangkaian, peristiwa ORT dan carta khusus NPU, semuanya pada skala masa yang sama. Ia adalah alat utama untuk mengaitkan fasa (pra-ambil/pasca ambil) dan melihat gambaran besar prestasi.
• GPUView: Membaca kernel dan acara video daripada fail .etl dan mempersembahkannya secara visual. Menyokong operasi GPU dan NPU dan visualisasi peristiwa DirectX untuk peranti MCDM seperti NPU. Sangat berguna jika saluran paip anda mencampurkan grafik dan ML.
• Qualcomm Snapdragon Profiler (qprof): Penyelesaian pemprofilan seluruh sistem yang memperincikan sub-HW (lebar jalur, pembilang) NPU serta CPU/GPU/DSP. Jika anda menggunakan Snapdragon X Elite, ia menawarkan isyarat penting untuk penalaan halus.

Prestasi TOPS: Maksudnya dan cara mengetahui prestasi pasukan anda

TOPS (trilion operasi sesaat) mengukur berapa banyak operasi yang boleh dilakukan oleh pemproses setiap unit masa dalam format berangka tertentu. Microsoft menggunakan 40 TOPS sebagai penanda aras untuk pensijilan Copilot+, memberikan anda idea tentang jenis model dan kesan yang boleh anda jalankan dengan lancar secara setempat.

Untuk mengetahui keupayaan NPU anda, kenal pasti pemproses komputer anda terlebih dahulu dalam 'Tetapan > Sistem > Perihal'. Kemudian, cari penarafan TOPS rasmi di laman web pengeluar. Untuk perbandingan yang lebih teknikal, alat seperti Procyon AI Benchmark membolehkan anda mengukur dan membandingkan NPU anda dengan NPU lain, walaupun alat ini lebih ditujukan kepada golongan profesional.

Gunakan Pengurus Tugas untuk melihat NPU dalam tindakan

Selain metrik prestasi tertinggi secara teori, gambarkan penggunaan NPU sebenar dengan Pengurus Tugas: buka 'Prestasi' dan pergi ke bahagian 'NPU'. Anda akan melihat graf aktiviti dan metrik yang berkaitan. Dayakan ciri seperti kesan studio kamera web untuk mengesahkan bahawa aliran kerja anda terutamanya pada NPU dan bukan CPU/GPU.

Untuk diagnosis yang mendalam, gabungkan WPR/WPA dengan profil yang sesuai . Aliran kerja yang biasa ialah: muat turun profil 'ort.wprp' dan 'etw_provider.wprp', mulakan tangkapan bersama profil 'NeuralProcessing' dan CPU, mainkan semula kes, hentikan tangkapan dan buka fail .etl dalam WPA.

Sebagai contoh, dari konsol anda boleh jalankan: wpr -start ort.wprp -start etw_provider.wprp -start NeuralProcessing -start CPU, mainkan senario anda dan selesaikan dengan wpr -stop onnx_NPU.etl -compress. Kemudian buka fail dalam WPA dan semak 'Pemprosesan Neural: Penggunaan NPU' dan 'Peristiwa Generik untuk ONNX' kepada aktiviti rujukan silang, pemasaan dan urutan.

Copilot+ dalam kehidupan seharian: produktiviti, hayat bateri dan privasi

Dalam penggunaan seharian, Copilot+ bertindak sebagai pembantu peribadi yang disepadukan ke dalam Windows: ia mendraf e-mel dan dokumen, meringkaskan teks panjang, melaraskan tetapan, mencari fail dan mengautomasikan tugas menggunakan bahasa semula jadi. Kekunci Copilot pada sesetengah komputer (seperti ASUS) menyediakan akses segera tanpa perlu membuka menu.

NPU juga mempertingkatkan pengalaman multimedia dan kolaborasi : pengaburan dan pemfokusan semula latar belakang masa nyata, sari kata automatik, penindasan hingar pintar dan penambahbaikan video yang sebelum ini memerlukan perisian intensif sumber. Semua ini berlaku secara setempat, lancar dan senyap, hasil daripada kerja penyingkiran NPU daripada CPU/GPU.

Satu lagi kelebihan yang jelas ialah hayat bateri: pengurusan kuasa pintar dan NPU memaksimumkan penggunaan bateri . Model seperti ASUS Zenbook A14 telah menunjukkan angka penggunaan lanjutan yang membolehkan anda bekerja sepanjang hari dengan AI berjalan di latar belakang tanpa perlu sentiasa memasangnya. Sistem tahu bila hendak mematikan dan bila hendak menangguhkannya.

Dari segi privasi dan keselamatan, menjalankan AI pada peranti mengurangkan pergantungan pada awan . Ciri-ciri seperti pengecaman suara atau analisis dokumen peribadi boleh kekal pada PC anda. Peranti seperti ASUS Vivobook menambah pengatup kamera web fizikal dan log masuk cap jari untuk perlindungan yang dipertingkatkan.

Keserasian, khabar angin dan kes Intel/AMD/Qualcomm

Sebahagian daripada perbincangan semasa berkisar tentang keperluan 40 TOPS untuk Copilot+ . Khabar angin telah timbul bahawa sesetengah CPU desktop (contohnya, Intel Core Ultra 'Arrow Lake-S Refresh' yang akan datang) akan mengekalkan NPU sekitar 13 TOPS, yang akan menghalang mereka daripada memenuhi label Copilot+ tanpa bantuan luaran.

Itu tidak bermakna anda 'tidak boleh menggunakan AI': desktop dengan GPU khusus boleh mengimbangi kekurangan kuasa dan menjalankan beban kerja AI yang berat, dengan mudah melebihi 300 TOPS dalam INT8 dengan kad seperti RTX 4070. Perbezaannya ialah Copilot+ mengutamakan kecekapan NPU yang berterusan untuk pengalaman sentiasa hidup dan berkuasa rendah.

Qualcomm , bagi pihaknya, sudah menawarkan NPU yang sejajar dengan platform Copilot+ on Arm seperti Snapdragon X Elite, dan Microsoft sedang bekerjasama dengan Intel dan AMD untuk memastikan Windows ML dan EP (OpenVINO, dll.) berfungsi secara stabil dengan perkakasan semasa dan akan datang. Ekosistem ini sedang kembali normal dengan pantas.

Sumber yang berguna dan tempat untuk mengetahui lebih lanjut

Jika anda mahukan pengenalan yang jelas kepada konsep utama seperti CPU, GPU, NPU dan TOPS , produktiviti dengan Copilot+, prestasi dan keselamatan, kami mengesyorkan anda menyemak bahan latihan dan helaian data pengeluar. Contohnya, anda boleh merujuk visual ini daripada AMD: Muat Turun PDF.

Bagi pembangun, selami Windows ML dan ONNX Runtime untuk menjalankan model secara tempatan, memanfaatkan NPU. Jika anda membawa model anda sendiri, gunakan rantaian Olive untuk pengkuantuman dan pengoptimuman. Dan jangan lupa instrumentasi: WPR/WPA, GPUView dan peristiwa ORT (dari versi 1.17 dan seterusnya) adalah sekutu anda untuk beralih daripada 'berfungsi' kepada 'terbang'.

Jika anda menggunakan pratonton Copilot pada PC lama (seperti Skylake), ya, NPU boleh digunakan sebagai pemecut seperti GPU, tetapi ia lebih baik di bawah beban yang berterusan . Copilot+ menambah lapisan kecekapan dan kesinambungan yang disediakan oleh NPU dan mengembangkan pengalaman setempat; pada mesin tanpa NPU (40 TOPS), Windows akan cuba mengendalikan beban menggunakan CPU/GPU, walaupun hayat bateri dan latensi tidak akan sama.

Jika anda melabur dalam komputer baharu, lihat melangkaui CPU/GPU dan beri perhatian kepada NPU dan petunjuk prestasi terbaiknya (TOP ). Jika anda sudah mempunyai Copilot+ PC, dayakan ciri AI, pantau NPU dalam Pengurus Tugas dan jika anda seorang pembangun, berhijrah ke Windows ML dengan ORT untuk memastikan sistem memilih laluan terbaik (QNN/OpenVINO) dan anda mempunyai profil yang boleh dipercayai dalam WPR/WPA.