- Microsoft memperkenalkan Mu, model bagi IA direka untuk dijalankan secara tempatan pada PC dengan Windows 11 dan Copilot+.
- Mu adalah ringan (330 juta parameter), pantas (lebih 100 token/saat), dan dioptimumkan untuk NPU.
- Membolehkan anda melakukan tindakan dalam Tetapan menggunakan bahasa semula jadi dan tanpa sambungan awan.
- Dilatih dengan data besar dan teknologi penyulingan untuk prestasi tinggi dan kecekapan.
Pada hari-hari terakhir Microsoft telah menimbulkan kekecohan dalam dunia kecerdasan buatan ketika menyampaikan Mu, model bahasa padat baharunya. pendahuluan ini Ia direka untuk berjalan terus pada komputer dengan Windows 11, khususnya yang mempunyai teknologi Copilot+. Objektif pembangunan ini adalah jelas: untuk menawarkan a Prestasi pantas dan cekap daripada peranti itu sendiri, tanpa perlu bergantung pada sambungan awan.
Dengan pengenalan Mu, Microsoft bertaruh pada model AI tempatan dan ringan, mampu melaksanakan tugas secara langsung pada Unit Pemprosesan Neural (NPU) daripada PC tercanggih. Inisiatif ini bertindak balas kepada trend yang semakin meningkat dalam sektor ini, di mana syarikat lain juga berusaha untuk mengurangkan pergantungan mereka pada perkhidmatan awan dan menyediakan peranti mereka dengan autonomi yang lebih besar dan tindak balas segera.
Ciri Utama Mu: AI Tangkas dan Cekap untuk Windows 11
Tarikan hebat dari Mu terletak pada saiznya yang kecil dan pengoptimumannya untuk beroperasi secara tempatan.. Ia mempunyai 330 bilion parameter, membenarkannya memasang sendiri sepenuhnya pada NPU komputer dan bertindak balas dengan kelajuan yang luar biasa (lebih daripada seratus token sesaat)Angka ini mengatasi model terdahulu syarikat, sambil mengekalkan pengalaman pengguna yang lancar dan tanpa menunggu.
Model itu menggunakan seni bina pengekod-penyahkod, yang bermaksud bahawa ia mengubah bahasa semula jadi yang dimasukkan oleh pengguna kepada perwakilan dalaman yang kemudiannya ditukar kepada respons yang diingini. Dengan cara ini, mengurangkan memori dan beban pemprosesan dan anda dapat prestasi yang lebih tinggi dalam perkakasan khusus, sangat berguna untuk tugas harian dengan sumber terhad.
Mu telah dilatih dengan set data pendidikan yang besar dan teknik penyulingan yang diperoleh daripada model lain seperti Phi. Ini membolehkannya memahami pertanyaan yang kompleks, mempelajari tatabahasa dan semantik serta memberikan arahan yang tepat apabila mengubah suai tetapan sistem pengendalian.
Antara inovasi teknologi yang digabungkan ialah:
- Perhatian Pertanyaan Berkumpulan (GQA), yang mengurangkan jejak ingatan tanpa mengorbankan ketepatan;
- Pembenaman Kedudukan Putar (RoPE), untuk tafsiran yang lebih baik bagi jujukan yang panjang;
- Dual LayerNorm, menstabilkan latihan dan meningkatkan kebolehsuaiannya.
Mu sebagai Enjin Ejen Konfigurasi pada Windows
El Penggunaan praktikal utama pertama Mu adalah dalam ejen Tetapan Windows 11.. Pada Copilot+ PC, model ini membenarkan pengguna untuk berinteraksi dalam bahasa semula jadi dengan sistem pengendalian untuk melaraskan pilihan tanpa perlu menavigasi menu secara manual. Dengan cara ini, anda hanya boleh menaip atau menyebut tindakan seperti “pakai mod gelap” o "Tunjukkan saya rangkaian Wi-Fi yang tersedia" agar AI membuat perubahan tersebut dengan segera.
Terima kasih kepada saiznya yang padat dan proses muat turun lengkap di NPU, model boleh membalas permintaan dalam masa kurang daripada setengah saat. Microsoft mendakwa bahawa Kelajuan dan kecekapan Mu adalah setanding dengan model sepuluh kali lebih besar, seperti Phi-3.5, yang mewakili lonjakan ketara dalam penyepaduan AI tempatan untuk pengguna.
Perlu diingat bahawa jurutera melatih Mu dengan berjuta-juta contoh arahan dunia sebenar dan menyesuaikan model untuk menyelesaikan kedua-dua pertanyaan umum dan khusus. Dalam kes permintaan yang tidak jelas, sistem boleh menggunakan kaedah tradisional seperti carian kata kunci.
Latihan Mu, Pengoptimuman dan Ketersediaan
Untuk pembangunan dan latihan Mu, Microsoft telah menggunakan GPU berkuasa dalam awan Azure, menggunakan teknik penyulingan lanjutan dan penyesuaian peringkat rendah untuk memperhalusi model kepada keperluan khusus Ejen Konfigurasi. Penekanan khusus telah diberikan meliputi beratus-ratus tindakan yang mungkin dengan data sintetik dan semula jadi, meningkatkan keupayaan model untuk memahami arahan seperti yang akan diberikan oleh mana-mana pengguna.
Dengan mengagihkan beban antara keupayaan NPU dan kecekapan algoritma Mu, Penggunaan tenaga dan ingatan adalah minimum, menggalakkan autonomi dan prestasi yang lebih baik dalam komputer komputer riba, sesuatu kunci untuk Copilot+ pengguna PC.
Pada masa ini, Mu tersedia kepada pengguna yang merupakan sebahagian daripada Program Windows Insider, walaupun Microsoft dijangka mengembangkan akses kepada khalayak lain kerana ia terus memperhalusi model dan menerima maklum balas tentang penggunaan sebenar.
Pelancaran Mu mewakili satu langkah penting ke hadapan dalam strategi Microsoft untuk melengkapkan sistemnya dengan AI tempatan, dioptimumkan untuk perkakasan khusus dan direka bentuk untuk tugas harian. Penyepaduan dengan ejen Konfigurasi mungkin hanya permulaan generasi baharu pembantu yang mampu memahami dan melaksanakan arahan terus dari komputer itu sendiri, tanpa bergantung pada pelayan jauh. Ini meletakkan Microsoft dalam kedudukan yang menonjol dalam perlumbaan untuk evolusi kecerdasan buatan seterusnya yang digunakan untuk pengkomputeran peribadi.
Penulis yang bersemangat tentang dunia bait dan teknologi secara umum. Saya suka berkongsi pengetahuan saya melalui penulisan, dan itulah yang akan saya lakukan dalam blog ini, menunjukkan kepada anda semua perkara yang paling menarik tentang alat, perisian, perkakasan, trend teknologi dan banyak lagi. Matlamat saya adalah untuk membantu anda mengemudi dunia digital dengan cara yang mudah dan menghiburkan.