- Microsoft tutvustab Mu-d, mis on mudel IA loodud töötama lokaalselt arvutites, millel on Windows 11 ja Copilot+.
- Mu on kerge (330 miljonit parameetrit), kiire (üle 100 tokeni sekundis) ja optimeeritud NPU-de jaoks.
- Võimaldab teil seadetes toiminguid teha loomulikus keeles ja ilma pilveühenduseta.
- Koolitatud suurandmete ja destilleerimistehnoloogiatega suure jõudluse ja efektiivsuse saavutamiseks.
Viimastel päevadel on Microsoft tehisintellekti maailmas elevust tekitanud, avalikustades oma uue ja kompaktse keelemudeli Mu. See edasiminek on loodud töötama otse Windows 11 arvutites , eriti nendes, mis on varustatud Copilot+ tehnoloogiaga. Selle arenduse eesmärk on selge: pakkuda kiiret ja tõhusat jõudlust otse seadmest , ilma pilveühenduseta.
Mu kasutuselevõtuga panustab Microsoft kergetele, lokaalsetele tehisintellekti mudelitele, mis suudavad ülesandeid otse kõige arenenumate arvutite närviprotsessoril (NPU) käivitada . See samm peegeldab sektori kasvavat trendi, kus ka teised ettevõtted püüavad vähendada oma sõltuvust pilveteenustest ning varustada oma seadmeid suurema autonoomia ja kiirema reageerimisajaga.
Mu põhifunktsioonid: agiilne ja tõhus tehisintellekt Windows 11 jaoks
Mu peamine eelis seisneb selle väiksuses ja lokaalseks tööks optimeerimises . See uhkeldab 330 miljoni parameetriga , mis võimaldab selle täielikult arvuti NPU-le installida ja reageerida silmapaistva kiirusega (üle saja žetooni sekundis) . See näitaja ületab ettevõtte enda eelmisi mudeleid, säilitades samal ajal sujuva ja viivituseta kasutuskogemuse.
Mudel kasutab kodeerija-dekoodri arhitektuuri , mis tähendab, et see teisendab kasutaja loomuliku keele sisendi sisemiseks esituseks, mis seejärel teisendatakse soovitud vastuseks. See vähendab mälu- ja töötlemiskoormust ning saavutab spetsiaalse riistvara puhul suurema jõudluse , mis on väga kasulik igapäevaste piiratud ressurssidega ülesannete jaoks.
Mu on treenitud tohutu haridusliku andmekogumi ja teistest mudelitest, näiteks Phi-st, tuletatud destilleerimistehnikate abil. See võimaldab tal mõista keerulisi päringuid, õppida grammatikat ja semantikat ning anda operatsioonisüsteemi sätete muutmisel täpseid juhiseid.
Tehnoloogiliste uuenduste hulgas, mida see sisaldab, on:
- Rühmitatud päringu tähelepanu (GQA), mis vähendab mälukasutust täpsust ohverdamata;
- Pöörlevad asendis kinnistused (köis)pikkade järjestuste paremaks tõlgendamiseks;
- Kahekihiline norm, stabiliseerides treeningut ja parandades selle kohanemisvõimet.
Mu kui konfiguratsiooniagendi mootor Windowsis
Mu esimene suurem praktiline rakendus on Windows 11 seadete agendis . Copilot+ arvutites võimaldab see mudel kasutajatel suhelda operatsioonisüsteemiga loomulikus keeles, et muuta valikuid ilma menüüdes käsitsi navigeerimata. Tehisintellektil piisab muudatuste koheseks tegemiseks selliste toimingute nagu „lülita sisse tume režiim” või „näita mulle saadaolevaid WiFi-võrke” tippimisest või ütlemisest.
Tänu kompaktsele suurusele ja täielikult koormatud NPU-protsessile suudab mudel päringutele vastata vähem kui poole sekundiga. Microsoft väidab, et Mu kiirus ja efektiivsus on võrreldavad kümme korda suuremate mudelitega , näiteks Phi-3.5-ga, mis kujutab endast olulist edasiminekut tarbijatele suunatud kohapealse tehisintellekti integreerimisel.
Tasub märkida, et insenerid treenisid Mu'd miljonite reaalsete juhiste näidetega ja kohandasid mudelit nii üldiste kui ka spetsiifiliste päringute lahendamiseks. Ebamääraste päringute korral saab süsteem kasutada traditsioonilisi meetodeid, näiteks märksõnaotsingut.
Mu koolitus, optimeerimine ja kättesaadavus
Mu arendamiseks ja treenimiseks kasutas Microsoft Azure'i pilves võimsaid graafikaprotsessoreid , rakendades täiustatud destilleerimistehnikaid ja madala ulatusega kohandamist, et peenhäälestada mudelit konfiguratsiooniagendi konkreetsetele vajadustele. Erilist rõhku pandi sadade võimalike toimingute hõlmamisele nii sünteetiliste kui ka looduslike andmetega, parandades mudeli võimet mõista juhiseid nii, nagu iga kasutaja neid annaks.
Jaotades koormuse NPU võimete ja Mu algoritmilise efektiivsuse vahel, on energia- ja mälutarve minimaalne , mis parandab sülearvutite aku tööiga ja jõudlust , mis on Copilot+ PC kasutajate jaoks ülioluline.
Praegu on Mu saadaval kasutajatele, kes on osa Windows Insideri programmist , kuigi eeldatakse, et Microsoft laiendab juurdepääsu ka teistele sihtrühmadele, kuna see täiustab mudelit ja saab tagasisidet reaalsest kasutamisest.
Mu turuletoomine on oluline samm edasi Microsofti strateegias varustada oma süsteemid kohaliku tehisintellektiga, mis on optimeeritud konkreetse riistvara jaoks ja loodud igapäevaste ülesannete jaoks. Integratsioon konfiguratsiooniagendiga võib olla alles uue põlvkonna assistentide algus, mis on võimelised mõistma ja täitma käske otse arvutist endast, ilma et oleks vaja toetuda kaugserveritele. See asetab Microsofti silmapaistvale positsioonile personaalarvutites rakendatava tehisintellekti järgmise evolutsiooni võidujooksus.
Kirglik kirjanik baitide maailmast ja üldse tehnoloogiast. Mulle meeldib jagada oma teadmisi kirjutamise kaudu ja just seda ma selles ajaveebis teengi, näitan teile kõike kõige huvitavamat vidinate, tarkvara, riistvara, tehnoloogiliste suundumuste ja muu kohta. Minu eesmärk on aidata teil digimaailmas lihtsal ja meelelahutuslikul viisil navigeerida.