Meta toob turule Llama 4: nüüd saadaval AWS-is koos suure eduga multimodaalses AI-s

Viimane uuendus: 07/04/2025
Autor: Isaac
  • Meta on turule toonud oma uue põlvkonna mudelid IA, Llama 4, koostöös Amazon Web Servicesiga.
  • Llama 4 Scout ja Maverick on multimodaalsed mudelid, mis on võimelised teksti ja pilte samaaegselt töötlema.
  • Selle ekspertide segu arhitektuur võimaldab suuremat arvutuslikku efektiivsust ja optimeeritud jõudlust.
  • Need on saadaval SageMaker JumpStartis ja varsti ka Amazon Bedrockis.

Llama 4 tehisintellekti mudel AWS-is

Meta on astunud olulise sammu oma tehisintellekti laiendamisstrateegias, ametlikult turule tulles Llama 4, mis on ettevõtte uue põlvkonna suuremahuline keelemudel (LLM), mis on nüüd saadaval Amazon Web Services'is (AWS).

Need mudelid, mille hulgast paistavad silma Scout ja Maverick, on loodud mitte ainult tekstitöötluse parandamiseks, vaid ka multimodaalsete võimaluste lisamiseks, st teksti ja piltide samaaegseks töötlemiseks kõrge efektiivsusega.

Scouti ja Mavericki mudelid: disain ja eesmärk

Llama 4 Scout ja Maverick, seeria kaks esimest mudelit, on juba integreeritud AWS-i, kasutades SageMaker JumpStart, võimaldades arendajatel ja organisatsioonidel alustada oma lahenduste testimist või integreerimist otse sellelt platvormilt.

Scouti iseloomustab võime säilitada kuni 10 miljoni tokeni kontekstiakent , mis on avalikult kättesaadavate mudelite puhul enneolematu. See teeb sellest ideaalse valiku suurte infomahtude, näiteks ulatuslike dokumentide või koodifailide analüüsimiseks. Kui vajate lisateavet suurte andmemahtude käsitlemise kohta, saate tutvuda meie Windowsi tõrkeotsingu juhendiga.

Maverick seevastu pakub suurepärast jõudlust loogilise mõtlemise, programmeerimise ja teksti mõistmise ülesannetes . Kuigi sellel on kokku 400 miljardit parameetrit, aktiveerib see tänu oma tõhusale arhitektuurile, mida tuntakse kui „ekspertide segu“ (MoE), ülesande kohta ainult 17 miljardit.

Mõlemal mudelil on üks oluline eristav omadus: nad on loomupäraselt multimodaalsed . See tähendab, et nad suudavad mõista ja genereerida vastuseid, mis ühendavad sidusalt teksti ja pilte, mis on eriti kasulik funktsioon sellistes kontekstides nagu visuaalne analüüs, sisu kirjeldamine või intelligentsed assistendid, mis nõuavad rikkalikumat kontekstilist mõistmist.

  NVIDIA projekti DIGITS: AI revolutsioon teie töölaualt

Ekspertide segu Arhitektuur: tõhusus kui prioriteet

Üks Llama 4 arhitektuuri uuenduslikumaid elemente on spetsialiseerunud ekspertide kasutamine , kus mudeli erinevad osad aktiveeritakse vastavalt täidetava ülesande iseloomule.

See segmenteerimine võimaldab igas järelduses aktiveerida ainult mudeli väikeseid osi , vähendades oluliselt arvutusressursside tarbimist ilma tulemusi kahjustamata. Kui Scoutil on 16 eksperti , siis Maverickil 128. Mõlemal juhul on ekspertide samaaegne kasutamine aga piiratud, mis optimeerib veelgi jõudlust. See struktuur võimaldab mudelit juurutada ka tagasihoidlikumatel arhitektuuridel, näiteks ühel NVIDIA H100 GPU-l.

Tänu sellele tõhususele on Llama 4 elujõuline valik mitte ainult suurettevõtetele, millel on arenenud infrastruktuur, vaid ka piiratumate ressurssidega arendajatele, kes soovivad oma projektidesse kvaliteetset tehisintellekti lisada.

Saadaval AWS-is: SageMaker ja Amazon Bedrock

Praegu saab Llama 4-d juba kasutada SageMaker JumpStarti kaudu , mis on AWS-i tööriist, mis on loodud treenitud mudelite testimise ja juurutamise hõlbustamiseks ilma vajaduseta nullist keerulisi keskkondi arendada.

Lisaks on teatatud, et lähikuudel on Llama 4 saadaval serverita mudelina Amazon Bedrockis , mis võimaldab nõudmisel kasutamist ilma serverite käsitsi haldamise või skaleerimise vajaduseta.

Amazon Bedrock on positsioneerinud end ideaalse alternatiivina generatiivse tehisintellekti integreerimiseks rakendustesse, ilma et peaks muretsema alusinfrastruktuuri pärast . Selle lisandusega tugevdavad Meta ja AWS oma koostööd, et pakkuda täiustatud lahendusi rohkematele kasutajatele paindlikul ja turvalisel viisil.

Integratsioon, võimalused ja piirangud

Lisaks AWS-is olemisele saab Llama 4 malle alla laadida ka platvormidelt nagu Hugging Face või ametlikult Meta veebisaidilt , mis võimaldab arendajatel neid oma infrastruktuuridele kohandada.

Ligipääsetavamates kohandustes, näiteks WhatsAppi , Instagrami või Messengeri integreeritud Meta tehisintellekti assistendis , toimivad Scout ja Maverick juba lõppkasutajakeskse rakendusega. Mõnes piirkonnas, näiteks Euroopa Liidus, piiravad teatud regulatiivsed piirangud nende täielikku kasutuselevõttu.

  Google DolphinGemma: tehisintellekti mudel, mis püüab dešifreerida delfiinide suhtlust

Sõltuvalt keskkonnast pakuvad mudelid erinevat tüüpi riistvara jaoks kvantiseeritud ja optimeeritud versioone . See hõlbustab nende jõudlust nii suure jõudlusega andmekeskustes kui ka tavapärasemates seadmetes. Lisateavet riistvara optimeerimise kohta leiate meie artiklist RJ45 kaablitüüpide kohta.

Turvalisuse osas sisaldab Llama 4 selliseid tööriistu nagu Prompt Guard ja Llama Guard , mille Meta on välja töötanud sobimatute vastuste vältimiseks ja pahatahtliku kasutamise vastase kaitse tugevdamiseks.

Tulevased arendused: Behemoth ja LlamaCon

Meta on kinnitanud kahe teise arendusjärgus mudeli olemasolu: Llama 4 Reasoning ja Llama 4 Behemoth . Viimast, millel on ligi kaks triljonit parameetrit ja õpetamisarhitektuur, on kasutatud Scouti ja Mavericku koolitamise alusena kodestillatsioonitehnikate abil.

Behemoth on näidanud silmapaistvaid tulemusi sellistes hindamistes nagu GPQA Diamond ja MATH-500 , edestades isegi selliseid edasijõudnumaid mudeleid nagu GPT-4.5 ja Claude Sonnet 3.7.

29. aprillile kavandatud LlamaConi üritus on etapp, kus teatatakse Llama 4 perekonna tegevuskava täiendavatest arengutest, sealhulgas võimalikest uutest versioonidest ja koostöövõimalustest avatud lähtekoodiga ökosüsteemis.

Meta on tugevdanud ka oma avatud lähtekoodi fookust, võimaldades tehnilisel kogukonnal neile mudelitele juurde pääseda, neid testida ja nende arendamisele kaasa aidata koostöös NVIDIA, AMD, AWS, Microsoft Azure ja teiste valdkonna võtmeisikutega.

Selle strateegiaga ei püüa Llama 4 mitte ainult positsioneerida end täiustatud tehnilise lahendusena, vaid ka avatud, paindliku ja turvalise panusena tehisintellekti arendamiseks mitmes kasutuskontekstis.

AWS-i integreerimine, multimodaalsete funktsioonide kaasamine, tõhus arhitektuur ja kasvava kogukonna toetus, Llama 4 on kujunemas praeguse tehisintellekti maastikul üheks kõige täiuslikumaks ja juurdepääsetavamaks ettepanekuks. Meta ja Amazoni koostöö tähistab verstaposti, mis lubab lihtsustada juurdepääsu täiustatud mudelitele, ilma et oleks vaja keerukat infrastruktuuri või ebaproportsionaalseid investeeringuid.

  Meta AI on Hispaanias WhatsAppi integreeritud: siin on see, mida peate teadma
Isaac

Isaac

Kirglik kirjanik baitide maailmast ja üldse tehnoloogiast. Mulle meeldib jagada oma teadmisi kirjutamise kaudu ja just seda ma selles ajaveebis teengi, näitan teile kõike kõige huvitavamat vidinate, tarkvara, riistvara, tehnoloogiliste suundumuste ja muu kohta. Minu eesmärk on aidata teil digimaailmas lihtsal ja meelelahutuslikul viisil navigeerida.