Red Hat preuzima Neural Magic za pokretanje generativne AI u hibridnom oblaku

Posljednje ažuriranje: 16/11/2024
Autor: Isaac
  • Red Hat preuzima Neural Magic, specijalizovanu za optimizaciju kompjuterskih modela Generativni AI.
  • Startup je nastao iz MIT-a 2018.
  • Red Hat nastoji da demokratizuje IA generativno kroz open source i hibridna rješenja.
  • Neural Magicov vLLM projekat će poboljšati sposobnosti zaključivanja Red Hat AI.
crveni šešir kupovina neuronske magije-4

Red Hat (u vlasništvu IBM-a) je napravio veliku akviziciju u svojoj sve većoj posvećenosti dominaciji veštačka inteligencija Generativno (AI). Multinacionalna kompanija, poznata po fokusu na rješenja otvorenog koda, najavila je kupovinu Neuralna magija, startup specijaliziran za optimizaciju i ubrzanje generativnog AI zaključivanja radnih opterećenja. Ovaj strateški potez ključan je za jačanje njegove ponude u razvoju AI fokusirane na hibridni oblak.

Sticanje Neuralna magija, osnovan 2018. godine kao spin-off prestižnog MIT (Masachusetts Institute of Technology), jača poziciju crvena kapa u generativnom sektoru umjetne inteligencije, polju koje je eksponencijalno poraslo posljednjih godina. Neuralna magija je poznata po svojoj sposobnosti razvoja algoritmi optimizacije i softver koji poboljšava performanse zaključivanja velikih jezičkih modela (LLM). Ovaj napredak omogućava kompanijama da obrađuju velike količine podataka efikasnije i uz manju potrošnju resursa.

Neuralna magija: pionir u generativnoj optimizaciji AI

Od svog početka, Neural Magic je razvio rješenja koja ubrzavaju radna opterećenja zaključivanja, što je ključni aspekt za implementaciju AI u hibridni oblak. Kompanija se istakla po svojoj sposobnosti da prilagodi generativne AI tehnologije open source, vizija koja je savršeno usklađena sa strategijom Red Hata.

Red Hat-ova kupovina Neural Magic-a omogućit će ovoj potonjoj da proširi svoje mogućnosti u hibridnom oblaku, infrastrukturi koja kombinuje najbolje od javnog i privatnog oblaka, nudeći fleksibilnost kompanijama tako da mogu optimizirati svoje operacije na osnovu vaših specifičnih potreba.

  TurboQuant: Googleova umjetna inteligencija koja obećava iste performanse s mnogo manje memorije

Očekuje se da će ovom akvizicijom Red Hat ne samo ojačati svoj portfelj proizvoda već i nastaviti svoju misiju demokratizovati pristup generativnoj veštačkoj inteligenciji. To će se postići integracijom rješenja zasnovanih na open source koji olakšavaju prilagođavanje i prilagođavanje LLM-a u različitim infrastrukturama i poslovnim okruženjima.

Projekt vLLM i otvorena inovacija

Vrhunac operacije je projekat vLLM, koju su razvili istraživači sa Univerziteta Kalifornije u Berkliju. Ova platforma, koja je ključni dio Neural Magic rješenja, posvećena je poboljšanju jezičkih modela optimizacijom procesa zaključivanja. Sa vLLM-om moguće je pokrenuti generativne AI modele na širokom rasponu hardver, uključujući GPU-ove iz AMD, Nvidia, TPUs of Google, i x86 CPU, između ostalih.

Zanimljivost ove akvizicije je to Neuralna magija je implementirao značajna poboljšanja projekta vLLM, što će omogućiti Red Hatu da svojim korisnicima ponudi efikasnija i optimizovana rješenja. Ovo se prevodi u veću mogućnost implementacije AI jezičkih modela i algoritama u hibridnim infrastrukturama, bez obzira na lokaciju podataka.

Nadalje, integracijom ove tehnologije, Red Hat traži smanjiti potrošnju energije i poboljšati efikasnost u primeni AI, ključnog aspekta u globalnom kontekstu koji zahteva održivija rešenja.

Posvećenost otvorenoj i efikasnoj veštačkoj inteligenciji

Ovaj sporazum takođe promoviše viziju Red Hata da ne bude samo standard za open source, ali i lider u otvorenim AI rješenjima. Kao što je istaknuto Matt Hicks, predsjednika i izvršnog direktora Red Hata, radna opterećenja umjetne inteligencije moraju se izvoditi svuda gdje žive podaci o klijentima, a to čini fleksibilne i otvorene platforme uvjerljivom potrebom.

Tehnologija koju je razvio Neural Magic omogućit će Red Hatu da ponudi alate koji olakšavaju odabir najprikladnije infrastrukture za svaku organizaciju, što će pomoći kompanijama da nastave da unapređuju svoje strategije. digitalna transformacija.

  Potpuna integracija tmux-a u Omarchy-ju baziranom na Arch-u

Sa druge strane, Brian Stevens, izvršni direktor Neural Magic-a, ističe da je unija s Red Hatom odlična prilika za nastavak napredovanja u svojoj misiji ponude multiplatformskih i ultra-efikasnih rješenja za zaključivanje. Ova suradnja će također koristiti i velikim kompanijama i startupima na njihovom putu ka transformaciji kroz AI.

Svetla budućnost za hibridni oblak i veštačku inteligenciju

Sa akvizicijom Neuralna magija, Red Hat se pozicionira kao ključni igrač u generativnom AI ekosistemu, nudeći rješenja u rasponu od optimizacije modela do implementacije u hibridnim okruženjima. Preduzeća će moći da imaju koristi od sposobnosti Red Hata da implementira efikasnu, skalabilnu i sigurnu AI, osiguravajući da AI modeli odgovaraju njihovim specifičnim potrebama.

Fokus na hibridni oblak, zajedno s podrškom otvorenih tehnologija, osigurava da organizacije imaju potpunu kontrolu nad svojom infrastrukturom, sigurnosnim politikama i životnim ciklusom modela, posebno važnim u industrijskim i državnim sektorima koji zahtijevaju visok nivo zaštite podataka.

Isto tako, činjenica da Neural Magic doprinosi projektu vLLM pokazuje opredijeljenost obje kompanije da nastave sa inovacijama u polju koje se mijenja kao generativna AI.

Ovom operacijom, Red Hat pokazuje svoju posvećenost da nastavi da bude vodeći u oblasti Generativni AI, nudeći svojim klijentima rješenja koja nisu samo efikasna, već i fleksibilna i prilagodljiva, ostajući vjerni svojoj filozofiji open source i saradnju u zajednici.