Nvidia
Având în vedere că AI și învățarea automată sunt o parte din ce în ce mai indispensabilă a calculelor moderne, fundamentele de afaceri ale Nvidia rămân puternice. Ei și-au condus efortul de a fi o forță proeminentă în afacerea serverelor, creând parteneriate cu mai multe companii de tehnologie. Recent, Nvidia și VMware au anunțat o legătură, care va aduce vGPU (tehnologia GPU virtuală) Nvidia în stiva vSphere VMware de pe AWS.
GPU-urile sunt proiectate având în vedere calculul paralel cu datele, care accelerează operațiile vectoriale și matrice. Acest lucru le face ideale pentru încărcările de muncă ale AI.
Anterior limitate doar la procesor, încărcările de lucru AI pot fi acum ușor implementate pe medii virtualizate precum VMware vSphere cu noi vComputeServer software și NVIDIA NGC . Prin intermediul nostru parteneriat cu VMware , această arhitectură va ajuta organizațiile să migreze perfect sarcinile de lucru AI pe GPU-uri între centrele de date ale clienților și VMware Cloud pe AWS.
- ANNE HECHT (Nvidia)
Încărcările de lucru accelerate de GPU sunt adesea rulate pe servere fizice cu un singur chiriaș, dar cu vComputeServer companiile pot rula încărcări de lucru AI într-un mediu virtualizat, aceasta oferă mai multă flexibilitate și economii monetare (până la o anumită scară). Nvidia acceptă deja câțiva hipervizori bazați pe KVM, inclusiv Red Hat și Nutanix. VSphere VMware este cea mai recentă adăugare.
Caracteristicile vComputeServer includ:
- Performanță GPU: Instruire de până la 50 de ori mai rapidă decât învățarea în profunzime decât numai CPU, performanță similară cu rularea GPU pe bare metal
- Calcul avansat: Codul de corectare a erorilor și retragerea dinamică a paginii împiedică corupția datelor pentru încărcări de muncă de înaltă precizie.
- Migrație live: Mașinile virtuale compatibile cu GPU pot fi migrate cu întreruperi sau perioade de nefuncționare minime.
- Securitate sporită: Întreprinderile pot extinde beneficiile de securitate ale virtualizării serverelor la clusterele GPU.
- Izolare multi-chiriași : Încărcările de lucru pot fi izolate pentru a susține în siguranță mai mulți utilizatori pe o singură infrastructură.
- Management și monitorizare : Administratorii pot utiliza aceleași instrumente de virtualizare a hipervizorului pentru a gestiona serverele GPU, cu vizibilitate la nivel de gazdă, mașină virtuală și aplicație.
- Gama largă de GPU-uri acceptate: vComputeServer este acceptat pe GPU-urile NVIDIA T4 sau V100, precum și pe GPU-urile Quadro RTX 8000 și 6000 și pe generațiile anterioare de GPU-uri P40, P100 și P60 cu arhitectură Pascal.
- Nvidia
Utilizatorii VMware vSphere vor primi, de asemenea, suport Nvidia GPU Cloud, care este o platformă cloud accelerată de GPU optimizată pentru învățare profundă și calcul științific. Anne Hecht din Nvidia scrie „ NVIDIA NGC , hub-ul nostru pentru software GPU optimizat pentru învățare profundă, învățare automată și HPC, oferă peste 150 de containere, modele pre-instruite, scripturi de instruire și fluxuri de lucru pentru a accelera AI de la concept la producție, inclusiv PRAGURI , software-ul nostru CUDA accelerat pentru știința datelor ”.
Parteneriatul VMware în linie cu achiziția recentă
VMware va achiziționa Bitfusion, care va aduce multă valoare platformei sale cloud vSphere. Așa cum am discutat mai devreme în articol, virtualizarea poate oferi companiilor o mulțime de avantaje cu un succes minim de performanță. Cu tehnologia Bitfusion, companiile vor putea să se îndepărteze de serverele bare-metal și să-și virtualizeze GPU-urile, întrucât un astfel de aranjament poate duce la o mai bună utilizare a resurselor disponibile. Odată cu prelucrarea accelerată a computerului, companiile vor căuta modalități de virtualizare a stivei lor hardware, VMware este conștient de acest lucru și se mută pentru a face platforma vSphere vitală în centrele de date.
Etichete nvidia
