Microsoft je najavio nove moćne i visoko skalabilne virtuelne mašine koje integrišu najnovije NVIDIA H100 Tensor Core GPU i NVIDIA Quantum-2 InfiniBand umrežavanje.
Microsoft je na to potrošio stotine miliona dolara izgradnja masivni superkompjuter koji pomaže pokretanju OpenAI ChatGPT chat bota, U izvještaju, Microsoft objašnjava kako je izgradio moćnu Azure AI infrastrukturu koju koristi OpenAI i kako njegovi sistemi postaju još robusniji.
Za izgradnju superkompjutera koji pokreće OpenAI projekte, Microsoft tvrdi da je povezao hiljade grafičke procesorske jedinice (GPU) NVIDIA na svoju Azure cloud computing platformu. Ovo je zauzvrat omogućilo OpenAI-ju da trenira sve moćnije modele i "otključa AI mogućnosti" alata kao što su ChatGPT i Bing.
Scott Guthrie potpredsjednik za umjetnu inteligenciju i oblak u Microsoftu, rekao je da je kompanija potrošila nekoliko stotina miliona dolara na projekat, navodi se u saopštenju. I dok to može izgledati kao kap u čaši za Microsoft, koji je nedavno proširio svoje više milijardi dolara vrijednu višegodišnju investiciju u OpenAI, svakako pokazuje da je spreman uložiti još više novca u AI prostor.
Kada je Microsoft investirao 1 milijardi dolara na OpenAI-u 2019. godine, dogovorili su se za izgradnju masivnog superkompjutera i najmodernije za početak istraživanja umjetne inteligencije. Jedini problem: Microsoft nije imao ništa što je OpenAI trebalo i nije bio sasvim siguran da može napraviti nešto tako veliko na svom Azure cloud servisu, a da to ne pokvari.
OpenAI je pokušavao da obuči sve veći skup programa umjetne inteligencije zvanih modeli, koji su unosili sve veće količine podataka i naučili sve više i više parametara, varijabli koje je AI sistem otkrio kroz obuku i preobuku. To je značilo da je OpenAI-ju bio potreban pristup moćnim uslugama računalstva u oblaku na duži vremenski period.
Da biste odgovorili na ovaj izazov, Microsoft je morao pronaći načine da poveže desetine hiljada grafičkih čipova NVIDIA A100 i promijenite način postavljanja servera kako biste izbjegli nestanke struje.
„Izgradili smo arhitekturu sistema koja bi mogla da radi i da bude pouzdana u velikim razmerama. To je ono što je omogućilo ChatGPT“, rekao je Nidhi Chappell, Microsoftov generalni menadžer za Azure AI infrastrukturu. “To je obrazac koji je došao odatle. Biće ih mnogo, mnogo više."
Tehnologija je omogućila OpenAI-u da pokrene ChatGPT, virusni chatbot koji je privukao više od milion korisnika u roku od nekoliko dana nakon svoje novembarske IPO-e i sada se apsorbira u poslovne modele drugih kompanija, od onih koje vodi milijarder osnivač hedž fonda Ken Griffin na vrijeme isporuke.
Kako generativni AI alati kao što je ChatGPT zainteresuju kompanije i potrošače, biće povećan pritisak na pružatelje usluga u oblaku kao što su Microsoft, Amazon i Google da osiguraju da njihovi centri podataka mogu pružiti ogromnu potrebnu računarsku snagu.
Sada Microsoft koristi isti skup resursa koje je izgradio za OpenAI za obuku i pokretanje vlastitih sjajnih AI modela, uključujući novog Bing bota za pretraživanje predstavljen prošlog mjeseca. Kompanija takođe prodaje sistem drugim kupcima. Softverski gigant već radi na sljedećoj generaciji AI superkompjutera, kao dio proširenog ugovora s OpenAI-om u kojem je Microsoft dodao 10 milijardi dolara svojoj investiciji.
„Ne gradimo ih po običaju; počelo je kao nešto prilagođeno, ali smo ga uvijek gradili na način da je bio generaliziran tako da svako ko želi da obuči veliki jezički model može iskoristiti ista poboljšanja.” rekao je Guthrie u intervjuu. "To nam je zaista pomoglo da postanemo bolji oblak za AI sveukupno."
Obuka masivnog AI modela zahtijeva veliki broj grafičkih procesorskih jedinica povezanih na jednom mjestu, poput AI superkompjutera koji je sastavio Microsoft. Jednom kada je model u upotrebi, odgovaranje na sva pitanja koja postavljaju korisnici (koja se naziva zaključivanjem) zahtijeva malo drugačiju postavku. Microsoft takođe koristi grafičke čipove radi zaključivanja, ali ti procesori (stotine hiljada) su geografski raspoređeni po 60-ak regiona centara podataka kompanije. Sada kompanija dodaje najnoviji NVIDIA grafički čip za AI radna opterećenja (H100) i najnoviju verziju NVIDIA Infiniband mrežne tehnologije za još brže dijeljenje podataka.
Microsoftova odluka o partnerstvu sa OpenAI je zasnovan na uvjerenju da će ova neviđena infrastruktura dati rezultate (nove mogućnosti umjetne inteligencije, nova vrsta programske platforme) koje bi Microsoft mogao pretvoriti u proizvode i usluge koje bi korisnicima pružile stvarne prednosti, rekao je Waymouth. Ovo uvjerenje je podstaklo ambiciju kompanija da prevaziđu sve tehničke izazove kako bi ga izgradile i nastavile da pomjeraju granice superračunarstva s umjetnom inteligencijom.
Izvor: https://news.microsoft.com/
Pitam se kada ovo postane stvarnost kolika će biti nezaposlenost u svijetu, ubijamo se