Microsoft je porabil milijone dolarjev za izdelavo superračunalnika, na katerem temelji ChatGPT.

Microsoft je porabil na stotine milijonov dolarjev gradnja ogromen superračunalnik za pomoč pri delovanju klepetalnega robota OpenAI ChatGPT, V poročilu Microsoft pojasnjuje, kako je zgradil zmogljivo infrastrukturo Azure AI, ki jo uporablja OpenAI, in kako njegovi sistemi postajajo še bolj robustni.

Za izgradnjo superračunalnika, ki poganja projekte OpenAI, Microsoft trdi, da je povezal na tisoče grafične procesne enote (GPE) NVIDIA na svojo platformo za računalništvo v oblaku Azure. To pa je omogočilo OpenAI, da uri vse močnejše modele in "odklene zmogljivosti AI" orodij, kot sta ChatGPT in Bing.

Scott Guthrie podpredsednik oddelka za umetno inteligenco in oblak pri Microsoftu, je dejal, da je podjetje za projekt porabilo več sto milijonov dolarjev, po izjavi. In čeprav se to morda zdi kaplja čez rob za Microsoft, ki je pred kratkim razširil več milijard dolarjev vredno večletno naložbo v OpenAI, je zagotovo kaže, da je pripravljen vložiti še več denarja v prostor AI.

Ko je Microsoft investiral 1 milijard dolarjev na OpenAI leta 2019 dogovorili, da bodo zgradili ogromen superračunalnik in najsodobnejše za začetek raziskav umetne inteligence. Edina težava: Microsoft ni imel ničesar, kar bi potreboval OpenAI, in ni bil povsem prepričan, da lahko zgradi nekaj tako velikega na svoji storitvi v oblaku Azure, ne da bi jo pokvaril.

OpenAI je poskušal usposobiti vedno večji nabor programov umetne inteligence, imenovanih modeli, ki so zaužili večje količine podatkov in se naučili vedno več parametrov, spremenljivk, ki jih je sistem AI odkril z usposabljanjem in prekvalifikacijo. To je pomenilo, da je OpenAI dolgo časa potreboval dostop do zmogljivih storitev računalništva v oblaku.

Da bi se spopadli s tem izzivom, Microsoft je moral najti načine za povezavo več deset tisoč grafičnih čipov NVIDIA A100 in spremenite način postavitve strežnikov, da se izognete izpadom električne energije.

»Zgradili smo sistemsko arhitekturo, ki bi lahko delovala in bila zanesljiva v velikem obsegu. To je omogočilo ChatGPT,« je povedal Nidhi Chappell, Microsoftov generalni direktor za infrastrukturo Azure AI. »To je vzorec, ki je prišel od tam. Še veliko, veliko jih bo."

Tehnologija je OpenAI omogočila lansiranje ChatGPT, virusnega klepetalnega robota, ki je v nekaj dneh po novembrskem IPO-ju privabil več kot milijon uporabnikov in je zdaj vključen v poslovne modele drugih podjetij, od tistih, ki jih vodi ustanovitelj hedge sklada milijarder Ken Griffin na čas dostave.

Ko bodo podjetja in potrošniki pridobila zanimanje za generativna orodja umetne inteligence, kot je ChatGPT, se bo povečal pritisk na ponudnike storitev v oblaku, kot so Microsoft, Amazon in Google, da zagotovijo, da lahko njihovi podatkovni centri zagotovijo ogromno zahtevano računalniško moč.

Zdaj Microsoft uporablja isti nabor virov, ki jih je zgradil za OpenAI za usposabljanje in izvajanje lastnih odličnih modelov AI, vključno z novim iskalnim robotom Bing, predstavljenim prejšnji mesec. Podjetje sistem prodaja tudi drugim strankam. Programski velikan že dela na naslednji generaciji superračunalnika z umetno inteligenco kot del razširjenega dogovora z OpenAI, v katerem je Microsoft svoji naložbi dodal 10 milijard dolarjev.

»Ne gradimo jih po meri; začelo se je kot nekaj običajnega, vendar smo ga vedno zgradili tako, da je bilo posplošeno, tako da lahko vsakdo, ki želi trenirati velik jezikovni model, izkoristi enake izboljšave.« Guthrie je dejal v intervjuju. "Resnično nam je pomagalo postati boljši oblak za AI na splošno."

Usposabljanje masivnega modela AI zahteva veliko število grafičnih procesnih enot, povezanih na enem mestu, kot je superračunalnik AI, ki ga je sestavil Microsoft. Ko je model v uporabi, odgovarjanje na vsa vprašanja, ki jih zastavijo uporabniki (imenovano sklepanje), zahteva nekoliko drugačno nastavitev. Microsoft uporablja tudi grafične čipe za sklepanje, vendar so ti procesorji (na stotine tisoč) geografsko razpršeni po več kot 60 regijah podatkovnih centrov podjetja. Zdaj podjetje dodaja najnovejši grafični čip NVIDIA za delovne obremenitve z umetno inteligenco (H100) in najnovejšo različico omrežne tehnologije NVIDIA Infiniband za še hitrejšo izmenjavo podatkov.

Microsoftova odločitev za partnerstvo z OpenAI je temeljil na prepričanju, da bo ta infrastruktura brez primere prinesla rezultate (nove zmogljivosti umetne inteligence, nova vrsta programske platforme), ki bi jih Microsoft lahko spremenil v izdelke in storitve, ki bi strankam prinesle resnične koristi, je dejal Waymouth. To prepričanje je spodbudilo ambicijo podjetij, da premagajo vse tehnične izzive, da bi ga zgradili in še naprej premikali meje superračunalništva z umetno inteligenco.

vir: https://news.microsoft.com/