Microsoft je potrošio milijune dolara za izgradnju superračunala na kojem se temelji ChatGPT.

Microsoft je potrošio stotine milijuna dolara na izgradnja ogromno superračunalo koje će pomoći u pokretanju OpenAI ChatGPT chatbota, U izvješću Microsoft objašnjava kako je izgradio moćnu Azure AI infrastrukturu koju koristi OpenAI i kako njegovi sustavi postaju još robusniji.

Za izgradnju superračunala koje pokreće OpenAI projekte, Microsoft tvrdi da je povezao tisuće jedinice za obradu grafike (GPU) NVIDIA na svoju platformu za računalstvo u oblaku Azure. To je zauzvrat omogućilo OpenAI-ju da obučava sve moćnije modele i "otključa AI mogućnosti" alata kao što su ChatGPT i Bing.

Scott Guthrie potpredsjednik za umjetnu inteligenciju i oblak u Microsoftu, rekao je da je tvrtka potrošila nekoliko stotina milijuna dolara na projekt, navodi se u priopćenju. I dok se to može činiti kao kap koja je prelila čašu za Microsoft, koji je nedavno proširio više milijardi dolara vrijedno višegodišnje ulaganje u OpenAI, svakako pokazuje da je spreman uložiti još više novca u AI prostor.

Kada je Microsoft investirao 1 milijardi dolara na OpenAI-ju 2019., pristali izgraditi golemo superračunalo i najsuvremenije za početak istraživanja umjetne inteligencije. Jedini problem: Microsoft nije imao ništa što je potrebno OpenAI-u i nije bio posve siguran može li izgraditi nešto tako veliko na svojoj usluzi oblaka Azure, a da je ne pokvari.

OpenAI je pokušavao istrenirati stalno rastući skup programa umjetne inteligencije zvanih modeli, koji su unosili sve veće količine podataka i učili sve više i više parametara, varijabli koje je AI sustav otkrio kroz obuku i ponovnu obuku. To je značilo da je OpenAI trebao pristup moćnim uslugama računalstva u oblaku tijekom dugih vremenskih razdoblja.

Kako bismo odgovorili na ovaj izazov, Microsoft je morao pronaći načine za povezivanje desetaka tisuća grafičkih čipova NVIDIA A100 i promijenite način postavljanja poslužitelja kako biste izbjegli nestanak struje.

“Izgradili smo arhitekturu sustava koja može funkcionirati i biti pouzdana u velikim razmjerima. To je ono što je omogućilo ChatGPT,” rekao je Nidhi Chappell, Microsoftov generalni direktor za Azure AI infrastrukturu. “To je obrazac koji je došao odatle. Bit će ih još mnogo, mnogo više."

Tehnologija je omogućila OpenAI-u da pokrene ChatGPT, virusni chatbot koji je privukao više od milijun korisnika u roku od nekoliko dana od svog IPO-a u studenom, a sada se apsorbira u poslovne modele drugih kompanija, od onih koje vodi osnivač hedge fonda milijarder Ken Griffin iz vrijeme dostave.

Kako generativni AI alati poput ChatGPT-a budu zainteresirali tvrtke i potrošače, bit će povećan pritisak na pružatelje usluga u oblaku kao što su Microsoft, Amazon i Google da osiguraju da njihovi podatkovni centri mogu pružiti ogromnu potrebnu računalnu snagu.

Sada Microsoft koristi isti skup resursa koje je izgradio za OpenAI za obuku i pokretanje vlastitih izvrsnih AI modela, uključujući novi Bing bot za pretraživanje predstavljen prošli mjesec. Tvrtka također prodaje sustav drugim kupcima. Softverski div već radi na sljedećoj generaciji AI superračunala, kao dio proširenog ugovora s OpenAI-jem u kojem je Microsoft dodao 10 milijardi dolara svojoj investiciji.

“Ne gradimo ih po narudžbi; počelo je kao nešto prilagođeno, ali uvijek smo ga gradili na način da je generalizirano tako da svatko tko želi uvježbati veliki jezični model može iskoristiti ista poboljšanja.” rekao je Guthrie u intervjuu. "To nam je stvarno pomoglo da postanemo bolji oblak za AI općenito."

Obuka masivnog AI modela zahtijeva veliki broj grafičkih procesorskih jedinica povezanih na jednom mjestu, poput AI superračunala koje je sastavio Microsoft. Nakon što je model u upotrebi, odgovaranje na sva pitanja koja postavljaju korisnici (zvano zaključivanje) zahtijeva nešto drugačije postavke. Microsoft također postavlja grafičke čipove za zaključivanje, ali ti procesori (stotine tisuća) geografski su raspoređeni u više od 60 regija podatkovnih centara tvrtke. Sada tvrtka dodaje najnoviji NVIDIA grafički čip za AI radna opterećenja (H100) i najnoviju verziju NVIDIA Infiniband mrežne tehnologije za još brže dijeljenje podataka.

Microsoftova odluka o partnerstvu s OpenAI-jem utemeljena je na uvjerenju da će ova infrastruktura bez presedana dati rezultate (nove mogućnosti umjetne inteligencije, nova vrsta platforme za programiranje) koje bi Microsoft mogao pretvoriti u proizvode i usluge koji bi korisnicima pružili stvarne koristi, rekao je Waymouth. To je uvjerenje potaknulo ambiciju tvrtki da prevladaju sve tehničke izazove kako bi je izgradile i nastavile pomicati granice AI superračunala.

izvor: https://news.microsoft.com/