Microsoft utratil miliony dolarů na vybudování superpočítače, na kterém je ChatGPT založen.

Microsoft za to utratil stovky milionů dolarů konstrukce masivní superpočítač, který pomáhá pohánět chatbota OpenAI ChatGPT, Ve zprávě Microsoft vysvětluje, jak vybudoval výkonnou infrastrukturu Azure AI používanou OpenAI a jak jsou jeho systémy ještě robustnější.

K vybudování superpočítače, který pohání projekty OpenAI, Microsoft tvrdí, že spojil tisíce grafické procesorové jednotky (GPU) NVIDIA na svou cloudovou platformu Azure. To zase umožnilo OpenAI trénovat stále výkonnější modely a „odemknout schopnosti AI“ nástrojů jako ChatGPT a Bing.

Scott Guthrie viceprezident pro umělou inteligenci a cloud ve společnosti Microsoft, uvedla, že společnost na projekt utratila několik set milionů dolarů, podle prohlášení. A i když se to může zdát jako kapka pro Microsoft, který nedávno rozšířil svou mnohamiliardovou investici do OpenAI na několik let, rozhodně ukazuje, že je připravena investovat ještě více peněz do prostoru AI.

Když Microsoft investoval $ 1 miliard na OpenAI v roce 2019 souhlasil s vybudováním masivního superpočítače a nejmodernější pro zahájení výzkumu umělé inteligence. Jediný problém: Microsoft neměl nic, co by OpenAI potřeboval, a nebyl si úplně jistý, že dokáže vybudovat něco tak velkého na své cloudové službě Azure, aniž by to rozbil.

OpenAI se snažila trénovat stále rostoucí sadu programů umělé inteligence zvaných modely, které požívaly větší objemy dat a učily se stále více parametrů, proměnných, které systém AI objevil prostřednictvím školení a přeškolování. To znamenalo, že OpenAI potřebovala přístup k výkonným cloudovým službám po dlouhou dobu.

Chcete-li splnit tuto výzvu, Microsoft musel najít způsoby, jak propojit desítky tisíc grafických čipů NVIDIA A100 a změňte způsob rackových serverů, abyste předešli výpadkům napájení.

„Vytvořili jsme systémovou architekturu, která by mohla fungovat a být spolehlivá ve velkém měřítku. To umožnilo ChatGPT,“ řekl Nidhi Chappell, generální manažer Microsoftu pro infrastrukturu Azure AI. "Je to vzorec, který pochází odtud." Bude jich mnohem, mnohem víc."

Tato technologie umožnila OpenAI spustit ChatGPT, virálního chatbota, který během několika dní od svého listopadového IPO přilákal více než milion uživatelů a nyní je absorbován do obchodních modelů jiných společností, od těch, které provozuje miliardář zakladatel hedgeového fondu Ken Griffin na veletrhu čas doručení.

Vzhledem k tomu, že generativní nástroje umělé inteligence, jako je ChatGPT, získávají zájem ze strany podniků a spotřebitelů, bude na poskytovatele cloudových služeb, jako jsou Microsoft, Amazon a Google, vyvíjen zvýšený tlak, aby zajistili, že jejich datová centra budou moci poskytovat enormní požadovaný výpočetní výkon.

Nyní Microsoft používá stejnou sadu zdrojů, které vytvořil pro OpenAI, k výcviku a provozování vlastních skvělých modelů umělé inteligence, včetně nového vyhledávacího robota Bing představeného minulý měsíc. Společnost systém prodává i dalším zákazníkům. Softwarový gigant již pracuje na další generaci superpočítače s umělou inteligencí v rámci rozšířené dohody s OpenAI, ve které Microsoft přidal ke své investici 10 miliard dolarů.

„Nestavíme je jako něco na zakázku; začalo to jako něco zvyku, ale vždy jsme to postavili tak, že to bylo zobecněné, aby každý, kdo chce trénovat velký jazykový model, mohl využít stejná vylepšení.“ Guthrie řekl v rozhovoru. "Opravdu nám to pomohlo stát se celkově lepším cloudem pro AI."

Trénink masivního modelu umělé inteligence vyžaduje velké množství grafických procesorů připojených na jednom místě, jako je superpočítač s umělou inteligencí sestavený společností Microsoft. Jakmile je model používán, vyžaduje zodpovězení všech otázek položených uživateli (tzv. inference) mírně odlišné nastavení. Microsoft také nasazuje grafické čipy pro odvození, ale tyto procesory (stovky tisíc) jsou geograficky rozptýleny ve více než 60 oblastech datových center společnosti. Nyní společnost přidává nejnovější grafický čip NVIDIA pro pracovní zátěže AI (H100) a nejnovější verzi síťové technologie NVIDIA Infiniband pro ještě rychlejší sdílení dat.

Rozhodnutí společnosti Microsoft o partnerství s OpenAI byla založena na víře, že tento bezprecedentní rozsah infrastruktury přinese výsledky (nové schopnosti umělé inteligence, nový typ programovací platformy), které by Microsoft mohl přeměnit na produkty a služby, které by zákazníkům přinesly skutečné výhody, řekl Waymouth. Tato víra podnítila ambice společností překonat všechny technické výzvy k jejímu vybudování a nadále posouvat hranice superpočítačů AI.

zdroj: https://news.microsoft.com/