微軟斥資數百萬美元打造了 ChatGPT 所基於的超級計算機。

微軟斥資數億美元 的建設 一個巨大的超級計算機來幫助驅動 OpenAI ChatGPT 聊天機器人， 在一份報告中，微軟解釋了它如何構建 OpenAI 使用的強大的 Azure AI 基礎設施，以及它的系統如何變得更加強大。

為了構建支持 OpenAI 項目的超級計算機，Microsoft 聲稱已連接數以千計的 圖形處理單元 (GPU) NVIDIA 到其 Azure 雲計算平台。 這反過來又讓 OpenAI 能夠訓練越來越強大的模型，並“解鎖 AI 能力”的工具，如 ChatGPT 和 Bing。

斯科特格思裡， 微軟人工智能和雲副總裁， 稱該公司在該項目上花費了數億美元，根據一份聲明。 雖然這對於最近擴大了對 OpenAI 的數十億美元、多年期投資的微軟來說似乎只是杯水車薪，但它肯定 這表明它準備在 AI 領域投入更多資金。

微軟投資時 $ 1十億 在 2019 年的 OpenAI 上，同意建造一台大型超級計算機 以及啟動人工智能研究的最新技術。 唯一的問題是：微軟沒有 OpenAI 需要的任何東西，並且不完全確定它是否可以在不破壞它的情況下在其 Azure 雲服務上構建這麼大的東西。

OpenAI 試圖訓練一組不斷增長的稱為模型的人工智能程序，這些程序吸收了更大量的數據並學習了越來越多的參數，即 AI 系統通過訓練和再訓練發現的變量。 這意味著 OpenAI 需要長期訪問強大的雲計算服務。

為了應對這一挑戰， 微軟不得不想方設法連接數以萬計的圖形芯片 NVIDIA A100 並改變您放置服務器的方式以避免斷電。

“我們構建了一個可以大規模運行且可靠的系統架構。 這就是讓 ChatGPT 成為可能的原因，”微軟 Azure AI 基礎設施總經理 Nidhi Chappell 說。 “這是一種來自那裡的模式。 還會有很多很多。”

該技術讓 OpenAI 推出了 ChatGPT，這款病毒式聊天機器人在 XNUMX 月 IPO 後的幾天內吸引了超過 XNUMX 萬用戶，現在正被吸收到其他公司的商業模式中，包括億萬富翁對沖基金創始人肯格里芬在交貨時間。

隨著 ChatGPT 等生成式 AI 工具獲得企業和消費者的興趣，微軟、亞馬遜和谷歌等雲服務提供商將面臨越來越大的壓力，以確保其數據中心能夠提供所需的巨大計算能力。

現在，微軟正在使用它為 OpenAI 構建的同一組資源來訓練和運行自己的優秀 AI 模型，包括上個月推出的新 Bing 搜索機器人。 該公司還向其他客戶銷售該系統。 這家軟件巨頭已經在研發下一代 AI 超級計算機，這是與 OpenAI 擴大交易的一部分，微軟在其中增加了 10 億美元的投資。

“我們不會將它們構建為定制的東西； 它最初是一些定制的東西，但我們始終以一種通用化的方式構建它，以便任何想要訓練大型語言模型的人都可以利用相同的改進。” 格思裡在接受采訪時說。 “它確實幫助我們成為了一個更好的 AI 整體雲。”

訓練一個海量的 AI 模型需要大量的圖形處理單元連接在一個地方，就像微軟組裝的 AI 超級計算機。 使用模型後，回答用戶提出的所有問題（稱為推理）需要略有不同的設置。 微軟還部署了用於推理的圖形芯片，但這些處理器（數十萬個）在地理上分散在公司 60 多個數據中心區域。 現在，該公司正在添加用於 AI 工作負載的最新 NVIDIA 圖形芯片 (H100) 和最新版本的 NVIDIA Infiniband 網絡技術，以實現更快的數據共享。

微軟決定合作 與開放人工智能 建立在這樣一種信念之上，即這種前所未有的基礎設施規模將產生結果 （新的 AI 功能，一種新型的編程平台），微軟可以將其轉化為能夠為客戶帶來真正利益的產品和服務，Waymouth 說。 這種信念激發了公司克服所有技術挑戰以構建它並繼續突破 AI 超級計算邊界的雄心。

來源： https://news.microsoft.com/