隨著AI技術(shù)應(yīng)用的不斷深入,微軟正在重新構(gòu)想云基礎(chǔ)設(shè)施,以確保每一層硬件和軟件堆棧都獲得優(yōu)化。7pgesmc
11月16日,微軟在Ignite技術(shù)大會發(fā)布了基于微軟數(shù)據(jù)中心集群的創(chuàng)新產(chǎn)品,包括行業(yè)合作伙伴推出的最新AI優(yōu)化芯片,以及微軟設(shè)計的兩款芯片。7pgesmc
一款是AI加速器芯片,其名為Microsoft Azure Maia ,它可用于OpenAI模型、Bing、GitHub Copilot和 ChatGPT 等AI工作負(fù)載運行云端訓(xùn)練和推理。 另一款則是基于 Arm 架構(gòu)的云原生芯片 Microsoft Azure Cobalt,它是針對通用工作負(fù)載的性能、功率和成本效益進行了優(yōu)化。 此外,Azure Boost也將正式商用。該系統(tǒng)可將存儲和網(wǎng)絡(luò)進程從主機服務(wù)器轉(zhuǎn)遷移到專用硬件和軟件上,從而提高存儲和網(wǎng)絡(luò)速度。7pgesmc
作為定制芯片的補充,微軟正在拓展與芯片供應(yīng)商的合作伙伴關(guān)系,為客戶提供基礎(chǔ)設(shè)施選項。為此,微軟將在其智能云 Azure 中添加 AMD MI300X 加速虛擬機(VMs)。ND MI300 虛擬機(VMs)將采用 AMD 最新的 GPU——AMD Instinct MI300X,旨在加速AI工作負(fù)載的處理,以實現(xiàn)高范圍的AI模型訓(xùn)練和生成式推理。 為英偉達H100 Tensor Core GPU打造的全新NC H100 v5虛擬機系列開放預(yù)覽,將提高大中型AI訓(xùn)練和生成式推理的性能、可靠性和效率。7pgesmc
微軟還發(fā)布了 ND H200 v5 虛擬機系列計劃,這是一款A(yù)I優(yōu)化虛擬機,配備了即將推出的英偉達 H200 Tensor Core GPU。7pgesmc
此外,微軟還與 OpenAI 建立合作伙伴關(guān)系,并將 ChatGPT 功能集成于搜索、協(xié)作、工作和學(xué)習(xí)工具中。據(jù)悉,新的 GPT-3.5 Turbo 模型(支持16K token提示詞長度)將正式商用,GPT-4 Turbo 將于2023年11月底在Azure OpenAI服務(wù)中公開預(yù)覽。GPT-4 Turbo將使客戶能夠擴展提示詞長度,為生成式AI應(yīng)用帶來更多控制和效率。7pgesmc
責(zé)編:Zengde.Xia