AMD談到了AI加速難題的不同部分——性能、每瓦性能、內(nèi)存、加速器到加速器的連接、服務(wù)器到服務(wù)器的連接和軟件。AMD將該產(chǎn)品與H100進(jìn)行了比較，并展示了Meta和微軟如何使用其產(chǎn)品。zmGesmc

AMD的股票反應(yīng)積極，民間的話題變成了AMD從Nvidia手中搶奪市場(chǎng)份額。這有多現(xiàn)實(shí)？在AI加速市場(chǎng)上，AMD比英偉達(dá)有什么優(yōu)勢(shì)嗎？我們著眼于一些將在不久的將來(lái)發(fā)揮作用的關(guān)鍵因素，以及誰(shuí)擁有優(yōu)勢(shì)。zmGesmc

計(jì)算性能zmGesmc

理論上，MI300X對(duì)所有數(shù)據(jù)類型的性能都優(yōu)于H100。MI300X甚至有更多的緩存、HBM和內(nèi)存帶寬。3.2TB/s的Infinity fabric在連接性方面令人印象深刻，AMD正在增強(qiáng)以太網(wǎng)以實(shí)現(xiàn)更好的服務(wù)器到服務(wù)器連接。AMD正在采取全面的方法，在系統(tǒng)層面實(shí)現(xiàn)人工智能加速，就像英偉達(dá)一樣。然而，英偉達(dá)的H100自2022年以來(lái)一直在銷售，英偉達(dá)的軟件使其能夠?qū)崿F(xiàn)更好的性能。英偉達(dá)已經(jīng)在幾個(gè)客戶數(shù)據(jù)中心，他們知道如何最好地使用加速器。AMD需要一段時(shí)間才能實(shí)現(xiàn)這一目標(biāo)。zmGesmc

優(yōu)勢(shì)：英偉達(dá)（略有優(yōu)勢(shì)）zmGesmc

軟件棧zmGesmc

AMD的軟件棧是圍繞ROCm (Radeon Open Compute platform)構(gòu)建的，ROCm是Linux上GPU計(jì)算的開源軟件基礎(chǔ)。AMD使用OpenCL等行業(yè)標(biāo)準(zhǔn)，其用戶可以根據(jù)需要修改和增強(qiáng)軟件。英偉達(dá)的軟件棧是專有的，開發(fā)者必須使用英偉達(dá)的軟件來(lái)充分利用GPU的性能。然而，英偉達(dá)的堆棧是全面的、成熟的，可以在所有抽象層次上工作。它提供了低級(jí)加速庫(kù)以及系統(tǒng)級(jí)擴(kuò)展軟件。zmGesmc

優(yōu)勢(shì)：英偉達(dá)zmGesmc

基準(zhǔn)測(cè)試zmGesmc

基準(zhǔn)測(cè)試是英偉達(dá)輕松獲勝的一個(gè)領(lǐng)域。英偉達(dá)發(fā)布了大量的基準(zhǔn)測(cè)試，包括行業(yè)標(biāo)準(zhǔn)MLPerf。這些分?jǐn)?shù)多年來(lái)一直由幾個(gè)第三方機(jī)構(gòu)發(fā)布，并名列前茅。AMD作為后來(lái)者，還沒有運(yùn)行它們。我們預(yù)計(jì)AMD將在2024年推出一些基準(zhǔn)測(cè)試。zmGesmc

優(yōu)勢(shì)：英偉達(dá)zmGesmc

訓(xùn)練工作負(fù)載zmGesmc

英偉達(dá)已經(jīng)成為事實(shí)上的訓(xùn)練標(biāo)準(zhǔn)，沒有客戶會(huì)選擇AMD（因?yàn)樗能浖堑图?jí)抽象的），比如Nvidia的CUDA。英偉達(dá)對(duì)其培訓(xùn)基礎(chǔ)設(shè)施收取高價(jià)，但在培訓(xùn)中，錢并不總是一個(gè)問題。培訓(xùn)基礎(chǔ)設(shè)施的預(yù)算通常來(lái)自研發(fā)預(yù)算，而科學(xué)家們要求往往是最頂尖的技術(shù)和設(shè)施；AMD將需要一些時(shí)間來(lái)構(gòu)建一個(gè)等效的軟件棧，使客戶能夠充分利用其硬件。zmGesmc

優(yōu)勢(shì)：英偉達(dá)zmGesmc

推理（Inference）工作負(fù)載zmGesmc

推理是AMD可能具有優(yōu)勢(shì)的一個(gè)領(lǐng)域。與訓(xùn)練相比，推理對(duì)軟件的需求更少。MI300X提供比英偉達(dá)更高的IN8性能，用于推理。AMD也已經(jīng)發(fā)布了一段時(shí)間的產(chǎn)品，應(yīng)該在生產(chǎn)環(huán)境中具有所需的穩(wěn)定性。與訓(xùn)練工作負(fù)載不同，推理工作負(fù)載是定價(jià)敏感的，每美元的性能很重要。AMD的產(chǎn)品定價(jià)可能會(huì)低于競(jìng)爭(zhēng)對(duì)手，從而提供一個(gè)更好的矩陣。zmGesmc

優(yōu)勢(shì)：AMDzmGesmc

市場(chǎng)渴望zmGesmc

英偉達(dá)一直是人工智能芯片熱潮的最大受益者，在數(shù)據(jù)中心人工智能加速市場(chǎng)上享有壟斷地位。數(shù)據(jù)中心客戶渴望嘗試另一種選擇，而AMD正好給了他們希望。AMD能夠提供與英偉達(dá)相當(dāng)?shù)男阅芎头€(wěn)定性，客戶可能會(huì)躍躍欲動(dòng)。通過更具價(jià)格優(yōu)勢(shì)將產(chǎn)品定價(jià)低于英偉達(dá)，AMD還可以通過購(gòu)買進(jìn)入客戶數(shù)據(jù)中心。zmGesmc

優(yōu)勢(shì)：AMDzmGesmc

總結(jié)zmGesmc

在我們考慮的六個(gè)類別中，英偉達(dá)在三個(gè)類別中有明顯優(yōu)勢(shì)，在一個(gè)類別中略有優(yōu)勢(shì)。AMD在兩個(gè)方面有明顯的優(yōu)勢(shì)。然而，鑒于市場(chǎng)對(duì)英偉達(dá)替代品的渴望，AMD可以小心打好這張牌，從英偉達(dá)那里獲得市場(chǎng)份額。zmGesmc

英偉達(dá)作為市場(chǎng)的領(lǐng)導(dǎo)者，將在明年推出下一代產(chǎn)品，這肯定會(huì)超過AMD的產(chǎn)品。AMD在MI產(chǎn)品線上已經(jīng)走了很長(zhǎng)一段路，當(dāng)AMD的軟件成熟時(shí)，競(jìng)爭(zhēng)將會(huì)加劇。zmGesmc