6 月 13 日，在美國舊金山舉辦的“數(shù)據(jù)中心和人工智能技術(shù)首映式”活動上，AMD正式透露了 Instinct™ MI300 系列加速器家族的新細節(jié)，包括推出 AMD Instinct MI300X 加速器，這是世界上最先進的生成 AI 加速器。MI300X 基于下一代 AMD CDNA™ 3 加速器架構(gòu)，支持高達 192 GB 的 HBM3 內(nèi)存，以提供大型語言模型訓練和生成 AI 工作負載推理所需的計算和內(nèi)存效率。JKaesmc
JKaesmc
借助 AMD Instinct MI300X 的大內(nèi)存，用戶可以在單個 MI300X 加速器上安裝 Falcon-40 等大型語言模型，40B 參數(shù)模型.。AMD 還推出了 AMD Instinct™ 平臺，該平臺將八個 MI300X 加速器整合到一個行業(yè)標準設(shè)計中，為 AI 推理和訓練提供終極解決方案。JKaesmc
活動上AMD 董事長兼首席執(zhí)行官蘇姿豐( Lisa Su)稱，MI300X是AMD真正為生成式人工智能設(shè)計的產(chǎn)品，比起英偉達的H100芯片，MI300X提供了2.4倍多的內(nèi)存和1.6倍多的內(nèi)存帶寬，生成式AI和大語言模型需要電腦的算力和內(nèi)存大幅提高。此前，路透報導稱亞馬遜旗下云計算業(yè)務(wù)正考慮使用AMD的新款人工智能(AI)芯片。JKaesmc
AMD Instinct MI300X 加速器展示JKaesmc
此外，AMD 還宣布，全球首款用于 HPC 和 AI 工作負載的 APU 加速器 AMD Instinct MI300A現(xiàn)已向客戶提供樣品。MI300X 從第三季度開始向主要客戶提供樣品。JKaesmc
此前，在6月初發(fā)布的第 61 期全球超級計算機TOP500信息顯示，在所有超算采用的加速器/協(xié)處理器(Accelerator/Co-Processor)數(shù)量上，NVIDIA(英偉達)為最大贏家。在前28大加速器/協(xié)處理器產(chǎn)品中，有20款來自NVIDIA，僅1款來自AMD。JKaesmc
其中，NVIDIA Tesla V100、NVIDIA A100、 NVIDIA A100 SXM4 40GB、NVIDIA Tesla A100 80G、 NVIDIA Tesla V100 SXM2及AMD Instinct MI250X 位居前六名，安裝量分別為61套、27套、18套、10套、 10套、10套，對應(yīng)占比分別為12.2%、5.4%、3.6%、2%、2% 、2%.JKaesmc
JKaesmc
JKaesmc
隨著人工智能大模型的快速發(fā)展，中國本土云計算企業(yè)和大型互聯(lián)網(wǎng)公司正在加大對加速卡的投入。JKaesmc
據(jù)環(huán)球網(wǎng)科技綜合報道，字節(jié)跳動公司今年已向英偉達訂購了價值超10億美元（約為70億元人民幣）的GPU產(chǎn)品。JKaesmc
報道稱，據(jù)知情人士透露，字節(jié)跳動已經(jīng)采購了10萬塊A100與H800加速卡，其中H800于今年3月才開始生產(chǎn)。目前，僅這一家公司今年的采購數(shù)額就已接近英偉達去年在中國銷售的商用GPU總銷售額。JKaesmc
JKaesmc
JKaesmc
JKaesmc
JKaesmc
責編：Zengde.Xia
掃碼分享到好友
