MoneyDJ新聞 2023-11-14 08:01:54 記者 郭妍希 報導
輝達(Nvidia Corp.)揭露最新高階人工智慧(AI)繪圖處理器(GPU)「H200」(見圖)、產出速度幾乎是前一代H100的兩倍快，股價逼近歷史最高峰。
MarketWatch、CNBC等外電報導，輝達13日發布新聞稿宣布，H200搭配14GB的次世代「HBM3e」記憶體，能協助執行「推論」(inference)功能。所謂推論，是指運用訓練過的大型語言模型(LLM)生成文字、影像或預測。
輝達指出，以臉書(Facebook)母公司Meta Platforms, Inc.的開源軟體AI模型「Llama 2」測試後，發現H200協助推論的速度幾乎是H100兩倍快。另外，H200將與H100相容，意味著已開始運用H100訓練先前AI模型的業者，不需要變更伺服器系統或軟體規格，就可直接使用H200。
輝達並表示，明(2024)年起，亞馬遜網路服務(Amazon Web Services)、Google Cloud、Microsoft Azure及Oracle Cloud Infrastructure將是第一批佈署H200的雲端服務提供商，CoreWeave、Lambda及Vultr也會加入。
H100、H200都是基於輝達Hopper架構。根據輝達10月聲明，由於GPU需求高漲，未來將從兩年更新一次架構的形式改為一年一次。輝達並展示一張簡報，暗示2024年將發表基於Blackwell架構的B100。
H200預定2024年第二季開始出貨，競爭對手是超微(AMD)的MI300X GPU。MI300X同樣添加額外記憶體，可協助大型AI模型執行推論功能。
輝達13日股價應聲上漲0.59%、收486.20美元，已連續第9個交易日走揚，逼近8月31日的歷史收盤新高(493.55美元)。Dow Jones Market Data數據顯示，這是輝達自2016年12月27日連漲10個交易日以來，最為綿長的漲勢。
--------------------------------------------------
網站: https://line.me/ti/p/ih-IXdDNSc
留言列表
