亞馬遜新款A(yù)I芯片Trainium3上市 訓(xùn)練AI模型成本可降50%
12月3日消息，亞馬亞馬遜AWS宣布其新一代自研AI芯片Trainium3正式上市。遜新I芯型成
作為亞馬遜首款采用3nm制程的上市訓(xùn)芯片，Trainium3在計(jì)算性能、亞馬能效與內(nèi)存帶寬上均實(shí)現(xiàn)顯著提升。遜新I芯型成
相比上一代，上市訓(xùn)Trainium3計(jì)算性能最高提升4.4倍，亞馬能效提升4倍，遜新I芯型成內(nèi)存帶寬也接近翻兩番。上市訓(xùn)基于Trainium3構(gòu)建的亞馬UltraServer系統(tǒng)支持互聯(lián)擴(kuò)展，單系統(tǒng)可容納144枚芯片，遜新I芯型成并為單個(gè)應(yīng)用提供多達(dá)100萬枚Trainium3芯片的上市訓(xùn)算力支持，規(guī)模達(dá)到上一代的亞馬10倍。
亞馬遜表示，遜新I芯型成與采用圖形處理單元（GPU）的上市訓(xùn)系統(tǒng)相比，使用Trainium3訓(xùn)練和運(yùn)行AI模型的成本可降低最多50%。
此外，亞馬遜已著手開發(fā)下一代產(chǎn)品Trainium4。據(jù)披露，Trainium4預(yù)計(jì)將帶來6倍的FP4計(jì)算性能、3倍的FP8性能，內(nèi)存帶寬和容量分別提升至4倍與2倍，并支持通過NVLink Fusion和UALink實(shí)現(xiàn)縱向擴(kuò)展。
對(duì)于與行業(yè)龍頭英偉達(dá)的關(guān)系，負(fù)責(zé)Trainium項(xiàng)目的AWS副總裁兼首席架構(gòu)師Ron Diamant明確表示：“我不認(rèn)為我們會(huì)試圖取代英偉達(dá)。”
本文地址：http://www.ssc849.cn/html/48d8499867.html
版權(quán)聲明
本文僅代表作者觀點(diǎn)，不代表本站立場(chǎng)。
本文系作者授權(quán)發(fā)表，未經(jīng)許可，不得轉(zhuǎn)載。