據(jù)報(bào)道，特斯拉（Tesla）28 日啟動(dòng)眾所矚目的超級(jí)電腦，準(zhǔn)備用于各式人工智能（AI）應(yīng)用，其運(yùn)算能力特別強(qiáng)大、甚至可用來(lái)執(zhí)行高效能運(yùn)算（HPC）任務(wù)。據(jù)悉，這款基于英偉達(dá)（Nvidia Corp.）H100晶片的超級(jí)電腦，將成為全球最強(qiáng)大的電腦之一。
特斯拉投資人的Sawyer Merritt通過(guò)社交平臺(tái) X（原Twitter）指出，特斯拉將在28日啟動(dòng)的10,000顆H100 GPU叢集，會(huì)協(xié)助訓(xùn)練全自動(dòng)輔助駕駛（FSD）系統(tǒng)。H100 GPU的運(yùn)算效能是前一代A100的五倍快，可加快特斯拉訓(xùn)練FSD的速度、訓(xùn)練成果也會(huì)比過(guò)去更優(yōu)秀。不過(guò)，H100 GPU非常昂貴，單顆要價(jià)近40,000美元。
Merritt指出，由于英偉達(dá)無(wú)法追上市場(chǎng)對(duì)GPU的需求，特斯拉只能斥資十多億美元打造自家超級(jí)電腦「Dojo」。Dojo使用公司高度最佳化的客制芯片，2024年有望成為全球最強(qiáng)大的超級(jí)電腦之一。這款超級(jí)電腦也會(huì)訓(xùn)練特斯拉的車隊(duì)并處理這些車隊(duì)傳回的資料。特斯拉CEO馬斯克（Elon Musk）7月曾表示，“老實(shí)說(shuō)，若英偉達(dá)交出足夠GPU，我們也許不需要Dojo?！?/p>
Merritt表示，特斯拉的英偉達(dá)H100 GPU叢集與Dojo將同時(shí)啟動(dòng)，這能大幅拉升特斯拉的運(yùn)算能力，目前沒(méi)有任何一家汽車業(yè)者能夠與之匹敵。Merritt并附上一張圖，顯示特斯拉內(nèi)部預(yù)測(cè)，Dojo運(yùn)算能力有機(jī)會(huì)在2024年10月達(dá)到100 Exa-Flops。
Merritt并指出，特斯拉的FSD V12版終端對(duì)終端訓(xùn)練已觸及運(yùn)算瓶頸，但該公司會(huì)積極確保未來(lái)不會(huì)如此。根據(jù)馬斯克說(shuō)法，特斯拉光2023年就會(huì)耗資超過(guò)20億美元訓(xùn)練運(yùn)算力，2024年也會(huì)采取同樣行動(dòng)。
Tom’s Hardware報(bào)導(dǎo)，特斯拉AI推論兼AI平臺(tái)工程經(jīng)理Tim Zaman 27日則解釋，在真實(shí)世界影片的訓(xùn)練下，特斯拉擁有的也許是世界最大訓(xùn)練資料庫(kù)，快取熱層的容量超過(guò)200PB ，數(shù)量級(jí)（orders of magnitudes）比大型語(yǔ)言模型（LLMs）還高。
根據(jù)報(bào)導(dǎo)，10,000顆H100 GPU叢集對(duì)技術(shù)性運(yùn)算的效能峰值可達(dá)340 FP64 PFLOPS，對(duì)于AI應(yīng)用的效能峰值則可達(dá)39.58 INT8 ExaFLOPS。相較之下，Leonardo旗下的全球第四優(yōu)秀超級(jí)電腦效能僅304 FP64 PFLOPS。
原創(chuàng)文章，作者：小科同學(xué)，如若轉(zhuǎn)載，請(qǐng)注明出處：http://rponds.cn/article/578283.html
