NVIDIA首秀Blackwell GB200超級(jí)芯片系統(tǒng):AI推理性能飆升1.5倍

NVIDIA Blackwell架構(gòu)的新一代GPU推遲供貨,但是官方?jīng)]有承認(rèn),也沒(méi)有否認(rèn),而是默默拿出了一套基于新一代GB200 GPU+GPU超級(jí)芯片的服務(wù)器系統(tǒng),展示了一番。

NVIDIA Blackwell架構(gòu)的新一代GPU推遲供貨,但是官方?jīng)]有承認(rèn),也沒(méi)有否認(rèn),而是默默拿出了一套基于新一代GB200 GPU+GPU超級(jí)芯片的服務(wù)器系統(tǒng),展示了一番。

NVIDIA首秀Blackwell GB200超級(jí)芯片系統(tǒng):AI推理性能飆升1.5倍

GB200 Grace Blackwell包括兩顆B200 GPU、一顆Grace CPU,總功耗高達(dá)2700W。

其中,B200擁有2040億個(gè)晶體管、8096-bit 192GB HBM3E內(nèi)存(帶寬8TB/s),性能達(dá)到9PFlops(每秒9千萬(wàn)億次),功耗首次達(dá)到1000W。

NVIDIA展示的服務(wù)器猶如一件藝術(shù)品,一條條藍(lán)色和銅色排線,大量超粗直徑銅管,超大體積的散熱片,組成了一個(gè)龐然大物。

NVIDIA沒(méi)有透露具體配置,只說(shuō)分為有無(wú)NVSwitch兩種版本,其總帶寬高達(dá)14.4TB/s。

性能方面只給出了一個(gè)數(shù)據(jù):Llama 3.1 700億參數(shù)大模型的AI推理性能對(duì)比H200提高了足足1.5倍。

散熱怎么辦?NVIDIA透露正在開(kāi)發(fā)熱水散熱系統(tǒng),可以將耗電量減少28%。

不過(guò),NVIDIA仍然沒(méi)有給出Blackwell GPU服務(wù)器的出貨時(shí)間,估計(jì)在今年第四季度。

即將到來(lái)的Hot Chip 2024大會(huì)上,NVIDIA會(huì)詳細(xì)講解Blackwell GPU,還會(huì)進(jìn)一步披露未來(lái)Vera CPU、Rubin GPU的消息。

原創(chuàng)文章,作者:蘋(píng)果派,如若轉(zhuǎn)載,請(qǐng)注明出處:http://rponds.cn/article/676033.html

蘋(píng)果派的頭像蘋(píng)果派管理團(tuán)隊(duì)

相關(guān)推薦

發(fā)表回復(fù)

登錄后才能評(píng)論