英偉達(dá)（NVIDIA）在本周一發(fā)布了其最新的人工智能超級(jí)計(jì)算機(jī)芯片 HGX H200，該芯片基于英偉達(dá)的“Hopper”架構(gòu)，能夠加速深度學(xué)習(xí)和大型語(yǔ)言模型（LLM）等人工智能應(yīng)用。
HGX H200 是 H100 GPU 的繼任者，也是英偉達(dá)首款使用 HBM3e 內(nèi)存的芯片，這種內(nèi)存速度更快，容量更大，因此更適合大型語(yǔ)言模型。英偉達(dá)稱(chēng)，HGX H200 可以提供 141GB 的內(nèi)存和每秒 4.8TB 的帶寬，與 A100 相比，容量幾乎是其兩倍，帶寬增加了 2.4 倍。在人工智能方面，英偉達(dá)表示，HGX H200 在 Llama 2（700 億參數(shù) LLM）上的推理速度比 H100 快了一倍。
HGX H200 將以 4 路和 8 路的配置提供，與 H100 系統(tǒng)中的軟件和硬件兼容。它將適用于每一種類(lèi)型的數(shù)據(jù)中心（本地、云、混合云和邊緣），并由 Amazon Web Services、Google Cloud、Microsoft Azure 和 Oracle Cloud Infrastructure 等部署，將于 2024 年第二季度推出。
除了 HGX H200，英偉達(dá)還發(fā)布了一款整合了 H200 GPU 和基于 Arm 的英偉達(dá) Grace CPU 的超級(jí)芯片 GH200，該芯片專(zhuān)為超級(jí)計(jì)算機(jī)設(shè)計(jì)，能夠處理 TB 級(jí)數(shù)據(jù)的復(fù)雜 AI 和 HPC 應(yīng)用程序。GH200 將被用于全球研究中心、系統(tǒng)制造商和云提供商的 40 多臺(tái) AI 超級(jí)計(jì)算機(jī)，其中包括 HPE 的 Cray EX2500 超級(jí)計(jì)算機(jī)和德國(guó) Jülich 工廠的 JUPITER 超級(jí)計(jì)算機(jī)。
英偉達(dá)表示，這些新芯片將有助于在多個(gè)領(lǐng)域取得科學(xué)突破，包括氣候和天氣預(yù)測(cè)、藥物發(fā)現(xiàn)、量子計(jì)算和工業(yè)工程，其中許多領(lǐng)域使用定制的英偉達(dá)軟件解決方案，這些解決方案簡(jiǎn)化了開(kāi)發(fā)，但也使超級(jí)計(jì)算團(tuán)隊(duì)依賴(lài)于英偉達(dá)硬件。
英偉達(dá)在 AI 和數(shù)據(jù)中心領(lǐng)域的收入持續(xù)增長(zhǎng)，上個(gè)季度達(dá)到了創(chuàng)紀(jì)錄的 103.2 億美元，占總收入的 76%。英偉達(dá)無(wú)疑希望新的 GPU 和超級(jí)芯片能夠幫助其繼續(xù)這一趨勢(shì)。
原創(chuàng)文章，作者：NEWS，如若轉(zhuǎn)載，請(qǐng)注明出處：http://rponds.cn/article/595556.html
