太平洋科技要聞

算力增長1000倍！黃仁勛大刀闊斧掀翻AI界

吳章整合編輯：吳思奇發(fā)布于：2024-06-03 18:07

北京時間6月2日晚間，現(xiàn)在的世界第三大公司英偉達首席執(zhí)行官黃仁勛（Jensen Huang）在COMPUTEX 2024大會開幕前發(fā)表了主題演講。在演講中，黃仁勛字字句句都展示著英偉達正在乘AI之風扶搖直上。

在計劃之中可以得知，英偉達計劃每年升級其AI加速器，并且在芯片制作上也是以年為單位更新迭代：

目前世界上最大的Blackwell芯片平臺正式投產(chǎn)。這款GPU專為支持新一代人工智能設計，在短短八年內，Blackwell將計算能力、浮點運算及人工智能浮點運算能力增長了1000倍，甚至超過了摩爾定律在最佳時期的增長。同時，黃仁勛還宣布：2025年英偉達將要推出Blackwell Ultra芯片。

此外，他還首次對外公布了下一代CPU架構的名稱。下一代CPU名為“Vera”，GPU名為“Rubin”，命名靈感來源于宇宙暗物質研究先驅、美國女天文學家Vera Rubin。甚至還有Rubin Ultra的開發(fā)計劃，并且這些所有的芯片都具備兼容性。

在硬件方面，黃仁勛表示“加速計算是計算行業(yè)的未來”。在Blackwell系列中，Nvidia采用了兩片盡可能大的芯片，通過每秒10太字節(jié)的高速鏈接，結合世界上最先進的SerDes（高性能接口或連接技術）將它們緊密連接在一起。并且，這兩片這樣的芯片放置在一個計算機節(jié)點上，并通過Grace CPU進行高效協(xié)調。

在GPU的互聯(lián)方面，Nvidia采用了第五代MV Link技術，它連接多個GPU的輕松連接。此外，Blackwell GPU還配備了第一代可靠性和可用性引擎（Ras系統(tǒng)），這一創(chuàng)新技術能夠測試芯片上的每一個晶體管、觸發(fā)器、內存以及片外內存，確保操作者在現(xiàn)場就能準確判斷特定芯片是否達到了平均故障間隔時間（MTBF）的標準。

在耗能的考量上，黃仁勛還表示：“我們正面臨計算膨脹”。

Nvidia通過提升計算能力，用于訓練GPT-4模型（2萬億參數(shù)和8萬億Token）的能量下降了350倍，僅需3吉瓦時，并且可以在10天內完成同等任務。如果使用Pascal進行同樣的訓練，它將消耗高達1000吉瓦時（1吉瓦時等于1百萬千瓦時）的能量。這意味著需要一個吉瓦數(shù)據(jù)中心來支持，但世界上并不存在這樣的數(shù)據(jù)中心。即便存在，它也需要連續(xù)運行一個月的時間。而如果是一個100兆瓦的數(shù)據(jù)中心，那么訓練時間將長達一年。

Nvidia的技術讓功耗僅增加三倍而每瓦性能比單獨使用CPU提高25倍，可以節(jié)省98%的成本和97%的能源需求。“這是CEO的數(shù)學，雖然不準確，但確實正確”，買得越多、省得越多的黃氏CEO數(shù)學，也再次亮相。

另外，Nvidia 還發(fā)布了基于其芯片的服務器計算機的新設計�；叟c科技（惠普企業(yè)部）和戴爾科技公司等公司正在使用專為企業(yè)設計的模塊化服務器（MGX平臺），這種模組的核心在于將兩塊Blackwell芯片集成并且采用液體冷卻，確保超高效運行，以便更快地將企業(yè)和政府機構使用的產(chǎn)品推向市場。

黃仁勛還指出，競爭對手Advanced Micro Devices Inc.和英特爾公司也在利用該設計，將其處理器與 Nvidia 芯片放在一起。

黃仁勛表示，之前發(fā)布的產(chǎn)品，例如用于網(wǎng)絡的 Spectrum X 和 Nvidia 推理微服務（NIM，黃仁勛稱之為“盒子里的人工智能”），現(xiàn)已普遍可用并被廣泛采用。Nvidia還將免費提供 NIM 產(chǎn)品。微服務是一組中間軟件和模型，可幫助公司更快地推出人工智能服務，而無需擔心底層技術，但是部署這些服務的公司必須向 Nvidia 支付使用費。

黃仁勛睥睨天下的發(fā)言也一方面來自于英偉達今年如魚得水的市場現(xiàn)況。在人工智能的推動下，英偉達的股價一路狂翻了近乎2倍，達到2.7萬億美元，緊逼科技巨頭蘋果，甚至讓大眾展開了對于英偉達是否會奪走蘋果第二把交椅的猜想。

英偉達CEO黃仁勛英偉達臺北電腦展2024 NVIDIA NIM微服務

吳章

原創(chuàng)欄目