單卡功耗可達(dá)1400W 黃仁勛：下代GPU服務(wù)器必須水冷

近日英偉達(dá)CEO黃仁勛在2024 SIEPR經(jīng)濟(jì)峰會(huì)上透露，下一代DGX GPU服務(wù)器將會(huì)采用水冷散熱，整個(gè)系統(tǒng)非常壯觀(magnificent)、非常迷人(beautiful)。

黃仁勛還提到，新一代DGX服務(wù)器很快就會(huì)到來(lái)，暗示著Blacwell B100 GPU加速卡距離發(fā)布已經(jīng)不遠(yuǎn)了——官方只說(shuō)2024年內(nèi)，消息稱已提前到二季度。

此前戴爾的一次會(huì)議中確認(rèn)，英偉達(dá)明年還會(huì)推出升級(jí)版B200 GPU，最高功耗可達(dá)1000W，甚至有說(shuō)法稱會(huì)有恐怖的1400W！

英偉達(dá)目前的主力AI GPU H100和升級(jí)版H200最大功耗為700W，核心面積814平方毫米，均只需風(fēng)冷。AMD MI300X則需要750W，但是面積也更大一些達(dá)到了1017平方毫米。

現(xiàn)如今，服務(wù)器和數(shù)據(jù)中心使用浸沒式液冷散熱已經(jīng)稀松平常，但也有很多專家對(duì)這種發(fā)展途徑吃反對(duì)態(tài)度。

Moor Insights & Strategy的創(chuàng)始人、CEO兼首席分析師Patrick Moorhead就明確提出，為了提高性能，并控制合理的功耗、發(fā)熱，我們已經(jīng)窮盡了手段，但接下來(lái)該怎么辦？上液氮嗎？是時(shí)候重新思考了。