5月15日消息,近日,有傳聞顯示,為了應(yīng)對市場對于其高性能GPU需求的增長,英偉達(dá)已向臺積電追加了1萬片晶圓的訂單,這也意味著到今年底前,臺積電每個月需額外提供英偉達(dá)1000至2000片基于CoWoS技術(shù)的晶圓。
受ChatGPT掀起全球生成式AI熱潮影響,中國的百度、阿里巴巴、騰訊、科大訊飛、商湯科技等眾多相關(guān)業(yè)者也在積極布局,這也使得高性能GPU芯片因供不應(yīng)求,價格水漲船高.
有報道顯示,據(jù)英偉達(dá)的代理商透露,其A100芯片價格已經(jīng)從去年12月開始上漲,截至今年4月上半個月,五個月價格累計漲幅達(dá)37.5%;同期,英偉達(dá)面向中國大陸市場的A800芯片的價格漲幅累計達(dá)到了20%。
另外,受去年美國限制高性能芯片出口中國的政策影響以及市場需求旺盛,使得GPU交貨周期被拉長。此前拿貨大約要等一個月,現(xiàn)在基本都得三個月,部分新訂單甚至可能要到今年12月才能交付。
此前報道顯示,中國大陸目前可用于訓(xùn)練AI大模型的A100大約有40000至50000片,供應(yīng)相當(dāng)吃緊。據(jù)曾擔(dān)任華為系自然語言處理企業(yè)的首席科學(xué)家陳巍測算,中國境內(nèi)A100級別的GPU芯片缺口約在30萬片左右。目前部份中國云端服務(wù)廠商已下令嚴(yán)格限制內(nèi)部使用這些先進(jìn)芯片,以將其保留至需要強力運算的任務(wù)。
隨著 NVIDIA CUDA 平臺在 AI 和其他高性能工作負(fù)載中的廣泛采用,數(shù)十家主要客戶依靠該公司的硬件來運行他們的 AI 應(yīng)用程序。就在昨天,谷歌宣布推出新的 A3 超級計算機,配備 26000 塊 NVIDIA H100 加速器和 26 個 exaflops 的 AI 功能。
有傳聞稱,今年初百度曾緊急下單3000臺包含8片英偉達(dá)A800 GPU的服務(wù)器(相當(dāng)于2.4萬片A800芯片),預(yù)計全年會有A800和H800共5萬片需求。同時,阿里云預(yù)計今年需要約10000片GPU芯片,其中6000片是H800,4000片是A800。目前英偉達(dá)A800、H800正遭到包括服務(wù)器、互聯(lián)網(wǎng)廠商爭搶。