【導(dǎo)讀】Gartner研究總監(jiān)張吟鈴表示：“中國半導(dǎo)體行業(yè)發(fā)展迅速，目前市場上已有數(shù)十家AI加速卡廠商，其中至少10家已實(shí)現(xiàn)AI加速卡的量產(chǎn)。然而，由于制造能力限制和美國出口管制，中國的AI加速卡在技術(shù)上仍落后于全球領(lǐng)先企業(yè)。在采用中國AI加速卡時，企業(yè)不僅要考慮硬件兼容性，還要考慮模型適配以及管理異構(gòu)系統(tǒng)的復(fù)雜性。”
中國半導(dǎo)體行業(yè)的快速發(fā)展使其與國外的技術(shù)差距縮小
過去十年來，在降低對外國技術(shù)依賴的政府戰(zhàn)略支持下，中國半導(dǎo)體行業(yè)取得了顯著進(jìn)步。近年來，美國對AI加速卡的出口限制，進(jìn)一步加速了中國AI加速卡解決方案的發(fā)展。根據(jù)最近的在線排名，中國目前已有超過30家AI加速卡公司。在Gartner追蹤的公司中，有近10家公司已實(shí)現(xiàn)AI服務(wù)器的量產(chǎn)，并占據(jù)了可觀的市場份額。
盡管發(fā)展步伐不斷加快，但中國的AI加速卡制程工藝在縮小與全球市場高端加速卡的性能差距方面，仍面臨重大挑戰(zhàn)，原因包括：半導(dǎo)體制造能力有限、缺乏本土先進(jìn)芯片制程能力，以及美國政府對中國AI發(fā)展的持續(xù)限制——例如對高帶寬內(nèi)存（HBM）的出口管制。因此，使用中國加速卡構(gòu)建AI基礎(chǔ)設(shè)施的成本仍然較高。
為了提升計(jì)算性能，一些中國AI加速卡制造商已開始推出AI超級節(jié)點(diǎn)。這些解決方案使用專用的光網(wǎng)絡(luò)模塊和配備AI優(yōu)化存儲的定制機(jī)柜，集成了幾十、幾百甚至幾千臺AI服務(wù)器，將所有硬件作為一個統(tǒng)一的系統(tǒng)交付。這種方法為AI模型訓(xùn)練和推理提供了超低延遲和高帶寬。然而，對于企業(yè)客戶而言，AI超級節(jié)點(diǎn)對數(shù)據(jù)中心資源（包括供電、承重能力、冷卻和維護(hù)）提出了很高的要求。巨額的前期投資也是大多數(shù)公司面臨的主要障礙。
AI加速卡選型取決于生態(tài)系統(tǒng)兼容性
中國企業(yè)在評估AI加速卡時，生態(tài)系統(tǒng)兼容性已成為一項(xiàng)至關(guān)重要的考慮因素。與相對標(biāo)準(zhǔn)化的NVIDIA CUDA環(huán)境不同，中國AI加速卡的生態(tài)系統(tǒng)仍處于發(fā)展的早期階段。因此，要在不同供應(yīng)商之間實(shí)現(xiàn)無縫集成仍然具有挑戰(zhàn)性。對于希望采用多家廠商加速卡的企業(yè)，必須注意以下問題：
硬件適配：盡管許多平臺聲稱與PyTorch和TensorFlow等開源框架兼容，或支持類似于CUDA生態(tài)系統(tǒng)的開發(fā)架構(gòu)，但開發(fā)人員仍需要投入精力進(jìn)行代碼轉(zhuǎn)換和校準(zhǔn)，以確保最佳的硬件適配。
模型適配：當(dāng)企業(yè)使用不同模型或更新到新版本時，不僅軟件開發(fā)工具需要升級——例如更新庫或連接到新的算子或API，AI加速卡層也需要進(jìn)行適配。
異構(gòu)管理：許多企業(yè)I&O團(tuán)隊(duì)的運(yùn)維能力有限，通常直接向AI開發(fā)團(tuán)隊(duì)提供裸機(jī)硬件，然后由開發(fā)團(tuán)隊(duì)部署Kubernetes等容器管理解決方案來分配計(jì)算資源。然而，管理多種類型的加速卡服務(wù)器會增加開發(fā)團(tuán)隊(duì)的工作負(fù)載。為了解決這個問題，目前多家廠商可提供AI算力管理平臺或捆綁的AI開發(fā)套件。然而，由于每家廠商的資源有限，無法支持市面上的所有AI加速卡，因此，企業(yè)在做出選擇之前，應(yīng)對各管理平臺進(jìn)行仔細(xì)評估。
