【導(dǎo)讀】2026年的WAIC，比往年更加火熱。展館外，排隊入場的人流拐了幾個彎；展館內(nèi)，108款A(yù)I芯片、261款大模型集中亮相，9位圖靈獎得主同臺分享。無論是論壇演講還是企業(yè)展示，一個核心議題始終貫穿全場——如何解決AI不斷增長的計算需求。
當(dāng)下，大模型變小是一個很明顯的趨勢，AI也正在從云端走向邊緣不斷遷移?？梢哉f，從汽車、機器人到各類AIoT設(shè)備，未來所有的終端都會具備本地AI智能，這對嵌入式AI計算能力提出了新的要求。
在今年WAIC上，安謀科技重點公布了面向邊緣AI的新產(chǎn)品進展，首次展示了“星辰300”AIoT原型平臺。該平臺采用“星辰”CPU、Helium矢量擴展以及Ethos NPU組成的異構(gòu)計算架構(gòu)，首代平臺基于STAR-MC2（即Cortex-M52）與Ethos-U55打造，在傳統(tǒng)MCU的基礎(chǔ)上引入AI算力，全面支持主流輕量級AI模型，為嵌入式設(shè)備增加本地AI推理能力。
目前，安謀科技已經(jīng)在FPGA平臺完成“星辰300”系統(tǒng)驗證，并成功運行了人臉檢測、語音識別、關(guān)鍵詞喚醒以及圖像超分辨率等多個典型AI應(yīng)用，為邊緣智能設(shè)備的落地提供了可驗證的技術(shù)基礎(chǔ)?，F(xiàn)場，安謀科技“星辰”CPU產(chǎn)品線產(chǎn)品負責(zé)人朱曉鳴向EEWorld介紹了這套系統(tǒng)的技術(shù)細節(jié)和未來規(guī)劃。
小模型催生萬物AI時代
“模型規(guī)模不斷縮小，越來越多原本只能部署在數(shù)據(jù)中心的大模型能力，開始具備進入終端芯片的可能，萬物AI時代正逐漸從概念走向現(xiàn)實?！敝鞎曾Q在WAIC現(xiàn)場上向EEWorld強調(diào)道。
朱曉鳴分析，近年來，大模型推動了云端AI的快速發(fā)展，超節(jié)點、萬卡集群乃至十萬卡集群已經(jīng)成為支撐大模型訓(xùn)練和推理的重要基礎(chǔ)設(shè)施，AI也正在深刻改變?nèi)藗兊墓ぷ骱蜕罘绞?。相比于云端算力的發(fā)展，真正與用戶日常生活緊密相關(guān)的，是數(shù)量龐大的端側(cè)設(shè)備。如何讓資源有限、算力受限的嵌入式設(shè)備具備AI能力，成為AI普及過程中必須解決的問題，這也是安謀科技關(guān)注的重點。
他指出，AI模型的發(fā)展趨勢正在為端側(cè)AI創(chuàng)造新的機會。過去，要達到業(yè)內(nèi)普遍認為具備商用價值的MMIU Benchmark 60分門檻，往往需要數(shù)百B參數(shù)規(guī)模的大模型，這意味著AI只能運行在云端服務(wù)器上。但隨著算法持續(xù)演進，到2025年至2026年左右，僅約1B參數(shù)規(guī)模的模型便已經(jīng)能夠達到這一商用基準。
解決AIoT痛點的三條路徑
朱曉鳴強調(diào)，過去的IoT強調(diào)的是“連接萬物”，而現(xiàn)在AIoT更強調(diào)“認知萬物”。AI時代端側(cè)設(shè)備開始具備認知能力、決策能力、自主運行能力，計算也不再完全依賴云端。
端側(cè)AI的發(fā)展主要受到四方面因素推動：感知類數(shù)據(jù)重心在邊端側(cè)、實時性和自主性應(yīng)用快速增長、隱私和數(shù)據(jù)主權(quán)重視程度不斷提升、低功耗輕量級芯片技術(shù)持續(xù)進步。
進展飛速，但端側(cè)AI的發(fā)展始終受到資源約束。朱曉鳴表示，用戶希望終端設(shè)備擁有更強的推理能力、更長的上下文、更穩(wěn)定的Always-On能力，但現(xiàn)實中，電池容量、散熱能力、CPU算力、存儲容量以及內(nèi)存帶寬都存在天然限制。相比數(shù)據(jù)中心，端側(cè)設(shè)備面對的內(nèi)存墻、帶寬墻問題更加突出，因此如何在有限資源下充分釋放AI性能，是端側(cè)芯片設(shè)計需要解決的核心課題。
針對這一挑戰(zhàn)，安謀科技提出了三條技術(shù)路徑：
第一條路徑是在CPU基礎(chǔ)上擴展AI能力，通過增加向量計算和張量計算相關(guān)指令，讓CPU同時具備通用計算與AI計算能力；
第二條路徑是在端側(cè)增加通用型小算力NPU，相比專用加速器，這類NPU具備更好的通用性和生態(tài)兼容能力，可以根據(jù)不同應(yīng)用靈活與CPU進行耦合或解耦設(shè)計；
第三條路徑則是存內(nèi)計算（Compute-in-Memory），對嵌入式芯片而言，SRAM是最常見的數(shù)據(jù)存儲介質(zhì)，通過在SRAM內(nèi)部完成部分計算，可以減少數(shù)據(jù)搬運，在特定算法場景下獲得更高的能效比。
安謀科技選擇圍繞CPU增強與通用NPU兩條路線，構(gòu)建完整的端側(cè)AI計算體系。
基于上述技術(shù)體系，安謀科技推出了自主研發(fā)的“星辰（STAR）”CPU系列。目前STAR系列已經(jīng)發(fā)布三代產(chǎn)品，第四代正在研發(fā)過程中。自第二代STAR MC2開始，產(chǎn)品已全面支持Helium技術(shù)，實現(xiàn)了Arm最新M系列CPU架構(gòu)能力的持續(xù)傳承。
左手CPU：用M52換掉你的M33和M4
首先，在CPU方面，安謀科技擁有Cortex-M和Cortex-A兩個法寶。
Cortex-M系列CPU憑借極高的面積效率和能效比，長期應(yīng)用于嵌入式領(lǐng)域。從Armv8.1-M架構(gòu)開始，Arm首次引入Helium向量擴展指令集，為M系列CPU增加了高效的SIMD向量處理能力。在A系列處理器方面，Arm也針對IoT和邊緣計算推出了面向嵌入式應(yīng)用優(yōu)化的CPU產(chǎn)品，并支持SVE等向量技術(shù)，為端側(cè)提供更高效的標量與向量計算能力。
“星辰300”第一代平臺在MCU方面選擇了Cortex-M52。實際上，這款產(chǎn)品在早年就已經(jīng)面世，先前在中國市場，它被稱為“星辰”STAR-MC2，是Arm和安謀科技研發(fā)工程團隊的合作產(chǎn)品。M52雖然名字前綴是Cortex-M，但其實根植于中國市場，有著中國市場基因，其中一些設(shè)計哲學(xué)也會更靠近國人習(xí)慣。
M52的整體架構(gòu)與M33和M4基本一致，但其采用更強大的Arm v8.1-M架構(gòu)，同事提供非常突出的AI性能。
與M33相比，M52的ML性能可提升多達5.6倍，DSP可提升多達2.7倍，能效提升了2.1倍。 不過，在面積方面，M52比M33大30%，比M55小23%。換言之，與M33相比，M52的硅面積增加了約10%，換來了大約5%的整體性能提升。由此，可以看出M52的定位，用更多面積換取更多AI性能，并以此劃分新產(chǎn)線。
根據(jù)Arm的定位，利用M52最終可以推出1～2美元的SoC。說白了，這個價格非?！靶《馈保軌蚋采w到更多低功耗產(chǎn)品。所以，我們可以看出安謀科技的野心，希望未來讓所有設(shè)備都能被AI所惠及。
當(dāng)然，對于CPU，安謀科技的野心不止于此，在此次WAIC上，安謀科技展示了“星辰”STAR系列CPU IP的規(guī)劃，包括STAR-MC（開陽）和Merak（天璇）。
右手NPU：超強性能的Ethos-U55
其次，在NPU方面，Arm推出了Ethos系列NPU，它無疑是M核和A核的好搭檔。
朱曉鳴介紹，Ethos并不是追求極高算力，而是重點優(yōu)化面積和功耗，為端側(cè)設(shè)備提供適度的AI加速能力，因此Ethos也被業(yè)界被稱為microNPU（微型神經(jīng)網(wǎng)絡(luò)處理器），專門用于加速面積受限的嵌入式設(shè)備和物聯(lián)網(wǎng)設(shè)備中的機器學(xué)習(xí)推理。當(dāng)CPU無法高效完成矩陣計算，或者被控制任務(wù)占滿時，Ethos能夠承擔(dān)AI推理任務(wù)，對CPU進行卸載（Offload），從而提升整體系統(tǒng)性能和能效。
Ethos NPU目前已經(jīng)發(fā)展至三代，包括Ethos-U55、Ethos-U65和Ethos-U85，覆蓋64 GOPS至4 TOPS的算力范圍。
“星辰300”第一代平臺選擇了Ethos-U55這一型號產(chǎn)品。U55也是“小而美”的存在，對于成本敏感且功率受限的設(shè)備，U55可在約0.1 mm2的面積內(nèi)將AI應(yīng)用能耗降低高達90%。
具體看配置，在1 GHz下算力可達64 ~ 512 GOP/s，內(nèi)部 SRAM約為18 ~ 50 KB，片上外部 SRAM支持KB級至多MB級，MAC 數(shù)（8×8）為32、64、128、256，主流網(wǎng)絡(luò)利用率最高 85%。
支持CNN、RNN/LSTM算法，面向未來的算子覆蓋大量計算密集型算子直接在 microNPU 上運行，例如：卷積（Convolution）、LSTM、RNN、池化（Pooling）、激活函數(shù)（Activation Functions）、基礎(chǔ)逐元素運算（Element-wise Functions），其他內(nèi)核則會自動在緊密耦合的 Cortex-M 上，通過CMSIS-NN運行。
Helium：提升AI效率的另一個關(guān)鍵
值得注意的是，自STAR-MC2（Cortex-M52）開始，安謀科技全面采用Armv8.1-M架構(gòu)，并引入了Helium技術(shù)。這是Armv8.1-M架構(gòu)最重要的新增能力之一，也是其面向端側(cè)AI的重要技術(shù)基礎(chǔ)。
Helium專門針對AI、數(shù)字信號處理（DSP）和機器學(xué)習(xí)（ML）場景進行了優(yōu)化，支持128-bit固定長度向量計算，并新增約150條面向向量計算、矩陣運算等AI負載的專用指令，可顯著提升機器學(xué)習(xí)和DSP應(yīng)用性能，使低功耗嵌入式設(shè)備無需集成專用NPU，也能夠運行更多計算密集型的ML推理任務(wù)。
對于最受限且能效優(yōu)先的嵌入式系統(tǒng)，歷史上解決方案是將Cortex處理器與SoC中的數(shù)字信號處理器（DSP）耦合，這增加了硬件和軟件設(shè)計的復(fù)雜性。Armv8.1-M配合Helium，通過提供實時控制代碼、機器學(xué)習(xí)和數(shù)字信號處理執(zhí)行，消除了這些挑戰(zhàn)，同時不犧牲效率。
Helium在常見信號處理任務(wù)中可實現(xiàn)最高5倍的性能提升，在機器學(xué)習(xí)（ML）任務(wù)中可實現(xiàn)最高15倍的性能提升。在音頻編解碼測試中，相比傳統(tǒng)Cortex-M4處理器，集成Helium技術(shù)的Cortex-M52性能可提升約30%，Cortex-M55提升約50%，Cortex-M85提升約65%。而在機器學(xué)習(xí)測試中，Helium的優(yōu)勢更加明顯，典型場景平均可獲得約3倍性能提升，部分測試案例甚至超過8倍。
更重要的是，Helium專為安全而設(shè)計，Helium與TrustZone合作，為實現(xiàn)符合平臺安全架構(gòu)（PSA）的系統(tǒng)奠定堅實基礎(chǔ)。
一套系統(tǒng)的有機結(jié)合
那么，安謀科技如何讓CPU和NPU有機結(jié)合到一起？朱曉鳴認為，不同端側(cè)AI應(yīng)用對應(yīng)不同算力需求。對于簡單的圖像識別、語音檢測等任務(wù)，僅依靠CPU即可完成；但當(dāng)應(yīng)用擴展到實時視覺處理、多目標識別以及輕量級語言模型等復(fù)雜場景時，僅依賴CPU已經(jīng)無法滿足性能需求，此時Ethos NPU可以提供最高4 TOPS算力支持，與CPU共同覆蓋絕大多數(shù)端側(cè)AI應(yīng)用。
值得注意的是，為了實現(xiàn)M52所提供的ML和DSP性能，往往需要將CPU、DSP和NPU結(jié)合起來，但如此一來，在硬件準備就緒后，開發(fā)者需要使用三個不同的工具鏈、編譯器和調(diào)試器進行芯片的編寫、調(diào)試和代碼調(diào)整。
U55與Cortex-M采用統(tǒng)一工具鏈，簡化開發(fā)者使用流程；M52也同樣支持可以通過通用API使用單一語言進行編碼，并在應(yīng)用程序的DSP和ML元素中實現(xiàn)所需的性能，無需了解處理器的具體硬件細節(jié)；Helium也可以簡化開發(fā)，開發(fā)者可以利用便捷的編程器模型和一站式工具鏈，減少開發(fā)工作量和成本。
對于“星辰300”的未來演進方向，朱曉鳴表示，“星辰”CPU+Helium+Ethos NPU的組合路徑，讓嵌入式設(shè)備在有限的功耗和算力下盡可能多的釋放AI計算潛力。
正如朱曉鳴在會議強調(diào)的：“隨著萬物AI時代的到來，端側(cè)設(shè)備對AI能力的需求將持續(xù)增長，但資源受限始終是嵌入式AI必須面對的現(xiàn)實。Helium通過增強CPU向量計算能力，大幅提升了音頻處理和機器學(xué)習(xí)性能；Ethos則以高能效、低面積成本，為端側(cè)提供矩陣計算加速能力。結(jié)合STAR CPU、Helium以及Ethos構(gòu)建的異構(gòu)計算平臺，安謀科技希望能夠為未來各類端側(cè)設(shè)備充分釋放AI性能，推動萬物AI真正走向普及?！?/p>
