日前，在Elexcon 2024深圳電子展上，Arm 物聯(lián)網(wǎng)事業(yè)部業(yè)務(wù)拓展副總裁馬健介紹了Arm在AI時(shí)代的新機(jī)遇，以及如何賦能邊緣AI的發(fā)展。通過硬件、軟件以及生態(tài)系統(tǒng)三大方面，Arm正在從云到端地賦能AI產(chǎn)業(yè)的進(jìn)步。

生成式AI正在從云到端

馬健表示，ChatGPT大熱代表了生成式AI iPhone時(shí)刻的到來，僅用5天時(shí)間便達(dá)到了100萬用戶，兩個(gè)月內(nèi)輕松突破1億用戶。這種前所未有的增長速度表明了大眾對AI技術(shù)的需求和認(rèn)可。

如今，隨著AI技術(shù)的發(fā)展，大模型不只是在生成式語言方面廣泛應(yīng)用，同時(shí)也正在助力自動(dòng)化轉(zhuǎn)型。無論是云端部署還是在邊緣設(shè)備上的應(yīng)用，AI正在快速普及。從智能家居到自動(dòng)駕駛，再到機(jī)器人技術(shù)，GPT大模型都在推動(dòng)這些領(lǐng)域的創(chuàng)新?！癆I算力正如水電一樣，逐漸成為一種無處不在的基礎(chǔ)資源，賦能各種新興應(yīng)用場景?！瘪R健說道。

馬健指出，“大模型在邊緣落地的速度也是非常驚人的。AI模型和芯片技術(shù)的突破，以及對實(shí)時(shí)響應(yīng)、成本、用戶體驗(yàn)以及安全隱私的訴求，都讓AI算力迅速向邊緣端擴(kuò)展?！?p>

邊緣AI的突破，使AI不僅在信息處理領(lǐng)域取得突破，更開始與物理世界深度融合。這種融合是釋放AI最大潛力和價(jià)值的關(guān)鍵。

三方面賦能邊緣AI

硬件、軟件以及生態(tài)系統(tǒng)，是Arm賦能邊緣AI的三要素。盡管一直以來，無論是在手機(jī)、嵌入式甚至云端等場景中，Arm一直通過這三方面幫助客戶及行業(yè)創(chuàng)新，但在AI時(shí)代，這三要素又有著更深層次的含義。

在硬件方面，Arm的主力Cortex M和Cortex A系列構(gòu)成了滿足邊緣豐富算力需求的處理器，同時(shí)還提供了諸多安全技術(shù)保護(hù)AI數(shù)據(jù)和操作的安全性。

最新Arm v9架構(gòu)的Cortex A系列處理器，通過引入SVE和SME，顯著加強(qiáng)了CPU在矢量及矩陣處理上的能力，可滿足AI推理算力需求。比如去年發(fā)布的Arm Cortex A720 A520以及X4，支持SVE2 矢量拓展引擎。而在Cortex M系列上，M55、M85以及M52，引入了Helium矢量拓展，使信號處理能力提高5倍、機(jī)器學(xué)習(xí)能力提高15倍，“為AI在小型低功耗的設(shè)備上的普及奠定了堅(jiān)實(shí)的基礎(chǔ)?！?p>

另外，Arm也推出了專用的嵌入式AI加速器Ethos NPU，目前已被包括英飛凌、恩智浦、奇景光電、新唐﹑Alif和Synaptics等廠商采用。最新的Ethos U85還提供了對Transformer等新一代神經(jīng)網(wǎng)絡(luò)技術(shù)的原生支持。相比上一代產(chǎn)品性能提高4倍，能效提高了20%。

值得注意的是，Ethos U85不僅可以與Cortex M系列嵌入式處理器搭配，還可以與Cortex A系列搭配，支持包括安卓、Linux甚至Windows等操作系統(tǒng)。

另外，為了加速邊緣AI芯片的開發(fā)，Arm更是推出了Corstone參考設(shè)計(jì)，將MCU、CPU、NPU以及ISP等IP打包，并提供原型仿真平臺、虛擬硬件和FPGA等，可以減少客戶開發(fā)和驗(yàn)證成本。這些參考設(shè)計(jì)包括了邊緣AI、低功耗、視覺等等不同領(lǐng)域的推薦組合。

“硬件是功能的載體，軟件才是產(chǎn)品的靈魂，軟件以及開發(fā)工具是Arm智能計(jì)算平臺的關(guān)鍵組件?！瘪R健說道、Arm提供了廣泛的軟件工具，包括虛擬硬件、IP Explore、ML-Zoo等，同時(shí)也和第三方合作，包括PyTorch、TensorFlowLite等主流AI框架，以及百度飛槳等國內(nèi)產(chǎn)品。

而在生態(tài)系統(tǒng)方面，Arm與合作伙伴和生態(tài)系統(tǒng)攜手，在機(jī)器學(xué)習(xí)從概念到部署的全流程中，提供支持和價(jià)值服務(wù)。

“Arm特有的 IP授權(quán)模式，以及開放的生態(tài)，可以使OEM和ODM有多種基于arm架構(gòu)的芯片和計(jì)算平臺的選擇，從而更加靈活的開發(fā)適于最終應(yīng)用的系統(tǒng)方案?！瘪R健表示。

另外，馬健還介紹了Arm的一項(xiàng)新的商業(yè)模式，F(xiàn)lexible Access，客戶僅需支付極低的年費(fèi)，就可以訪問Arm的所有IP，參考設(shè)計(jì)、仿真平臺以及工具鏈，僅需量產(chǎn)后支付授權(quán)費(fèi)，這樣給自由創(chuàng)新帶來了極大好處。樹莓派就采用了這一種方式。

“目前全球大概約有90%的AI都運(yùn)行在Arm架構(gòu)的CPU上，這些持續(xù)投入也會(huì)使Arm成為全球最普遍的計(jì)算平臺之一，吸引更多開發(fā)者加入，不斷壯大Arm的生態(tài)?！瘪R健總結(jié)道。