云端AI雖強,但其固有的延遲、網絡依賴和隱私風險始終是用戶體驗的隱形風險。無奈過去的移動端側AI普遍能力不足,難以在語義、生圖、問答等高頻環境下提供同等的體驗。
如今端側AI的發展勢頭迅猛,AI手機的下一次進化,必須由底層技術革新來驅動。更強大、可靠的端側AI能力,將是突破當前移動AI困境的關鍵。
在這樣的行業背景下,穩坐全球智能手機芯片市場份額頭把交椅的聯發科,再次向行業拋出了一枚重磅AI旗艦芯——天璣9500。
深入到芯片底層,其通過架構、算法等多方面的底層技術創新,實現了令人“驚艷”的AI能力提升,令端側AI能力達到了一個新的高度。同時,在最強NPU性能基礎上,天璣9500構建了一個從芯片底層到應用體驗,再到開發生態的完整創新體系,讓AI從嘗鮮加速走向常用,AI主動服務能力更強。

由此,聯發科正讓手機AI從“附加功能”轉變為“核心能力”。
一、手機市場All in AI,天璣首發雙NPU架構,端側 AI向“好用”進化
如今,AI能力已經成為手機競爭的核心焦點。
前不久蘋果秋季發布會剛剛結束,AI無疑是iPhone重要的新功能,蘋果甚至直接在GPU的核心中塞入了神經網絡處理器。同時,OPPO、vivo等手機巨頭在旗艦機發布會上頻頻強調芯片層的AI能力革新所帶來的AI體驗提升。
從芯片廠商到終端巨頭,所有玩家都在聚焦芯片AI能力的提升。AI體驗響應不夠流暢、常駐AI能力不夠省電、AI云端依賴過于嚴重……想要實現真正的端側AI自由,芯片層的技術革新勢在必行。
此次聯發科直接從芯片底層架構動刀,采用了突破性的雙NPU架構,一顆性能極強的NPU990與一顆能效出色的超能效NPU相結合。

性能 NPU,峰值性能暴漲111%的同時,峰值性能功耗還下降了56%。
具體來看,這顆性能NPU在權威ETHZ AI性能基準測試中的跑分達到了15015分,榮登榜單第一名。

▲ETHZ AI基準測試排行
根據榜單數據,當前同類旗艦手機芯片的成績通常在8000-9000分左右,天璣9500 AI性能的提升是十分可觀的,連續數年持續霸榜,天璣在推動端側 AI 落地上的決心和投入可見一斑。
與此同時,超強性能下,天璣9500的雙NPU甚至實現了更低的功耗。其中能效NPU采用了存算一體(CIM)架構,尚屬業內首個。能效NPU讓手機在運行低功耗小模型時的功耗下降了42%之多,讓手機端側AI擁有了能夠始終在線的扎實基礎。

此外還有幾項值得一提的黑科技,進一步優化了端側AI使用體驗。
·全新的Transformer專用固化電路設計:這項設計可以讓端側AI模型跑的又快又省電,實現了硬件級的AI加速,結合推理加速算法Eagle的應用,生成性能最高提升了2倍。
·首發支持四通道UFS 4.1:可以讓模型的加載速度再次提升40%。同時,新的大模型內存壓縮技術能進一步節省帶寬占用、降低功耗開銷。
·端側支持了BitNet 1.58bit推理框架技術,相比上代實現了33%左右的功耗下降。
