芯原超低能耗NPU可為移動端大語言模型推理提供超40 TOPS算
發布時間：2025-6-11 10:19
發布者：焦點訊
|
具備高能效比的架構，廣泛適用于智慧手機和AI PC等終端設備 2025年6月9日，中國上�！驹煞荩ㄐ驹�，股票代碼：688521.SH）今日宣布其超低能耗且高性能的神經網絡處理器（NPU）IP現已支持在移動端進行大語言模型（LLM）推理，AI算力可擴展至40 TOPS以上。該高能效NPU架構專為滿足移動平臺日益增長的生成式AI需求而設計，不僅能夠為AI PC等終端設備提供強勁算力支持，而且能夠應對智慧手機等移動終端對低能耗更為嚴苛的挑戰。 芯原的超低能耗NPU IP具備高度可配置、可擴展的架構，支持混合精度計算、稀疏化優化和并行處理。其設計融合了高效的內存管理與稀疏感知加速技術，顯著降低計算負載與延遲，確保AI處理流暢、響應迅速。該NPU支持數百種AI算法，如AI降噪（AI-NR）和AI超分（AI-SR）等，并兼容Stable Diffusion和LLaMA-7B等主流AI模型。同時，該NPU IP還可與芯原其他處理器IP無縫集成，實現異構計算，助力SoC設計者打造滿足多元化應用需求的AI解決方案。 此外，芯原的超低能耗NPU IP還支持TensorFlow Lite、ONNX和PyTorch等主流AI框架，可加速客戶在不同AI應用場景中的部署進程并簡化集成工作。 “智能手機等移動設備正逐步演變為個人AI服務器。隨著生成式AI（AIGC）和多模態大語言模型技術的快速發展，市場對AI算力的需求呈指數級增長，并已成為移動產品的關鍵差異化要素�！毙驹紫瘧鹇怨�、執行副總裁、IP事業部總經理戴偉進表示，“在支持高強度AI計算負載的過程中，能耗控制是最關鍵的挑戰之一。芯原持續深耕面向智慧手機和AI PC的超低能耗的NPU研發，并通過與主流SoC合作伙伴的緊密協作，見證了該技術在新一代智慧手機和AI PC中實現量產�！� ### 關于芯原 公司擁有自主可控的圖形處理器IP（GPU IP）、神經網絡處理器IP（NPU IP）、視頻處理器IP（VPU IP）、數字信號處理器IP（DSP IP）、圖像信號處理器IP（ISP IP）和顯示處理器IP（Display Processing IP）這六類處理器IP，以及1,600多個數�；旌螴P和射頻IP。 基于自有的IP，公司已擁有豐富的面向人工智能（AI）應用的軟硬件芯片定制平臺解決方案，涵蓋如智能手表、AR/VR眼鏡等始終在線（Always-on）的輕量化空間計算設備，AI PC、AI手機、智慧汽車、機器人等高效率端側計算設備，以及數據中心/服務器等高性能云側計算設備。 為順應大算力需求所推動的SoC（系統級芯片）向SiP（系統級封裝）發展的趨勢，芯原正在以“IP芯片化（IP as a Chiplet）”、“芯片平臺化（Chiplet as a Platform）”和“平臺生態化（Platform as an Ecosystem）”理念為行動指導方針，從接口IP、Chiplet芯片架構、先進封裝技術、面向AIGC和智慧出行的解決方案等方面入手，持續推進公司Chiplet技術、項目的研發和產業化。 基于公司獨有的芯片設計平臺即服務（Silicon Platform as a Service, SiPaaS）經營模式，目前公司主營業務的應用領域廣泛包括消費電子、汽車電子、計算機及周邊、工業、數據處理、物聯網等，主要客戶包括芯片設計公司、IDM、系統廠商、大型互聯網公司、云服務提供商等。 芯原成立于2001年，總部位于中國上海，在全球設有8個設計研發中心，以及11個銷售和客戶支持辦事處，目前員工已超過2,000人。 |
網友評論