百度飛槳在Graphcore IPU上實現訓練與推理全面支持
發布時間：2021-12-13 14:26
發布者：eechina
2021年12月12日，在2021 Wave Summit+上百度深度學習平臺飛槳正式發布在Graphcore IPU上實現訓練和推理全流程支持的開源代碼庫，飛槳模型庫如Bert、ERNIE等也正逐步在IPU上實現支持。自此，百度飛槳的開發者可以在IPU這一專為機器智能從零設計的創新架構上進行AI模型加速，而IPU的全球用戶也可以使用百度飛槳框架探索深度學習。對Graphcore而言，此舉將極大地擴展IPU的中文社區，中文生態系統進一步繁榮。
百度飛槳是中國領先的產業級深度學習平臺，目前累計開發者數量超過406萬，服務企業數量15.7萬家，創建了超過47.6萬個模型，為中國AI社區的繁榮做出巨大貢獻。Graphcore是飛槳硬件生態圈的初始成員之一，作為飛槳的重要硬件合作伙伴，Graphcore將通過云端和數據中心的IPU技術助力飛槳開發者實現AI模型的大幅加速，同時為使用飛槳的企業提供基于IPU的產品方案，幫助飛槳的企業級客戶提升數據中心效率。通過大幅提升模型的性能和運行速度，縮短研發周期，加快AI模型落地應用，同時降低計算成本。 目前Graphcore IPU支持通過飛槳完成大規模的模型訓練任務，也支持通過飛槳推理庫執行高性能的推理任務。雙方團隊通過在16個IPU組成的IPU-POD16上做數據并行與模型并行，并在Bert-Base模型上進行了精讀和吞吐量驗證，取得了良好的性能效果。結果證明，運行在IPU硬件上的百度飛槳解決方案，在目前主流的AI訓練任務和前沿AI創新模型任務上，可以取得很好的加速效果。IPU良好的系統擴展性使得用戶可以根據任務需求靈活進行性能擴展。 百度飛槳產品團隊負責人趙喬表示：“Graphcore是百度飛槳一直以來的好朋友和重要伙伴，非常高興宣布百度飛槳在Graphcore IPU上完成訓練和推理的支持，這是我們飛槳硬件生態一次重要的升級。百度飛槳模型庫中的模型如Bert在IPU上實現了很好的訓練和推理性能。同時，Graphcore的深度學習引擎PopART具有的良好可用性，也支持飛槳在IPU上的適配變得簡易。我們將和Graphcore深化合作，將飛槳模型庫更多的模型遷移到IPU上，共同打造基于飛槳和IPU的世界級AI解決方案，賦能AI開發者和企業�！� 隨著Graphcore在中國不斷深耕，其中文IPU社區和生態系統在不斷擴大。此次引入百度飛槳深度學習平臺，除了是其軟件Poplar SDK的重要擴充，也為Graphcore客戶，尤其是中國客戶的工具箱中多放入一件重要工具。通過對百度飛槳的支持，Graphcore支持其客戶能夠在更多框架上進行探索，IPU硬件架構的潛能優勢將得以進一步釋放。 Graphcore中國工程總負責人、AI算法科學家金琛表示：“IPU對百度飛槳的支持，是Graphcore Poplar SDK的重要升級，也是IPU生態系統的一次重大更新。百度飛槳是中文AI社區的翹楚，通過與百度飛槳合作，我們希望能夠擴大IPU中文社區，讓更多中國的開發者能夠打破傳統硬件的桎梏，在IPU上進行創新突破，幫助他們解決棘手的深度學習難題�！�
Graphcore中國工程總負責人、AI算法科學家金琛在2021 Wave Summit+上介紹IPU上的百度飛槳 百度飛槳和Graphcore IPU精神的相通之處，就是開源精神，將權力交給AI開發人員，使他們能夠自由地進行創新。Graphcore制造硬件和開發軟件都遵循這一宗旨。百度飛槳在IPU上相關的代碼和模型代碼資源已經在Graphcore GitHub和百度飛槳GitHub開源，在雙方的GitHub以及Graphcore的官網開發者頁面也附上了詳細的教程。同時，使用了飛槳的Bert-Base也已經在Graphcore的Model Garden里開源，廣大開發者可以前往雙方的資源池進行探索、調取和使用。 |
網友評論