HBM2E和GDDR6 助力新一輪人工智能應用浪潮
發布時間：2020-9-30 12:41
發布者：eechina
|
作者：Rambus IP核營銷高級總監Frank Ferro 當前，隨著人工智能/機器學習（AI/ML）的極速興起，智能技術正被廣泛應用于制造業、交通、醫療、教育和金融等各個領域，人工智能將掀起下一次工業革命。 中國作為全球人工智能發展最快的國家之一，正備受矚目。根據德勤最新發布的統計預測數據顯示，2020年全球人工智能市場規模將達到6800億元人民幣，復合增長率（CAGR）達26%。而中國人工智能市場的表現尤為突出，到2020年市場規模預計將達到710億元人民幣，自2015年至2020年，五年間的復合增長率高達44.5%。 近年來，中國正在積極推動人工智能與實體經濟的融合，從而實現產業的優化升級。2017年7月，國務院印發了《新一代人工智能發展規劃》，這一規劃與2015年5月發布的《中國制造2025》共同構成了中國人工智能戰略的核心。這份具有里程碑意義的規劃，對人工智能發展進行了戰略性部署，力爭到2030年把中國建設成為世界主要人工智能創新中心。此外，2020年是中國的新基建元年，而人工智能作為一大重點板塊，勢必成為新基建的核心支撐。 在此背景下， 中國人工智能產業規模在2019年末達到510億元人民幣，其中人工智能企業超過2600家。隨著中國加速推進人工智能應用以引領經濟增長，這一趨勢將推動計算機硬件和軟件各方面的快速發展。 Rambus在最新發布的白皮書中探討了內存帶寬對AI/ML的重要作用，特別介紹了HBM2E和GDDR6內存優勢和設計注意事項。白皮書還解釋了每種內存在整個AI/ML架構中的適用性，以及如何利用Rambus HBM2E和GDDR6接口解決方案來實現一個完整的內存子系統。以下是白皮書的一些重要內容： AI/ML步入高速發展期 作為AI/ML的關鍵應用場景，訓練與推理能力的發展，從某種程度上代表著人工智能的高速發展。從2012年到2019年，人工智能訓練集增長了30萬倍，要求人工智能計算機硬件和軟件的各個方面都需要不斷的快速改進。與此同時，人工智能推理正在網絡邊緣和廣泛的物聯網設備中采用，包括在汽車/ADAS中。 支持這一發展速度需要的遠不止摩爾定律所能實現的改進，摩爾定律在任何情況下都在放緩，這就要求人工智能計算機硬件和軟件的各個方面都需要不斷的快速改進。 內存帶寬是影響AI發展的關鍵因素 內存帶寬將成為人工智能持續增長的關鍵焦點領域之一。以先進的駕駛員輔助系統（ADAS）為例，第3級及更高級別系統的復雜數據處理需要超過200 GB/s的內存帶寬。這些高帶寬是復雜的AI/ML算法的基本需求，在道路上自駕過程中這些算法需要快速執行大量計算并安全地執行實時決策。在第5級，即完全自主駕駛，車輛能夠獨立地對交通標志和信號的動態環境作出反應，以及準確地預測汽車、卡車、自行車和行人的移動，將需要超過500GB/s的內存帶寬。 隨著新一代AI/ML加速器和專用芯片的快速發展，新的內存解決方案，如高帶寬內存（HBM、HBM2、HBM2E）和GDDR6 SDRAM（GDDR6）漸被采用來提供所需的帶寬。 HBM2E和GDDR6助力新一輪人工智能應用浪潮 鑒于AI/ML的需求分流的特性，內存的選擇取決于應用：訓練還是推理。HBM2E和GDDR6這兩種高帶寬內存，都可以起到至關重要的作用。 對于訓練來說，帶寬和容量是至關重要的需求。特別是考慮到訓練集的規模正以每3.43個月翻一番的速度增長。此外，在數據中心運行的訓練應用程序因電源和空間所致的限制越來越大，因此有一個提供更佳能效和更小尺寸的解決方案是一大加分�？紤]到所有這些需求，HBM2E是AI訓練硬件的理想內存解決方案。 在推理的情況下，帶寬和延遲對于實時操作的需求至關重要。對于人工智能推理這一日益具有挑戰性的領域，GDDR6是一個理想的解決方案。建立在成熟的制造工藝基礎上，其出色的性價比使其適合廣泛的采用。 Rambus提供全面且現成的HBM2E和GDDR6內存接口解決方案，可集成到AI/ML訓練和推理SoCs中。最近，該公司的 HBM2E內存接口解決方案實現了創紀錄的4 Gbps性能。該解決方案由完全集成的PHY和控制器組成，搭配業界最快的，來自SK hynix的3.6Gbps運行速度的HBM2E DRAM，該解決方案可以從單個HBM2E設備提供460 GB/s的帶寬。此性能可以滿足TB級的帶寬需求，針對最苛刻和最先進的AI/ML訓練和高性能的加速器計算（HPC）應用而生。 總的來說，訓練和推理有其獨特的應用需求，可以通過定制內存解決方案來支持。HBM2E是AI訓練的理想選擇，GDDR6是AI推理的理想選擇。設計師可以通過與Rambus合作來克服這些架構中固有的設計挑戰，從而實現這些高性能內存的長處。 更多相關信息，請獲得完整白皮書。 
HBM2E和GDDR6：AI內存解決方案白皮書.pdf
(2.14 MB)
|
網友評論