英偉達在IEDM 2024大會上介紹未來AI加速器設計，計劃引入硅光子技術
發布時間：2024-12-13 09:47
發布者：eechina
|
近日，在2024 IEEE國際電子設備會議（IEDM）上，全球領先的圖形處理與人工智能計算技術提供商英偉達（NVIDIA）展示了其對未來人工智能（AI）加速器的創新設計。 據英偉達介紹，其未來AI加速器的設計將引入硅光子技術（SiPh）作為I/O器件，這一革命性的變化將顯著提升數據傳輸速度和能效，同時減少模塊之間的信號傳輸距離，從而改善整體性能。硅光子技術的引入，標志著與傳統互連技術相比的一次重大飛躍，傳統互連技術一直受到銅制材料自然特性的限制。 英偉達的新架構采用了垂直供電和多模塊設計，集成了硅光子I/O器件，并運用了3D垂直堆疊DRAM內存。在這一設計中，每個AI加速器復合體將包含四個GPU模塊，每個GPU模塊將與六個DRAM內存模塊垂直堆疊，并配備三組硅光子I/O器件。這種堆疊DRAM內存與GPU模塊之間實現了直接電氣連接，類似于AMD的3D V-Cache技術，但規模更大、集成度更高。 具體來說，新架構需要12個硅光子I/O器件來實現芯片內和芯片間的連接，每個GPU模塊有三個連接，每層有四個GPU模塊。這種設計不僅提高了帶寬和能效，還有助于優化數據流，提升可擴展性和性能。 英偉達表示，硅光子I/O技術的大規模制造將是一個特殊的挑戰，預計每月需要生產超過100萬個這類器件才能滿足需求。同時，英偉達還在探索創新的解決方案，以解決模塊堆疊帶來的散熱問題，并可能引入更先進的材料和技術來優化熱管理。 盡管面臨諸多技術挑戰，英偉達仍表示，其新型AI加速器設計距離商業化還需要一段時間，預計將在2028年至2030年之間投入使用。 |
網友評論