再強大的AI運算,絕對不能高速I/O介面: PCIe

 

再強大的AI運算,絕對不能高速I/O介面: PCIe



因為生成式AI競賽,越來越多運算能力強大的晶片出現在市場上,譬如Google Gemini 3所應用的最新TPU張量處理器,能為LLM 訓練和推論提供目前最高效率,更快、更便宜、更省電。
然而,PCIe在 TPU系統架構中扮演了不可或缺的橋樑角色,TPU 晶片之間的高速互連使用的是 Google 自家高頻寬互連技術(如 ICI/Mesh Network),但 PCIe 負責處理 TPU 晶片與主機系統之間的互聯通訊。TPU晶片運算吞吐量極為龐大,其中PCIe的應用,不僅可提供高頻寬,更重要的是低延遲及低耗能的特性,確保運算資料傳輸順暢,所以Gemini 3所生成的內容圖片才能獲得大家如此高的滿意度。
且AI巨頭們&新創公司們,為了保持領先地位與競爭力,繼續致力研發下一代效率更優的ASIC晶片,資料吞吐量要更多,速度要更快,所以PCIe傳輸速度也必須趕上現代科技需求,甚至PCIe 6.0 64 GB/s已被實際應用。所以iPasslabs密切投入與PCI-SIG合作,確保其可靠性,取得最專業最新的測試技術,也因此才能獲得PCIe認證實驗室(PCIe ATL)。
iPasslabs能幫助客戶實現加速 AI 產品上市,歡迎聯繫我們。

登入

登入成功