Heterogeneous Computing | 異質運算

  • 異質運算是什麼?
    一般來說,異質運算是指系統使用不同種類的計算單元,例如CPUGPUDPU、VPU、FPGA或ASIC。不同運算工作交由符合需求的專用處理器來執行,大幅提升運算效能、改善能源使用效率,計算單元之間透過高流量、低延遲的通道互相串聯,就如一個大型處理器。

    近年來,異質運算的定義變得更廣泛,包含使用不同架構的處理器,例如Arm架構處理器,其運算核心數量較多、功耗較低,也比較容易與Arm架構行動裝置互相「溝通」。使用不同處理器架構的伺服器解決方案,有可能更快解決特殊的工作負載。

  • 為何需要?
    如果您的伺服器解決方案使用CPU以外的協同處理器,例如GPU或是DPU,這就是所謂的異質運算,使用協同處理器大幅提升運算效能,減少完成運算所需的時間。尤其是運用機器視覺或深度學習開發人工智慧(AI),伺服器必須處理大量的視覺資訊,適合用頻率較低、核心數量較多的GPU產品,輔助CPU快速完成運算工作。

    使用不同的處理器架構,等於是進階版的異質運算,最近的趨勢是找尋x86架構以外的替代方案,例如Arm架構處理器,可開發新的運算產品,充分發揮異質運算的潛能。如果您目前使用的處理器和協同處理器不足以滿足您的運算需求,那使用不同處理器架構的異質運算解決方案,可能就是您所需要的產品。

  • 技嘉的特色
    技嘉科技旗下的伺服器解決方案,幾乎都能實現狹義的異質運算,就是將CPU與GPGPU等協同處理器結合,進行平行運算機器學習等特殊運算工作。主要的處理器可採用最新的Intel® Xeon® 可擴充處理器或AMD EPYC™處理器,並透過新一代的PCIe Gen 4.0連接顯示卡、儲存裝置、高速網路卡等零組件,PCIe Gen 4.0最高頻寬64GB/s,是PCIe Gen 3.0的兩倍快。

    技嘉長年開發Arm架構系統,推出一系列支援Ampere® Altra®處理器的Arm架構伺服器,適合高效能運算(HPC)雲端運算邊緣運算,所提供的高擴充性能協助使用者滿足各種運算需求。NVIDIA®發表 NVIDIA® Arm HPC 開發套件,包含支援單顆Ampere® Altra®處理器的技嘉G242伺服器、兩張NVIDIA A100 Tensor核心運算卡、一張NVIDIA® BlueField® 2資料處理器以及NVIDIA® HPC軟體開發套件,為高效能運算和AI應用開發者提供另類的開發平台選項,運用最適當的異質運算方案解決困難的運算問題。

    免費下載Tech Guide:《How to Build Your Data Center with GIGABYTE?