人工智能伺服器的猛獸 技嘉科技推出擁16張GPU的伺服器
人工智能伺服器的猛獸 技嘉科技推出擁16張GPU的伺服器
技嘉科技推出裝有16張最強人工智能加速器的猛獸。伺服器解決方案製造商–技嘉科技,發表搭載Intel® Xeon®可擴充處理器的高速運算伺服器G291-2G0。技嘉科技運用機械和散熱工程方面的技術,在有限的2U機箱空間內,容納多達16張NVIDIA® Tesla® P4單插槽加速器。NVIDIA Tesla P4目前為全球運算速度最快的深度學習推論加速器,可提供即時推論效能,能實現兼具智慧與互動性的人工智慧架構服務。
G291-2G0採用兩顆Intel® Xeon®可擴充系列處理器,每顆CPU最多具備28核心和52個執行緒,散熱設計功耗(TDP)最高205瓦。每顆處理器支援12根DDR4記憶體插槽,系統最多支援3TB內存記憶體,並支援Intel即將推出的Optane DC Persistent Memory (Apache Pass)。
存儲方面,機箱前方配置8顆2.5吋熱插拔SATA/SAS硬碟;系統內部可額外安裝2顆2.5吋(7mm) SATA/SAS硬碟以及提供一個7pin SATA III連接埠支援SATA DOM,此兩種額外的儲存配置提供使用者安裝作業系統等應用的額外選擇。
G291-2G0內建雙10GbE Base-T網路連接埠(Intel X550-AT2網路控制晶片);以及提供一個專用管理連接埠,透過Aspeed AST2500 BMC控制器,結合技嘉科技的GSM (GIGABYTE Server Management) 軟體,讓使用者進行遠端伺服器管理。擴展性方面,機身後方提供2個半長半高PCIe x16擴充槽,可加裝其他的高速網路卡或RAID卡。
G291-2G0是專為支援NVIDIA的Tesla P4推論加速器而開發設計。效率優異的NVIDIA Tesla P4是75瓦的GPU,專門用來加速橫向擴充伺服器,減少10倍推論延遲,並提供比CPU高出40倍的驚人能源效率。