AI-AIoT

人工智慧掀起產業革命 「超算平台」是企業生存的必備條件

「生成式AI」成企業顯學 資料中心「超算力」是致勝關鍵
2023年撼動全球的重大科技趨勢,就是「生成式人工智慧」(Generative AI)的普及應用,其中最具代表性的ChatGPT聊天機器人,能依使用者輸入指令自動產出長篇文章、腳本或企劃案;AI繪圖則可將文字轉換成影像,出神入化的「畫技」甚至奪下美術展冠軍。「人工智慧生成內容」(AIGC)已經無所不在,您所閱讀的報章雜誌或網路新聞,都有可能由「機器人」撰寫。
生成式人工智慧來勢洶洶,企業應當具備駕馭AI的伺服器超算平台,才能保持領先同業的競爭力。
與其抗拒,不如與時俱進,全球指標性企業皆投入人工智慧佈局,不僅將AI導入公司營運,更進一步鑽研電腦視覺、大型語言模型(LLM)等相關技術,自行開發出量身訂做的智慧工具,確保企業能保持競爭力。

詞彙學習:
常聽別人說AI人工智慧,你知道那是什麼嗎?
花你一分鐘,一次看懂關於電腦視覺

以電腦主機板、顯示卡、及全系列電競周邊產品在國際上享譽盛名的技嘉科技GIGABYTE,於2000年成立網通事業群,並於2023年將其分拆,成立子公司技鋼科技Giga Computing,推動伺服器研發創新及業務佈局。企業級IT架構中,HPC高效能運算伺服器擁有關鍵性的地位,針對人工智慧訓練與推論過程的最佳化,讓資料中心搖身一變成為「AI育成中心」。技嘉伺服器提供領先業界的「超算力」,並且注入長年攜手客戶開發科技新品的經驗值,在「人腦+人工智慧=即戰力」的新世局裡,直白說就是不可或缺的生存道具。《詞彙學習:技嘉小百科,告訴你高效能運算是什麼
早在ChatGPT崛起之前 技嘉就為AI開創嶄新局面
生成式AI背後的道理,說穿了就是一種「深度學習」。工程師讓電腦研讀大量的數位資訊,經由「預測」與「回饋」的反覆循環,「訓練」它分辨正確與錯誤性,並給出精準的答覆。目前正夯的自駕車,或是停車場辨識車牌號碼的監視器,都是仰賴這套技術。生成式AI的亮點在於,它不僅能判讀所接收的資訊,還能進行模仿、產出全新內容,包括文字、圖像,甚至是影音。《詞彙學習:常聽別人說Deep Learning深度學習,你知道那是什麼嗎?

世界頂尖的私人企業與研究機構,早已使用技嘉伺服器開發AI。舉例來說,知名以色列自駕車公司用技嘉G系列R系列伺服器過濾試駕資訊,微調機器人駕駛的「大腦」;台灣大學採用搭載ARM處理器的技嘉產品,製作台灣道路的「高精準車流模型」,讓自駕車能安全上路。西班牙跨學科物理和複雜系統研究所(IFISC)採購技嘉伺服器,用AI防範危害橄欖樹的「葉緣焦枯病菌」蔓延;台南成功大學則使用技嘉提供的運算叢集,突破自然語言處理(NLP)與機器學習訓練技術BERT的世界紀錄,榮獲「高速運算暨人工智慧學生競賽」冠軍。以上這些人工智慧的實用案例,都是生成式AI的先驅。
技嘉協助客戶開發AI已有多年經驗,成功案例包括助力台灣大學製作「高精準車流模型」,確保自駕車能安全上路。
業界領袖尬AI 技嘉推出次世代人工智慧推論伺服器頂尖產品
為了協助客群搶先把握人工智慧大時代的商機,技嘉持續耕耘伺服器研發,打造符合產業需求的各項解決方案。2023年,技嘉隆重推出全新G593系列GPU協同運算伺服器,該系列是當下市面上最強大、最全面性的人工智慧超算平台,適用於巨量資料分析、深度學習、機器學習等AI訓練工作。

了解更多:
搭載第四代Intel® Xeon®可擴充處理器的G593-SD0
搭載第四代AMD EPYC™處理器的G593-ZD2

G593系列產品最令人期待的特色,就是支援輝達NVIDIA頂級規格的人工智慧運算模組HGX H100 8-GPU,每個H100皆搭配第四代Tensor核心和具有FP8精確度的運算加速引擎「Transformer Engine」,等於一套HGX H100 8-GPU提供超過32 petaFLOPS的FP8深度學習計算性能。該模組搭載第四代點對點NVLink高速互連技術,提供900 GB/s的GPU互連頻寬,及加強跨節點集體通訊能力的NVIDIA NVSwitch;除此之外,還配備一氣呵成的NVIDIA AI Enterprise和NVIDIA HPC軟體堆疊,將模擬、數據分析和人工智慧效能融為一體,提供業界領導企業所需的次世代AI推論伺服器產品。

G593系列產品支援雙插槽CPU,可依客戶指定,配置最新第四代AMD EPYC™處理器或第四代Intel® Xeon®可擴充處理器,透過DDR5記憶體介面與PCIe 5.0傳輸技術,提升運算資源之間的協調效率,輕鬆應對運算密集的工作負載。技嘉透過獨家的散熱設計,將最先進的運算能量超乎想像的容納在5U規格的機殼中,領先業界的散熱技術能維持機台的穩定運行,讓超算平台發揮最大的潛能。G593系列產品亦率先通過NVIDIA認證,確保解決方案在各種應用領域和IT技術環境,都能表現最佳的兼容性與可靠度。
技嘉G593系列GPU協同運算伺服器支援輝達NVIDIA的人工智慧運算模組HGX H100 8-GPU,是市面上最強大的AI開發平台。
浸沒式液冷幫Server「泡澡」降溫 提升算力的同時還能減輕環境負擔
資料中心的運算力突飛猛進,所消耗的電力也持續攀升。生成式AI或許能讓虛擬世界變得活靈活現,但人類最終只有一顆地球才是真實的現世,如何發展AI技術的同時,降低對環境的負擔,也是佈建資料中心至關重要的課題。技嘉於伺服器解決方案擁有豐富的研發與部署經驗,積蓄多年的專業能量注入「綠色運算」應用,開發出幫伺服器「泡澡」降溫的浸沒式液冷immersion cooling產品。

了解更多:
一覽技嘉先進散熱方案
花你一分鐘,一次看懂關於浸沒式液冷

顧名思義,浸沒式液冷就是將伺服器泡在裝滿不導電冷卻液的水槽內,透過水槽外的冷卻液分配裝置(CDU),排除運算時產出的廢熱。浸沒式液冷比氣冷、甚至是直達晶片液冷(D2C)還來得省電,若以電力使用效率PUE來做比較,一般氣冷機房PUE高達1.7,浸沒式液冷能改善PUE達1.02以下,等於只需要伺服器所消耗的2%電力,就能幫資料中心進行溫控,安全釋放晶片的最大運算力,將超算平台的功效發揮得淋漓盡致,又能兼顧節能減碳、永續經營的需求。《詞彙學習:技嘉小百科,告訴你PUE電力使用效率是什麼

技嘉推出浸沒式液冷解決方案,分別已由日本電信龍頭KDDI、及台灣知名晶圓代工霸主所採用,由此可見人工智慧等尖端科技發明的普及化,對環境而言不必然是額外的負擔。2023年AI浪潮來勢洶洶,技嘉也預期會陸續發布更多的伺服器新品,並在官網提供多元應用的企業級解決方案、及唾手可得的業務諮詢途徑,協助企業建置完善的IT架構,朝向更智能、更美好的未來邁進。
技嘉提供浸沒式液冷解決方案,透過不導電冷卻液幫伺服器降溫,釋放算力同時也節能減碳,達成企業CSR、ESG目標。
想要掌握最新科技動向?馬上訂閱!
訂閱電子報
想要掌握最新科技動向?馬上訂閱!
訂閱電子報