MLOps | 機器學習作業

  • 機器學習作業是什麼?
    機器學習作業又稱MLOps,觀念是將傳統軟體開發作業(DevOps)和模型操作作業(ModelOps)所樹立的典範實務,延伸到人工智慧(AI)開發領域,透過創新的智慧管理流程,讓機器學習深度學習變得更可靠、更有效率。機器學習作業不只強調開發機器學習模型,還追加設計模型學習管線(pipeline)和產品生命週期,讓機器學習模型可以持續訓練、持續整合、持續交付,根據使用者反饋不斷改進,如此一來,機器學習活了起來,可依照實際的使用情境持續改善優化。

  • 為何需要?
    機器學習作業是一種服務模式,所包含的服務項目很多,目標是讓客戶操作機器學習時更有效率。所提供的解決方案,可能只是一套軟體、或是將軟體和硬體結合、或是訓練客戶使用方案、或是直接代替客戶操作。領先全球的雲端解決方案供應商,例如亞馬遜網路服務(AWS)、Google雲端平台(GCP)、微軟Azure,大多透過公用雲提供機器學習作業服務,小的供應商不一定與其競爭,而是用大品牌的軟硬體來服務客戶。

    機器學習作業的終端使用者掌握無限可能,不論是製造、物流、交通運輸、貿易、零售、教育或是健保醫療,都可利用優化的機器學習模型來改善工作效率,也有可能善用資料庫的海量資料,產生額外的附加價值。因此,越來越多企業開始採用機器學習作業,部署自家的機器學習模型。

  • 技嘉的特色
    技嘉科技布局軟硬體產品,推出機器學習作業相關解決方案,提供廠商和終端用戶使用。

    硬體:技嘉G系列GPU協同運算伺服器將多張GPU卡配置於高密度、小體積的機殼內,造就可擴充性高、適用於人工智慧和深度學習的高效能運算解決方案,可說是為機器學習作業量身打造的伺服器產品。GPU協同運算伺服器的特性之一,是平行運算效能高,適合設計和改良機器學習模型,發揮機器視覺、手寫辨識(HWR)、自然語言處理(NLP)等創新技術。

    軟體:深度學習和深度神經網路(DNN)訓練是機器學習作業重要一環,技嘉的邁爾凌MLSteam深度學習訓練解決方案是一站式深度學習訓練平台,特色包括通過認證與優化的預裝軟硬體架構,及多種市面上普及的深度學習框架和函式庫,供使用者選用。後台是技嘉G系列GPU協同運算伺服器,領先業界的獨特高密度設計,可支援多張GPU配置。