數位無限AI-Stack領先推出一鍵分割/還原NVIDIA MIG
產品新聞

數位無限AI-Stack領先推出一鍵分割/還原NVIDIA MIG

2021.06.15

最新的NVIDIA GPU伺服器NVIDIA DGX A100與GPU工作站NVIDIA DGX Station A100、以及NVIDIA GPU A100與NVIDIA GPU A30有一項特別的功能【NVIDIA多執行個體GPU】,也就是俗稱的「MIG」 (Multi-Instance GPU),NVIDIA Ampere架構中的MIG模式可以在A100 GPU上同時並行七個作業,也就是說可以讓每個A100 GPU最多能分隔成七個執行個體。在MIG模式下,A100可以同時運行多達七個不同大小的AI或HPC工作負載。這個功能對於AI推論作業特別有用,因為推論作業通常不需要用到現代GPU提供的所有性能。

 

然而,MIG模式只能在CUDA 11 / R450的Linux系統使用,基本上還是要透過寫指令,才能作分割及還原設定,這是有一連串的邏輯與步驟需要執行的。普遍而言,NVIDIA官方提供的分割MIG設定過程對使用者來說還是需要花不少時間,也是有其複雜度存在。數位無限AI計算管理平台「AI-Stack」領先推出一鍵分割/還原NVIDIA A100 MIG,支援管理者MIG設定(1g.5gb)與MIG還原自動化的功能。簡單來講,就是針對A100的節點提供分割與還原的功能,讓管理者在Web-based使用者介面上,輕鬆按下「一鍵按鈕」,就能自動完成繁複的A100 MIG分割或還原過程。

 

AI-Stack是GPU使用率最佳化的軟體,讓你使用NVIDIA DGX Station A100得心應手,買NVIDIA DGX A100/DGX Station A100/A100/A30不能或缺AI-Stack,只要3小時就可完成安裝立即上線,讓你隨時榨滿GPU使用率。有了MIG可以加快AI模型的開發和部署,加上AI-Stack可以執行Batch Job深度學習服務訓練模式,將訓練任務打包為shell script並於平台輸入執行命令,平台將自動建立容器並執行batch job內容,且於訓練結束時自動刪除容器,節省容器建立等待時間,並省下連進容器手動執行任務與手動刪除容器的步驟與時間。

 

數位無限AI-Stack是由最佳IT代理商零壹科技所代理的少數國內軟體品牌,產品推出至今已被多家國內頂尖大學採用,包含政治大學、成功大學、交通大學、台北科技大學、雲林科技大學等校皆為數位無限產品用戶。同時,數位無限也受到公部門與公營事業的青睞,中央氣象局、金門縣政府、屏東縣政府、台灣電力公司也陸續成為AI-Stack產品用戶,協助客戶進行AI模型的開發、訓練、部署與測試。此外,諸多在做AI-on-the-Chip的半導體設計公司亦發現AI-Stack可讓他們輕鬆的將AI模型部署到晶片中,加速產品的設計與研發過程,接連採用AI-Stack來協助AI晶片的研發,終端用戶包含奇景光電、瑞昱半導體、矽統科技、視芯智能等公司。AI-Stack是目前台灣市場上最受歡迎的AI PaaS-GPU管理平台,也是客戶選擇提升NVIDIA GPU卡使用效率的最佳首選軟體。

依據歐盟施行的個人資料保護法,我們致力於保護您的個人資料並提供您對個人資料的掌握。
按一下「全部接受」,代表您允許我們置放 Cookie 來提升您在本網站上的使用體驗、協助我們分析網站效能和使用狀況,以及讓我們投放相關聯的行銷內容。您可以在下方管理 Cookie 設定。 按一下「確認」即代表您同意採用目前的設定。

管理Cookies

隱私權偏好設定中心

依據歐盟施行的個人資料保護法,我們致力於保護您的個人資料並提供您對個人資料的掌握。
按一下「全部接受」,代表您允許我們置放 Cookie 來提升您在本網站上的使用體驗、協助我們分析網站效能和使用狀況,以及讓我們投放相關聯的行銷內容。您可以在下方管理 Cookie 設定。 按一下「確認」即代表您同意採用目前的設定。

查看隱私權政策

管理同意設定

必要的Cookie

一律啟用

網站運行離不開這些 Cookie 且您不能在系統中將其關閉。通常僅根據您所做出的操作(即服務請求)來設置這些 Cookie,如設置隱私偏好、登錄或填充表格。您可以將您的瀏覽器設置為阻止或向您提示這些 Cookie,但可能會導致某些網站功能無法工作。