最新のNVIDIA GPUサーバーNVIDIA DGX A100やGPUワークステーションNVIDIA DGX Station A100、さらにNVIDIA GPU A100およびNVIDIA GPU A30には、特別な機能である「NVIDIA Multi-Instance GPU」(MIG)が搭載されています。この機能により、1つのA100 GPUを最大7つの独立したインスタンスに分割できます。MIGモードでは、A100 GPUが同時に最大7つの異なるAIまたはHPC(高性能計算)作業負荷を処理可能です。この機能は、特にAI推論作業において大きな利点があります。推論作業は通常、GPUの全性能を必要としないため、MIGによって効率的にリソースを分割し、複数のタスクを同時に実行することで運用効率を向上させます。
しかしながら、MIGモードはCUDA 11/R450のLinuxシステムでのみ使用可能で、設定にはコマンド操作が必要です。このプロセスは一連の論理手順を踏む必要があり、ユーザーには複雑で時間のかかる作業と感じられる場合があります。NVIDIA公式のMIG分割設定方法も、手間と学習コストがかかることが一般的です。これに対し、INFINITIXの「AI-Stack」はNVIDIA A100 MIGの分割(例:1gb.5gb単位)や復元をワンクリックで自動化する機能を提供します。管理者はWebベースのインターフェース上でワンクリックするだけで、複雑なMIGの分割や復元プロセスを迅速に完了できます。
AI-StackはGPU利用率を最適化するソフトウェアで、NVIDIA DGX Station A100を効率的に活用できます。NVIDIA DGX A100、DGX Station A100、A100、A30を購入する際には欠かせない存在で、3時間以内にインストールを完了し、すぐに稼働を開始でき、GPUの利用率を最大限引き出せます。MIGの活用により、AIモデルの開発とデプロイが迅速化されます。さらに、AI-Stackはバッチジョブ形式の深層学習トレーニングをサポートしており、トレーニングタスクをシェルスクリプト化してコマンドを入力するだけで、プラットフォームが自動的にコンテナを生成し、ジョブを実行します。トレーニングが終了するとコンテナは自動削除されるため、待機時間を削減し、手動操作や削除の手間も省けます。これにより、AI開発の効率が大幅に向上します。
INFINITIXの「AI-Stack」は、台湾のトップIT代理店であるZero One Techが扱う数少ない国内ソフトウェアブランドの一つで、政治大学、成功大学、交通大学、台北科技大学、雲林科技大学など多くの主要大学で採用されています。また、公的機関や公営事業にも導入され、中央気象局、金門県政府、屏東県政府、台湾電力会社などがAI-Stackを利用してAIモデルの開発、トレーニング、デプロイ、テストを効率化しています。さらに、AI-on-the-Chipを進める半導体設計会社もAIモデルのチップ展開を簡素化するためにAI-Stackを採用。奇景光電、瑞昱半導体、矽統科技、視芯智能といった企業が開発効率を向上させています。AI-Stackは、台湾市場で最も支持されるAI PaaS-GPU管理プラットフォームであり、NVIDIA GPUカードの利用効率を向上させるための最適なソリューションとして選ばれています。
INFINITIXは、企業が直面する仮想化、コンテナ化、マイクロサービス、エッジコンピューティング、ハイブリッドクラウド管理、異種IT環境、AIに関する課題を解決することに注力しています。異種クラウド管理を統合し、人気のオープンソースAIディープラーニングフレームワークや開発ツールを組み合わせた、オールインワンのAI機械学習インフラ基盤「AI-Stack」を提供しています。