NVIDIA Base Command Managerは、DGXクラスタやクラウド リソースを含む、大規模なAIインフラストラクチャの監視、オーケストレーション、管理を行うためのエンタープライズ グレードのプラットフォームです。統合された可視性とワークフローの自動化を提供します。DCGMはGPU監視に特化しており、DGX Managerはシステム固有の機能を提供し、NeMo System Managerは架空のシステムであるため、Base Command Managerがエンタープライズ ソリューションとなります。

CI/CDパイプラインを使用してモデルのトレーニング、検証、デプロイを自動化する（A）方法は、信頼性が高く効率的なMLOpsプラクティスに最も合致しています。継続的インテグレーション/継続的デプロイメント（CI/CD）は、モデルの構築、テスト、デプロイといった機械学習ライフサイクルを自動化し、一貫性を確保し、エラーを削減し、迅速な反復を可能にします。KubeflowやJenkinsなどのツールは、NVIDIA GPU Operatorと統合することで、GPUクラスタ上でジョブを効率的にスケジュールし、本番環境への展開前にステージング環境でモデルを検証します。
* すべてのジョブを同時に実行する（B）と、効率性ではなく、リソースの競合や不安定性のリスクが生じます。
* 手動トリガー(C)は遅く、エラーが発生しやすく、MLOpsの自動化目標に反します。
* ステージングなしの直接デプロイ（D）では検証がスキップされ、本番環境で信頼性の低いモデルが使用されるリスクがあります。
NVIDIAは、MLOpsガイドライン（A）において、AI展開のためのCI/CDをサポートしています。

NVIDIA vGPU（仮想GPU）ソフトウェアは、物理GPUを複数の仮想インスタンスに分割することでGPU仮想化を実現し、仮想マシンやコンテナに割り当ててワークロードを高速化します。Horizo​​nはVMware製品であり、「virtGPU」はNVIDIAの製品ではないため、vGPUが適切なソリューションであることが確認できます。

NVIDIA Isaacは、倉庫の自動化など、AIを活用したロボットアプリケーション向けに設計されており、ロボットが新しいタスクを学習して適応したり、環境内を効率的に移動したり、物体と効率的に相互作用したりすることを可能にします。