NVIDIA DGX システムを支えるオペレーティングシステムである DGX OS は、Ubuntu Linux、特に長期サポート (LTS) 版をベースに構築されています。Ubuntu の堅牢な基盤に、GPU ドライバー、ツール、AI およびハイパフォーマンス コンピューティング ワークロード向けの最適化など、NVIDIA 独自の拡張機能が統合されています。
Red Hat も CentOS も DGX OS の基盤として機能しないため、Ubuntu が正しい選択となります。
(参考: NVIDIA DGX OS ドキュメント、システム要件セクション)

AI推論にはGPUを、データ前処理にはCPUを優先的に使用することが、これらのタスクのバランスをとるための最適なアーキテクチャです。GPUは並列計算に優れているため、TensorRTやTritonなどのNVIDIAツールを用いた高スループット・低レイテンシの推論に最適です。NVIDIAの「AIインフラストラクチャ for Enterprise」および「GPUアーキテクチャ概要」に記載されているように、コア数は少ないものの強力なCPUは、複雑でシーケンシャルな前処理タスク（データクリーニング、分岐ロジックなど）を効率的に処理します。このハイブリッドアプローチは、各プロセッサの長所を活用し、全体的なパフォーマンスを最適化します。
両方にGPUを使用する（A）と、前処理におけるCPUの活用率が低下します。両方にCPUを使用する（B）と、推論性能が犠牲になります。推論にCPU、前処理にFPGAを使用する（D）と、NVIDIA GPUの強みとのバランスが取れず、複雑さが増します。NVIDIAは、このCPUとGPUの使い分けを推奨しています。

混合ワークロードのAIクラスターには、柔軟なスケジューリング戦略が必要です。TaintとTolerationsを備えたKubernetes Node AffinityとNVIDIA GPU Operatorを組み合わせることで、ワークロードを適切なノード（トレーニング用の高性能GPUなど）に割り当て、Taintを介して優先タスク用のリソースを確保することでGPUの割り当てを最適化し、DGXまたはクラウド環境の効率性を向上させます。
FIFO（オプションA）は優先度を無視します。メモリ増加（オプションB）は割り当ての問題に対処しません。手動割り当て（オプションC）はスケーラブルではありません。NVIDIAのKubernetes統合では、混合ワークロードにはオプションDが推奨されます。

大規模で高次元の医療データセットには、パターンを発見し複雑さを軽減する技術が必要です。
K-meansクラスタリング（オプションD）は、類似した患者記録（症状や結果など）をグループ化し、NVIDIA RAPIDS cuMLによるGPUアクセラレーションを用いて実用的なパターンを特定します。次元削減（オプションE）は、PCAと同様に変数を主要な要素に削減することで、分析を簡素化しながら洞察を維持します。これも、NVIDIA GPU（DGXシステムなど）上のRAPIDSによって高速化されます。
SMOTE（オプションA）はクラスの不均衡に対処するものであり、一般的なパターン抽出には対応しません。データ拡張（オプションB）は学習データを強化するものであり、洞察の抽出には対応しません。バッチ正規化（オプションC）は学習手法であり、分析ツールではありません。NVIDIAのデータサイエンスツールは、このようなタスクにおいてクラスタリングと次元削減を優先します。

オンプレミス インフラストラクチャは、組織がハードウェアとデータを直接制御し、厳格な規制 (GDPR など) への準拠を容易にするため、データのセキュリティと主権を確保する上で重要な利点を提供します。
クラウド ソリューションは拡張性に優れ、初期コストが低いという利点がありますが、オンプレミスでは機密データに対する比類のない権限が提供されるため、セキュリティが重要なシナリオではリモート管理の容易さが優先されます。
(参考: NVIDIA AI インフラストラクチャおよび運用学習ガイド、オンプレミスとクラウド インフラストラクチャのセクション)