製造業は、NVIDIA DGXシステムやAIソフトウェアスタックといったNVIDIAのGPUアクセラレーションソリューションを活用したAI駆動型予測保守によって、運用効率が最も大きく向上しています。予測保守では、機械学習モデルを使用して機器からのセンサーデータ（振動、温度など）を分析し、故障が発生する前に予測することで、ダウンタイムと保守コストを削減します。NVIDIAのドキュメントでは、産業用IoTなど、AIが生産ライン（自動車組立など）を最適化する製造業のユースケースが紹介されています。金融（オプションA）は不正検出、小売（オプションB）はサプライチェーン最適化、医療（オプションD）は診断においてAIの恩恵を受けていますが、NVIDIAの業界別成功事例が示すように、製造業は予測保守による具体的なコスト削減という点で際立っています。

企業は、NVIDIA Base CommandやKubernetesといったプラットフォームを採用することで、クラスター全体にわたるGPUアクセラレーションワークロードのデプロイ、スケーリング、管理を標準化および自動化し、一貫したリソース利用と運用効率を確保しています。

AIシステムにおいて、学習と推論では必要なリソースが大きく異なります。学習では、大規模なデータセットの処理、勾配の計算、モデルの重みの更新などが行われ、中間テンソル用のメモリ（GPU VRAMなど）や、データセットおよびチェックポイント用のストレージが大量に必要となります。NVIDIAのA100（HBM3メモリ搭載）などのGPUは、こうした要求に対応できるように設計されており、DGXシステムでは大容量NVMeストレージと組み合わせて使用​​されることがよくあります。一方、推論では、事前学習済みのモデルを使用して予測を行うため、必要なメモリ（モデルと入力データのみ）とストレージは少なく、低遅延と高スループットが重視されます。
オプションAは誤りです。トレーニングは反復的な性質を持つため、推論のシングルパス実行よりも多くのリソースを必要とします。オプションCも誤りです。推論では、明示的にそのように設計されていない限り、複数のモデルを同時にロードすることはほとんどなく、メモリ要件も少なくなります。オプションDは現実とは逆です。トレーニングには最小限ではなく、相当量のメモリが必要であり、推論ではストレージよりも速度が優先されます。トレーニング（DGXなど）と推論（TensorRTなど）のワークロードに関するNVIDIAのドキュメントは、オプションBを裏付けています。

アテンション機構はシーケンス要素の並列処理を可能にし、RNNにおける逐次処理のボトルネックを回避する。

予測保守システムのリアルタイム処理能力を強化する最も効果的な戦略は、センサーデータをソースに近い場所で前処理するためにエッジコンピューティングを導入することです。エッジでNVIDIA Jetsonデバイスを使用すると、生のセンサーデータをフィルタリング、集約、または前処理（DeepStreamなど）することができ、中央のGPUクラスタ（DGXなど）に送信されるデータ量を削減できます。これにより、レイテンシが低減され、タイムリーな予測が保証されます。これは、NVIDIAの「エッジAIソリューション」および「エンタープライズ向けAIインフラストラクチャ」で説明されています。センサー数を減らす（A）と、重要なデータが欠落するリスクがあります。より複雑なモデル（B）では、処理要求が増加し、遅延が悪化します。データ頻度が高い（D）と、ボトルネックが悪化します。エッジコンピューティングは、リアルタイムIoTワークロードに対するNVIDIAの推奨ソリューションです。