モデルに最適なハードウェアは、2 台の a2-megagpu-16g マシンで構成されるクラスターです。各マシンには 16 個の NVIDIA Tesla A100 GPU (合計 640 GB の GPU メモリ)、96 個の vCPU、1.4 TB の RAM が搭載されています。このハードウェア構成では、大規模で複雑なディープラーニング モデルや、C++ でのカスタム TensorFlow オペレーションを処理するのに十分なコンピューティング能力、メモリ、帯域幅が得られます。NVIDIA Tesla A100 GPU は、NVIDIA の最新かつ最先端の GPU であり、さまざまな ML ワークロードで高いパフォーマンス、スケーラビリティ、効率性を実現します。また、マルチインスタンス GPU (MIG) テクノロジーもサポートしており、各 GPU を最大 7 つの小さなインスタンスに分割して、それぞれに独自のメモリ、キャッシュ、コンピューティング コアを持たせることができます。これにより、複数の実験を並行して実行したり、モデルのリソース使用率とコスト効率を最適化したりできます。 a2-megagpu-16g マシンは、Google Cloud Accelerator に最適化された VM (A2) ファミリーの一部で、GPU を多用するアプリケーションに最高のパフォーマンスと柔軟性を提供するように設計されています。また、GPU 間の高速 NVLink 相互接続も提供しており、GPU 間のデータ転送と通信を改善できます。さらに、a2-megagpu-16g マシンには 96 個の vCPU と 1.4 TB の RAM があり、モデルの CPU とメモリの要件、およびデータの前処理と後処理のタスクをサポートできます。
その他のオプションは、次の理由により最適ではありません。
A . 8 個の NVIDIA Tesla V100 GPU（合計 128 GB GPU メモリ）を搭載した 2 台の n1-highcpu-64 マシンと、64 個の vCPU と 58 GB RAM を搭載した n1-highcpu-64 マシンで構成されるクラスタは、a2-megagpu-16g マシンよりも GPU メモリ、コンピューティング能力、帯域幅が少ないため、適切なオプションではありません。NVIDIA Tesla V100 GPU は NVIDIA の旧世代の GPU で、NVIDIA Tesla A100 GPU よりもパフォーマンス、スケーラビリティ、効率性が低くなっています。また、MIG テクノロジーをサポートしていないため、モデルの柔軟性と最適化が制限される可能性があります。さらに、n1-highcpu-64 マシンは Google Cloud N1 VM ファミリーの一部で、GPU を多用するアプリケーションに最適なパフォーマンスと機能を提供しない汎用 VM です。また、これらのマシンの vCPU と RAM は a2-megagpu-16g マシンよりも低いため、モデルの CPU とメモリの要件、およびデータの前処理と後処理のタスクに影響する可能性があります。
C . v2-8 TPU と 64 GB RAM を搭載した n1-highcpu-64 マシンのクラスターは、a2-megagpu-16g マシンよりも GPU メモリ、コンピューティング能力、帯域幅が少ないため、適切なオプションではありません。v2-8 TPU はクラウド テンソル プロセッシング ユニット (TPU) デバイスであり、ML ワークロードを高速化するために Google が設計したカスタム ASIC チップです。ただし、v2-8 TPU は第 2 世代の TPU であり、最新の v3-8 TPU よりもパフォーマンス、スケーラビリティ、効率性が低くなっています。また、NVIDIA Tesla A100 GPU よりもメモリと帯域幅が少ないため、モデルのサイズと複雑さ、およびデバイス間のデータ転送と通信が制限される可能性があります。さらに、n1-highcpu-64 マシンの vCPU と RAM は a2-megagpu-16g マシンよりも低いため、モデルの CPU とメモリの要件、およびデータの前処理と後処理のタスクに影響を及ぼす可能性があります。
D . 4 台の n1-highcpu-96 マシン (各マシンに 96 個の vCPU と 86 GB の RAM を搭載) のクラスタは、ディープラーニング モデルの高速化に不可欠な GPU がないため、適切なオプションではありません。n1-highcpu-96 マシンは、Google Cloud N1 VM ファミリーの一部です。これは、GPU を多用するアプリケーションに最適なパフォーマンスと機能を提供しない汎用 VM です。また、a2-megagpu-16g マシンよりも RAM が少ないため、モデルのメモリ要件や、データの前処理および後処理タスクに影響を及ぼす可能性があります。
参照：
プロフェッショナル ML エンジニア試験ガイド
Google Cloud 認定資格の準備: 機械学習エンジニア プロフェッショナル認定 Google Cloud が機械学習エンジニア認定資格を開始 NVIDIA Tesla A100 GPU Google Cloud Accelerator-Optimized VM (A2) ファミリー Google Cloud N1 VM ファミリー Cloud TPU

数十のパイプラインのアーティファクトを整理するには、パラメータを Vertex ML メタデータに保存し、モデルのソースコードを GitHub に保存し、モデルのバイナリを Cloud Storage に保存する必要があります。このオプションには次の利点があります。
* Vertex ML メタデータは、データセット、モデル、メトリック、パラメータなどの ML ワークフローのメタデータを追跡および管理するのに役立つサービスです1。また、データ リネージ、モデルのバージョン管理、モデル パフォーマンスのモニタリングにも役立ちます2。
* GitHub は、コード リポジトリのホスティングとコラボレーションによく使われるプラットフォームです。モデルのソース コードだけでなく、ML パイプラインの一部である構成ファイル、スクリプト、ノートブックの管理にも役立ちます3。
* Cloud Storage は、モデルバイナリを含むあらゆるタイプのデータを保存できる、スケーラブルで耐久性の高いオブジェクト ストレージ サービスです4。また、Vertex AI、Cloud Functions、Cloud Run などの他のサービスと統合して、モデルを簡単にデプロイして提供することもできます5。
参考文献:
* 1: Vertex ML メタデータの概要 | Vertex AI | Google Cloud
* 2: ML ワークフローのメタデータを管理する | Vertex AI | Google Cloud
* 3: GitHub - 世界中の人々がソフトウェアを構築する場所
* 4: クラウド ストレージ | Google Cloud
* 5: モデルのデプロイ | Vertex AI | Google Cloud

質問のトレースを見ると、トレーニング時間が予想よりも長くかかっていることがわかります。これは、入力関数が最適化されていないことが原因であると考えられます。コスト効率よくトレーニング時間を短縮するには、並列読み取り、並列処理、およびプリフェッチを使用して入力関数を書き直すのが最善の選択肢です。これにより、モデルはデータをより効率的に処理し、トレーニング時間を短縮できます。参考資料:
* [Cloud TPU パフォーマンス ガイド]
* [データ入力パイプラインパフォーマンスガイド]

モデルの再トレーニングとは、既存の機械学習モデルを新しいデータとパラメータで更新して、そのパフォーマンスと精度を向上させるプロセスです。モデルの再トレーニングは、特にデータや環境が時間の経過とともに変化する場合に、モデルの関連性と妥当性を維持するために不可欠です。モ​​デルの再トレーニングは、急速に進化する環境内で新しいデータセットでモデルをテストすると、モデルの予測パフォーマンスが低下する現象であるモデル劣化の影響を回避または軽減するのに役立ちます1。
販売数を予測するユースケースでは、生産モデルが市場の変化に対応する必要があるため、モデルの精度が非常に重要です。市場の変化は製品の需要、供給、価格、嗜好に影響を与え、販売数に影響する可能性があります。市場の変化を反映した新しいデータでモデルを再トレーニングしないと、モデルが古くなって不正確になり、販売数のパターンや傾向を捉えられなくなる可能性があります。したがって、モデル精度が着実に低下している原因として最も可能性が高いのは、モデルの再トレーニング不足です。
その他のオプションは、モデルが市場の変化に適応する能力に直接関係しないため、オプション B ほど可能性は高くありません。オプション A (データ品質が低い) はモデルの精度に影響する可能性がありますが、時間の経過とともにモデルが劣化する特定の原因ではありません。オプション C (情報を取得するためのモデル内のレイヤーが少なすぎる) は、モデルの複雑さと表現力に影響する可能性がありますが、時間の経過とともにモデルが劣化する特定の原因ではありません。オプション D (モデルのトレーニング、評価、検証、およびテスト中のデータ分割比が正しくない) は、モデルの一般化と検証に影響する可能性がありますが、時間の経過とともにモデルが劣化する特定の原因ではありません。したがって、オプション B (モデルの再トレーニングの欠如) がこの質問に対する最適な回答です。
参考文献:
* 急激な衰退に注意: 機械学習モデルにおけるモデル劣化の理解

最小限の労力でモデルコードに説明を追加し、可能な限り正確な説明を提供するための最適なオプションは、カスタムモデルを Vertex AI モデル レジストリにアップロードし、入力ベースラインでサンプリングされた Shapley を使用して特徴ベースのアトリビューションを構成することです。このオプションを使用すると、Vertex Explainable AI のパワーとシンプルさを活用して各予測の特徴アトリビューションを生成し、各特徴がモデル出力にどのように貢献しているかを理解できます。Vertex Explainable AI は、機械学習モデルによる予測を理解して解釈するのに役立つサービスであり、Google のさまざまなプロダクトやサービスとネイティブに統合されています。Vertex Explainable AI は、特徴ベースと例ベースの説明を提供して、モデルの意思決定をよりよく理解できるようにします。特徴ベースの説明は、入力内の各特徴が予測にどの程度影響を与えたかを示す説明です。
特徴ベースの説明は、モデルのパフォーマンスをデバッグして改善し、予測の信頼性を高め、問題が発生するタイミングと理由を理解するのに役立ちます。Vertex Explainable AI は、サンプリングされた Shapley、統合勾配、XRAI など、さまざまな特徴属性メソッドをサポートしています。サンプリングされた Shapley は、協力ゲームの各プレイヤーが合計ペイオフにどれだけ貢献するかを測定するゲーム理論の概念である Shapley 値に基づく特徴属性メソッドです。サンプリングされた Shapley は、さまざまな特徴のサブセットをサンプリングし、各特徴の予測への限界貢献を計算することで、各特徴の Shapley 値を近似します。サンプリングされた Shapley は、正確で一貫性のある特徴属性を提供できますが、計算コストが高くなることもあります。計算コストを削減するには、実際の入力と比較するために使用される参照入力である入力ベースラインを使用できます。入力ベースラインは、特徴の開始点またはデフォルト状態を定義し、入力ベースラインを基準とした特徴属性を計算するのに役立ちます。カスタム モデルを Vertex AI モデル レジストリにアップロードし、入力ベースラインでサンプリングされた Shapley を使用して特徴ベースのアトリビューションを構成することで、最小限の労力でモデル コードに説明を追加し、可能な限り正確な説明を提供できます1。
他のオプションは、次の理由によりオプション C ほど優れていません。
* オプション A: BigQuery データと統合された Vertex Explainable AI を使用して AutoML 表形式モデルを作成するには、カスタム モデルを Vertex AI Model Registry にアップロードし、入力ベースラインでサンプリングされた Shapley を使用して特徴ベースのアトリビューションを構成するよりも多くのスキルと手順が必要です。AutoML 表形式は、構造化データまたは表形式データの機械学習モデルを自動的に構築およびトレーニングできるサービスです。AutoML 表形式は、BigQuery をデータソースとして使用し、統合勾配を特徴アトリビューション方法として使用して特徴ベースの説明を提供できます。ただし、BigQuery データと統合された Vertex Explainable AI を使用して AutoML 表形式モデルを作成するには、カスタム モデルを Vertex AI Model Registry にアップロードし、入力ベースラインでサンプリングされた Shapley を使用して特徴ベースのアトリビューションを構成するよりも多くのスキルと手順が必要です。新しい AutoML 表形式モデルを作成し、BigQuery データをインポートし、モデル設定を構成し、モデルをトレーニングして評価し、モデルをデプロイする必要があります。さらに、このオプションでは、すでにパフォーマンスが良好な既存のカスタム モデルは使用されず、カスタム モデルと同じパフォーマンスや動作を持たない可能性のある新しいモデルが作成されます2。
* オプション B: BigQuery ML ディープ ニューラル ネットワーク モデルを作成し、num_integral_steps パラメータを指定した ML.EXPLAIN_PREDICT メソッドを使用すると、モデルを本番環境にデプロイできず、入力ベースラインでサンプリングされた Shapley を使用する場合よりも説明の精度が低くなる可能性があります。BigQuery ML は、BigQuery で SQL クエリを使用して機械学習モデルを作成およびトレーニングできるサービスです。BigQuery ML は、複数のニューロン層で構成される機械学習モデルの一種であるディープ ニューラル ネットワーク モデルを作成し、データから複雑なパターンと関係性を学習できます。BigQuery ML は、予測ごとに特徴の属性を返す SQL 関数である ML.EXPLAIN_PREDICT メソッドを使用して、特徴ベースの説明を提供することもできます。ML.EXPLAIN_PREDICT メソッドは、特徴属性メソッドとして統合勾配を使用します。これは、入力ベースラインから入力までのパスに沿った特徴値に対する予測出力の平均勾配を計算するメソッドです。 num_integral_steps パラメータは、入力ベースラインから入力までのパスに沿ったステップ数を決定するパラメータです。ただし、BigQuery ML ディープ ニューラル ネットワーク モデルを作成し、num_integral_steps パラメータを指定した ML.EXPLAIN_PREDICT メソッドを使用すると、モデルを本番環境にデプロイすることができず、入力ベースラインでサンプリングされた Shapley を使用する場合よりも正確な説明が得られない可能性があります。BigQuery ML は、個々のインスタンスに対して低レイテンシの予測を提供できるサービスである Vertex AI Endpoints へのモデルのデプロイをサポートしていません。
BigQuery ML はバッチ予測のみをサポートしています。これは、大量のインスタンスのバッチに対して高スループットの予測を提供できるサービスです。さらに、統合勾配は入力ベースラインの選択と num_integral_steps パラメータ3 の影響を受けやすいため、サンプリングされた Shapley よりも正確性と一貫性に欠ける説明を提供する場合があります。
* オプション D: カスタム サービング コンテナを更新して、サンプリングされた Shapley ベースの説明を予測出力に含めるには、カスタム モデルを Vertex AI モデル レジストリにアップロードし、サンプリングされた Shapley と入力ベースラインを使用して特徴ベースのアトリビューションを構成するよりも多くのスキルと手順が必要です。カスタム サービング コンテナは、モデル、依存関係、およびウェブ サーバーを含むコンテナ イメージです。カスタム サービング コンテナを使用すると、モデルの予測動作をカスタマイズし、複雑なデータ形式や非標準のデータ形式を処理できます。ただし、カスタム サービング コンテナを更新して、サンプリングされた Shapley ベースの説明を予測出力に含めるには、カスタム モデルを Vertex AI モデル レジストリにアップロードし、サンプリングされた Shapley と入力ベースラインを使用して特徴ベースのアトリビューションを構成するよりも多くのスキルと手順が必要です。コードを記述する必要があります。
* サンプリングされた Shapley アルゴリズムを実装し、コンテナ イメージを構築してテストし、コンテナ イメージをアップロードしてデプロイします。さらに、このオプションでは、Vertex AI サービスとネイティブに統合された機能ベースの説明を提供できる Vertex Explainable AI のパワーとシンプルさを活用できません4。
参考文献:
* Google Cloud 認定資格の準備: 機械学習エンジニア、コース 3: 本番環境 ML システム、第 4 週: 評価
* Google Cloud Professional Machine Learning Engineer 試験ガイド、セクション 3: 本番環境での ML モデルのスケーリング、3.3 本番環境での ML モデルのモニタリング
* 公式 Google Cloud Certified Professional Machine Learning Engineer 学習ガイド、第 6 章:
実稼働 ML システム、セクション 6.3: ML モデルの監視
* Vertex の説明可能な AI
* AutoML テーブル
* ビッグクエリML
* 予測にカスタムコンテナを使用する