モデルの特徴値が変更されたときに最小限の追加コードを使用してモデルの再トレーニングを自動化し、モデルの再トレーニング回数を最小限に抑えてトレーニング コストを削減するための最適なオプションは、予測ドリフトをモニタリングするように構成された Vertex AI モデル モニタリング ジョブを作成し、モニタリング アラートが検出されたときに Pub/Sub キューにメッセージをパブリッシュするようにアラート モニタリングを構成し、Cloud Functions を使用して Pub/Sub キューをモニタリングし、BigQuery で再トレーニングをトリガーすることです。このオプションを使用すると、Vertex AI、Pub/Sub、Cloud Functions のパワーとシンプルさを活用してモデルのパフォーマンスをモニタリングし、必要に応じてモデルを再トレーニングできます。Vertex AI は、Google Cloud 上で機械学習ソリューションを構築およびデプロイするための統合プラットフォームです。Vertex AI は、トレーニング済みのモデルをオンライン予測エンドポイントにデプロイして、個々のインスタンスに対して低レイテンシの予測を提供できます。Vertex AI は、データ分析、モデル開発、モデルのデプロイ、モデルのモニタリング、モデルのガバナンスのためのさまざまなツールとサービスも提供できます。Vertex AI モデル モニタリング ジョブは、Vertex AI にデプロイされたモデルのパフォーマンスと品質をモニタリングできるリソースです。 Vertex AI モデル モニタリング ジョブは、データ ドリフト、予測ドリフト、トレーニング / サービング スキュー、モデルの古さなど、モデルの問題を検出して診断するのに役立ちます。予測ドリフトは、モデル モニタリング指標の一種で、トレーニング データに対してモデルによって生成された予測の分布と、オンライン データに対してモデルによって生成された予測の分布の差を測定します。予測ドリフトは、モデルのパフォーマンスが低下していること、またはオンライン データが時間の経過とともに変化していることを示している可能性があります。予測ドリフトをモニタリングするように構成された Vertex AI モデル モニタリング ジョブを作成することで、モデル予測の変化を追跡し、予想される予測と比較することができます。アラート モニタリングは、モニタリング指標が事前定義されたしきい値を超えたときに通知できる Vertex AI モデル モニタリングの機能です。アラート モニタリングを使用すると、アラートをトリガーするためのルールと条件を設定し、アラートを受信するための通知チャネルを選択できます。Pub/Sub は、Google Cloud 上で信頼性が高くスケーラブルなメッセージングとイベント ストリーミングを提供できるサービスです。 Pub/Sub を使用すると、メッセージを公開およびサブスクライブし、Cloud Functions などのさまざまな Google Cloud サービスに配信できます。Pub/Sub キューは、Pub/Sub トピックに公開されたメッセージを保持できるリソースです。Pub/Sub キューを使用すると、メッセージを保存および管理し、サブスクライバーに確実に配信できます。モニタリング アラートが検出されたときに Pub/Sub キューにメッセージを公開するようにアラート モニタリングを構成すると、Pub/Sub トピックに通知を送信し、アラートに基づいてダウンストリーム アクションをトリガーできます。Cloud Functions は、Google Cloud 上のイベントに応じてステートレス コードを実行できるサービスです。Cloud Functions を使用すると、サーバーのプロビジョニングや管理を行わずに関数を作成して実行でき、使用したリソースに対してのみ料金を支払います。Cloud Functions は、Pub/Sub メッセージなどのイベントに応答してコードを実行できるリソースです。Cloud Functions を使用すると、データ処理、データ変換、データ分析などのさまざまなタスクを実行できます。BigQuery は、Google Cloud で大規模なデータを保存してクエリを実行できるサービスです。BigQuery を使用すると、SQL クエリを使用してデータを分析し、データ探索、データ変換、データ可視化などのさまざまなタスクを実行できます。BigQuery ML は、SQL クエリを使用して BigQuery で機械学習モデルを作成および実行できる BigQuery の機能です。
BigQuery ML は、線形回帰、ロジスティック回帰、K 平均法クラスタリング、行列分解、ディープ ニューラル ネットワークなど、さまざまな種類のモデルの構築とトレーニングに役立ちます。Cloud Functions を使用して Pub/Sub キューをモニタリングし、BigQuery で再トレーニングをトリガーすることで、モデルの特徴値が変化したときに最小限の追加コードを使用してモデルの再トレーニングを自動化できます。予測ドリフト アラートを受信したときに、Pub/Sub キューをリッスンし、SQL クエリを実行して BigQuery ML でモデルを再トレーニングする Cloud Functions を作成できます。BigQuery ML でモデルを再トレーニングすることで、モデル パラメータを更新し、モデルのパフォーマンスと精度を向上させることができます1。
他のオプションは、次の理由によりオプション C ほど優れていません。
* オプション A: Vertex AI エンドポイントでリクエスト/レスポンス ロギングを有効にし、予測ドリフトを監視するために TensorFlow データ検証ジョブをスケジュールし、分布間に大きな隔たりがある場合にモデルの再トレーニングを実行するには、予測ドリフトを監視するように構成された Vertex AI モデル モニタリング ジョブを作成し、モニタリング アラートが検出されたときに Pub/Sub キューにメッセージをパブリッシュするようにアラート モニタリングを構成し、Cloud Functions を使用して Pub/Sub キューを監視し、BigQuery で再トレーニングをトリガーするよりも多くのスキルと手順が必要です。リクエスト/レスポンス ロギングは、オンライン予測との間で送受信されるリクエストとレスポンスを記録できる Vertex AI エンドポイントの機能です。
* エンドポイント。要求応答ログは、オンライン予測データの収集と分析、およびモデルの問題のトラブルシューティングに役立ちます。TensorFlow Data Validation は、機械学習用のデータの分析と検証ができるツールです。TensorFlow Data Validation は、データの調査、理解、クリーニング、およびデータ ドリフト、データ スキュー、データ異常などのさまざまなデータの問題の検出に役立ちます。
予測ドリフトは、トレーニング データに対してモデルによって生成された予測の分布と、オンライン データに対してモデルによって生成された予測の分布の差を測定するデータの問題の一種です。予測ドリフトは、モデルのパフォーマンスが低下していること、またはオンライン データが時間の経過とともに変化していることを示している可能性があります。Vertex AI Endpoints でリクエストとレスポンスのログ記録を有効にし、予測ドリフトを監視する TensorFlow Data Validation ジョブをスケジュールすることで、オンライン予測データを収集して分析し、予測の分布を比較できます。ただし、Vertex AI Endpoints でリクエストとレスポンスのログ記録を有効にし、予測ドリフトを監視する TensorFlow Data Validation ジョブをスケジュールし、分布間に大きな隔たりがある場合にモデルの再トレーニングを実行するには、予測ドリフトを監視するように構成された Vertex AI Model Monitoring ジョブを作成し、モニタリング アラートが検出されたときに Pub/Sub キューにメッセージをパブリッシュするようにアラート モニタリングを構成し、Cloud Functions を使用して Pub/Sub キューを監視し、BigQuery で再トレーニングをトリガーするよりも多くのスキルと手順が必要になります。コードを記述し、リクエスト/レスポンス ログを有効にして構成し、TensorFlow データ検証ジョブを作成して実行し、分布間の距離を定義および測定し、モデルの再トレーニングを実行する必要があります。さらに、このオプションではモデルの再トレーニングが自動化されず、予測ドリフトを手動で確認して再トレーニングをトリガーする必要があります2。
* オプション B: Vertex AI エンドポイントでリクエスト / レスポンスのログ記録を有効にし、トレーニング / サービング スキューを監視する TensorFlow データ検証ジョブをスケジュールし、分布間に大きな隔たりがある場合にモデルの再トレーニングを実行しても、モデルの特徴値の変化を監視することはできず、エラーやパフォーマンスの低下を引き起こす可能性があります。トレーニング / サービング スキューは、モデルのトレーニングに使用される特徴とモデルの提供に使用される特徴の分布の差を測定するデータの問題の一種です。トレーニング / サービング スキューは、モデルが代表的なデータでトレーニングされていないか、データが時間の経過とともに変化していることを示している可能性があります。Vertex AI エンドポイントでリクエスト / レスポンスのログ記録を有効にし、トレーニング / サービング スキューを監視する TensorFlow データ検証ジョブをスケジュールすることで、オンライン予測データを収集して分析し、特徴の分布を比較できます。ただし、Vertex AI エンドポイントでリクエスト / レスポンス ロギングを有効にし、トレーニング / サービング スキューを監視するために TensorFlow データ検証ジョブをスケジュールし、分布間に大きな距離がある場合にモデルの再トレーニングを実行しても、モデルの特徴値の変化を監視することはできず、エラーやパフォーマンスの低下を引き起こす可能性があります。コードを記述し、リクエスト / レスポンス ロギングを有効にして構成し、TensorFlow データ検証ジョブを作成して実行し、分布間の距離を定義および測定し、モデルの再トレーニングを実行する必要があります。さらに、このオプションでは、モデルのパフォーマンスと品質を測定するためのより直接的で関連性の高い指標である予測ドリフトが監視されません2。
* オプション D: トレーニング/サービング スキューをモニタリングするように構成された Vertex AI モデル モニタリング ジョブを作成し、モニタリング アラートが検出されたときに Pub/Sub キューにメッセージをパブリッシュするようにアラート モニタリングを構成し、Cloud Functions を使用して Pub/Sub キューをモニタリングし、BigQuery で再トレーニングをトリガーすると、モデルの特徴値の変化をモニタリングできず、エラーが発生したり、パフォーマンスが低下したりする可能性があります。トレーニング/サービング スキューは、モデルのトレーニングに使用される特徴の分布とモデルの提供に使用される特徴の分布の差を測定するタイプのデータの問題です。
トレーニング/サービング スキューは、モデルが代表的なデータでトレーニングされていないか、データが時間の経過とともに変化していることを示している可能性があります。トレーニング/サービング スキューを監視するように構成された Vertex AI モデル モニタリング ジョブを作成することで、モデル機能の変化を追跡し、予想される機能と比較することができます。ただし、トレーニング/サービング スキューを監視するように構成された Vertex AI モデル モニタリング ジョブを作成し、モニタリング アラートが検出されたときに Pub/Sub キューにメッセージをパブリッシュするようにアラート モニタリングを構成し、Cloud Functions を使用して Pub/Sub キューを監視し、トリガーします。
* BigQuery での再トレーニングでは、モデルの特徴値の変化をモニタリングできず、エラーやパフォーマンスの低下を引き起こす可能性があります。コードの記述、Vertex AI モデル モニタリング ジョブの作成と構成、アラート モニタリングの構成、Pub/Sub キューの作成と構成、再トレーニングをトリガーする Cloud Functions 関数の記述が必要になります。さらに、このオプションでは、モデルのパフォーマンスと品質を測定するためのより直接的で関連性の高い指標である予測ドリフトをモニタリングできません1。
参考文献:
* Google Cloud 認定資格の準備: 機械学習エンジニア、コース 3: 本番環境 ML システム、第 4 週: ML ガバナンス
* Google Cloud Professional Machine Learning Engineer 試験ガイド、セクション 3: 本番環境での ML モデルのスケーリング

Cloud Run でモデル予測ロジックをコンテナ化すると、モデルを簡単かつ効率的にデプロイし、Dataflow から呼び出すことができます。Cloud Run は、サーバーレス環境でステートレス コンテナを実行できるフルマネージド サービスです。トラフィックに基づいてインスタンスを自動的にスケールアップおよびスケールダウンするため、サービス レイテンシを最小限に抑えることができます。
さらに、Dataflow は HTTP リクエストを介して Cloud Run サービスを簡単に呼び出すことができるため、パイプラインへの統合が簡単になります。これにより、Dataflow パイプラインはデータの取り込みと処理に集中でき、Cloud Run サービスがリアルタイムの予測を処理できるようになります。
モデルを依存関係として Dataflow ジョブに直接ロードすることも可能ですが、このアプローチではパイプラインの複雑さが増し、レイテンシが増加する可能性があります。モデルを Vertex AI エンドポイントや GKE 上の TFServing コンテナにデプロイするなどの他のオプションも機能しますが、このオプションはサービス レイテンシを最小限に抑えるのに最適です。

According to the official exam guide1, one of the skills assessed in the exam is to "automate and orchestrate ML pipelines using Cloud Composer". Cloud Composer2 is a fully managed workflow orchestration service that uses Apache Airflow to create, schedule, monitor, and manage workflows. Cloud Composer allows you to build custom training pipelines for deep learning-based models and integrate them with other Google Cloud services. You can also use Cloud Composer to implement model interpretability techniques, such as feature attributions, explainable AI, or model debugging3. The other options are not relevant or optimal for this scenario. References:
* Professional ML Engineer Exam Guide
* Cloud Composer
* Model interpretability with Cloud Composer
* Google Professional Machine Learning Certification Exam 2023
* Latest Google Professional Machine Learning Engineer Actual Free Exam Questions

The best option for developing an image classification model by using a large dataset that contains labeled images in a Cloud Storage bucket is to import the labeled images as a managed dataset in Vertex AI and use AutoML to train the model. This option allows you to leverage the power and simplicity of Google Cloud to create and deploy a high-quality image classification model with minimal code and configuration. Vertex AI is a unified platform for building and deploying machine learning solutions on Google Cloud. Vertex AI can create a managed dataset from a Cloud Storage bucket that contains labeled images, which can be used to train an AutoML model. AutoML is a service that can automatically build and optimize machine learning models for various tasks, such as image classification, object detection, natural language processing, and tabular data analysis. AutoML can handle the complex aspects of machine learning, such as feature engineering, model architecture, hyperparameter tuning, and model evaluation. AutoML can also evaluate, deploy, and monitor the image classification model, and provide online or batch predictions. By using Vertex AI and AutoML, users can develop an image classification model by using a large dataset with ease and efficiency.
The other options are not as good as option C, for the following reasons:
* Option A: Using Vertex AI Pipelines with the Kubeflow Pipelines SDK to create a pipeline that reads the images from Cloud Storage and trains the model would require more skills and steps than using Vertex AI and AutoML. Vertex AI Pipelines is a service that can orchestrate machine learning workflows using Vertex AI. Vertex AI Pipelines can run preprocessing and training steps on custom Docker images, and evaluate, deploy, and monitor the machine learning model. Kubeflow Pipelines SDK is a Python library that can create and run pipelines on Vertex AI Pipelines or on Kubeflow, an open-source platform for machine learning on Kubernetes. However, using Vertex AI Pipelines and Kubeflow Pipelines SDK would require writing code, building Docker images, defining pipeline components and steps, and managing the pipeline execution and artifacts. Moreover, Vertex AI Pipelines and Kubeflow Pipelines SDK are not specialized for image classification, and users would need to use other libraries or frameworks, such as TensorFlow or PyTorch, to build and train the image classification model.
* オプション B: Vertex AI Pipelines を TensorFlow Extended (TFX) とともに使用して、Cloud Storage から画像を読み取ってモデルをトレーニングするパイプラインを作成するには、Vertex AI と AutoML を使用する場合よりも多くのスキルと手順が必要になります。TensorFlow Extended (TFX) は、ディープラーニング モデルの構築とトレーニングによく使用されるライブラリである TensorFlow 上でエンドツーエンドの機械学習パイプラインを作成して実行できるフレームワークです。TFX では、データの前処理、モデルのトレーニングと評価、モデルの検証とプッシュ、オンライン予測またはバッチ予測用のモデルの提供を行うことができます。ただし、Vertex AI Pipelines と TFX を使用するには、コードの記述、Docker イメージの構築、パイプラインのコンポーネントと手順の定義、パイプラインの実行と成果物の管理が必要になります。さらに、TFX は画像分類用に最適化されていないため、ユーザーは TensorFlow Data Validation、TensorFlow Transform、TensorFlow Hub などの他のライブラリやツールを使用して、画像データとモデル アーキテクチャを処理する必要があります。
* オプション D: Dataflow を使用して画像データセットを表形式に変換し、そのデータを BigQuery に読み込み、BigQuery ML を使用してモデルをトレーニングすると、画像データが適切に処理されず、モデルのパフォーマンスが低下する可能性があります。Dataflow は、さまざまなソースからの大量のデータを処理するためのスケーラブルで信頼性の高いパイプラインを作成できるサービスです。Dataflow は、データ処理ワークフローを定義および実行するためのプログラミング モデルである Apache Beam を使用してデータを前処理できます。
BigQuery は、大規模なデータセットに対して高速かつインタラクティブなクエリを実行できる、サーバーレスでスケーラブル、かつコスト効率に優れたデータ ウェアハウスです。BigQuery ML は、BigQuery で SQL クエリを使用して機械学習モデルを作成およびトレーニングできるサービスです。ただし、画像データを表形式に変換すると、画像分類に不可欠な画像の空間情報と意味情報が失われます。さらに、BigQuery ML は画像分類に特化していないため、カテゴリ特徴を処理するには、特徴ハッシュ、埋め込み、ワンホット エンコーディングなどの他のツールや手法を使用する必要があります。