scikit-learn 分類モデルを本番環境にデプロイするための最良のオプションは、オンラインの Vertex AI 予測エンドポイントをデプロイし、最大レプリカ数を 100 に設定することです。このオプションにより、Google Cloud のパワーとスケーラビリティを活用して 24 時間年中無休でリクエストを処理できます。毎秒数百万のリクエストを処理します。Vertex AI は、Google Cloud 上で機械学習ソリューションを構築およびデプロイするための統合プラットフォームです。Vertex AI は、トレーニングされた scikit-learn モデルをオンライン予測エンドポイントにデプロイでき、個々のインスタンスに対して低レイテンシの予測を提供できます。オンライン予測エンドポイントは、仮想マシン上で実行されるモデルのコピーである 1 つ以上のレプリカで構成されます。最大レプリカ数は、エンドポイントに対して作成できるレプリカの最大数を決定するパラメータです。最大レプリカ数を 100 に設定すると、トラフィックが増加するとエンドポイントが 100 レプリカにスケールアップし、トラフィックが減少するとゼロ レプリカにスケールダウンできるようになります。これにより、使用したリソースに対してのみ料金が発生するため、導入コストを最小限に抑えることができます。さらに、自動スケーリング アルゴリズム オプションを使用して、レイテンシと使用率のメトリクスに基づいてエンドポイントのスケーリング動作を最適化できます1。
他のオプションは、次の理由により、オプション B ほど優れていません。
* オプション A: オンラインの Vertex AI 予測エンドポイントをデプロイし、最大レプリカ数を 1 に設定しても、年中無休でリクエストに対応し、1 秒あたり数百万件のリクエストを処理することはできません。最大レプリカ数を 1 に設定すると、エンドポイントが 1 つのレプリカのみに制限されるため、トラフィックが増加するとパフォーマンスの問題やサービスの中断が発生する可能性があります。さらに、最大レプリカ数を 1 に設定すると、トラフィックが減少したときにエンドポイントがゼロレプリカにスケールダウンすることがなくなり、使用しないリソースに対して料金を支払うことになり、導入コストが増加する可能性があります1。
* オプション C: レプリカごとに 1 つの GPU を備えたオンライン Vertex AI 予測エンドポイントをデプロイし、最大レプリカ数を 1 に設定すると、24 時間年中無休でリクエストを処理し、1 秒あたり数百万のリクエストを処理することができず、デプロイのコストが増加します。各レプリカに GPU を追加すると、エンドポイントの計算能力が向上しますが、GPU は CPU よりも高価であるため、導入コストも増加します。さらに、最大レプリカ数を 1 に設定すると、エンドポイントが 1 つのレプリカのみに制限されるため、トラフィックが増加するとパフォーマンスの問題やサービスの中断が発生し、トラフィックが減少するとエンドポイントがゼロ レプリカにスケールダウンできなくなる可能性があります1。さらに、scikit-learn は GPU アクセラレーション用に最適化されていないため、scikit-learn モデルは GPU の恩恵を受けません2。
* オプション D: レプリカごとに 1 つの GPU を備えたオンライン Vertex AI 予測エンドポイントをデプロイし、最大レプリカ数を 100 に設定すると、年中無休でリクエストを処理し、レプリカごとに数百万のリクエストを処理できます。
* 2 番目ですが、導入コストが増加します。各レプリカに GPU を追加すると、エンドポイントの計算能力が向上しますが、GPU は CPU よりも高価であるため、導入コストも増加します。最大レプリカ数を 100 に設定すると、エンドポイントはトラフィックが増加すると 100 個のレプリカにスケールアップし、トラフィックが減少するとゼロ レプリカにスケールダウンできるため、展開コストを最小限に抑えることができます。ただし、scikit-learn は GPU アクセラレーション用に最適化されていないため、scikit-learn モデルは GPU の恩恵を受けません2。したがって、scikit-learn モデルに GPU を使用することは不必要で無駄になります。
参考文献:
* Google Cloud 認定資格の準備: 機械学習エンジニア、コース 3: 本番環境 ML システム、第 2 週: ML 予測の提供
* Google Cloud Professional Machine Learning Engineer 試験ガイド、セクション 3: 本番環境での ML モデルのスケーリング、3.1 本番環境への ML モデルのデプロイ
* 公式 Google Cloud Certified Professional Machine Learning Engineer 学習ガイド、第 6 章:
実稼働 ML システム、セクション 6.2: ML 予測の提供
* オンライン予測
* オンライン予測のスケーリング
* scikit-learn FAQ

The option C is the most efficient and scalable solution for deploying a machine learning workflow with multiple models while ensuring version control and minimizing compute resource utilization. By exposing each model as an endpoint in Vertex AI Endpoints, it allows for easy versioning and management of individual models. Using Cloud Run to orchestrate the workflow ensures that the application can scale down to zero, thus minimizing resource utilization when not in use. Cloud Run is a service that allows you to run stateless containers on a fully managed environment or on Google Kubernetes Engine. You can use Cloud Run to invoke the endpoints of each model in the workflow and pass the data between them. You can also use Cloud Run to handle the input and output of the workflow and provide an HTTP interface for the application.
References:
* Vertex AI Endpoints documentation
* Cloud Run documentation
* Preparing for Google Cloud Certification: Machine Learning Engineer Professional Certificate

* Option A is incorrect because Vertex AI Pipelines and App Engine do not meet all the requirements of the system. Vertex AI Pipelines is a service that allows you to create, run, andmanage ML workflows using TensorFlow Extended (TFX) components or custom components1. App Engine is a service that allows you to build and deploy scalable web applications using standard or flexible environments2. However, App Engine does not support Docker containers in the standard environment, and does not provide a dedicated service for online prediction and monitoring of ML models3.
* Option B is correct because Vertex AI Pipelines, Vertex AI Prediction, and Vertex AI Model Monitoring meet all the requirements of the system. Vertex AI Prediction is a service that allows you to deploy and serve ML models for online or batch prediction, with support for autoscaling and custom containers4. Vertex AI Model Monitoring is a service that allows you to monitor the performance and fairness of your deployed models, and get alerts for any issues or anomalies5.
* Option C is incorrect because Cloud Composer, BigQuery ML, and Vertex AI Prediction do not meet all the requirements of the system. Cloud Composer is a service that allows you to create, schedule, and
* manage workflows using Apache Airflow. BigQuery ML is a service that allows you to create and use ML models within BigQuery using SQL queries. However, BigQuery ML does not support custom containers, and Vertex AI Prediction does not support scheduled model retraining or model monitoring.
* Option D is incorrect because Cloud Composer, Vertex AI Training with custom containers, and App Engine do not meet all the requirements of the system. Vertex AI Training is a service that allows you to train ML models using built-in algorithms or custom containers. However, Vertex AI Training does not support online prediction or model monitoring, and App Engine does not support Docker containers in the standard environment or online prediction and monitoring of ML models3.
References:
* Vertex AI Pipelines overview
* App Engine overview
* Choosing an App Engine environment
* Vertex AI Prediction overview
* Vertex AI Model Monitoring overview
* [Cloud Composer overview]
* [BigQuery ML overview]
* [BigQuery ML limitations]
* [Vertex AI Training overview]

Cloud Vision API は、事前トレーニングされた機械学習モデルを使用して画像を分析できるサービスです1。Cloud Vision API を使用すると、顔検出、テキスト抽出、ロゴ認識、オブジェクトの位置特定などのさまざまなタスクを実行できます1。オブジェクトの位置特定は、画像内の複数のオブジェクトを検出し、それらの周囲に境界ボックスを描画できる機能です2。検出された各オブジェクトのラベルと信頼スコアを取得することもできます2。
ユーザーが送信した画像を Cloud Vision API に送信すると、オブジェクトの位置特定を使用して画像内のすべてのオブジェクトを識別し、結果を動物のリストと比較できます。AnnotateImageRequest で OBJECT_LOCALIZATION 機能タイプを使用して、オブジェクトのローカリゼーションをリクエストできます3。
その後、AnnotateImageResponse の localizedObjectAnnotations フィールドを使用して、検出されたオブジェクト、そのラベル、および信頼スコアのリストを取得できます。ラベルを犬、猫、鳥などの動物の事前定義されたリストと比較し、画像に動物が含まれているかどうかを判断できます。
このオプションは、手動のラベル付け、モデルのトレーニング、またはモデルの展開を必要とせずに、アップロードされた各写真に動物が写っているかどうかを自動的かつほぼリアルタイムで検出できるため、シナリオに最適です。また、機械学習の専門知識やインフラストラクチャを必要とせずに、すぐに使えるサービスとして Cloud Vision API を使用できるため、アプリケーションの開発とデプロイメントにかかる時間を優先し、コストを最小限に抑えることができます。
他のオプションは、手動のラベル付け、モデルのトレーニング、またはモデルのデプロイメントを必要とするため、アプリケーションの開発とデプロイメントの時間とコストが増加するか、より複雑でオブジェクト検出モデルを使用するため、シナリオには適していません。オブジェクト位置特定モデルよりも計算コストが高く、画像に動物がいるかどうかを検出するという単純なタスクには必要ありません。
参考文献:
* クラウドビジョン API | グーグルクラウド
* オブジェクトのローカリゼーション | クラウドビジョンAPI | グーグルクラウド
* AnnotateImageRequest | クラウドビジョンAPI | グーグルクラウド
* [AnnotateImageResponse | クラウドビジョンAPI | グーグルクラウド】