トラフィックを処理している本番環境の Vertex AI エンドポイントにモデルの新しいバージョンをデプロイし、すべてのユーザー トラフィックを新しいモデルに誘導し、アプリケーションへの影響を最小限に抑えてモデルをデプロイするための最善のオプションは、新しいモデルを作成し、parentModel パラメータを現在デプロイされているモデルのモデル ID に設定し、モデルを Vertex AI モデル レジストリにアップロードし、新しいモデルを既存のエンドポイントにデプロイし、新しいモデルをトラフィックの 100% に設定することです。このオプションを使用すると、Vertex AI のパワーとシンプルさを活用してモデル バージョンを更新し、低遅延でオンライン予測を提供できます。Vertex AI は、Google Cloud 上で機械学習ソリューションを構築およびデプロイするための統合プラットフォームです。Vertex AI は、トレーニング済みのモデルをオンライン予測エンドポイントにデプロイでき、個々のインスタンスに対して低遅延の予測を提供できます。モデルは、予測に使用できる機械学習モデルを表すリソースです。モデルには、同じモデルの異なる実装である 1 つ以上のバージョンがあります。モデル バージョンは、同じモデルの別のバージョンとは異なるパラメータ、コード、またはデータを持つことができます。モデル バージョンを使用すると、モデルを実験して反復し、モデルのパフォーマンスと精度を向上させることができます。 parentModel パラメーターは、新しいモデル バージョンが基づいているモデルのモデル ID を指定するパラメーターです。 parentModel パラメーターを使用すると、既存のモデルの設定とメタデータを継承し、モデル構成の重複を回避できます。 Vertex AI Model Registry は、Google Cloud 上に機械学習モデルを保存および管理できるサービスです。 Vertex AI Model Registry を使用すると、モデルをアップロードして整理し、モデル バージョンとメタデータを追跡できます。 エンドポイントは、予測を要求するために使用するサービス エンドポイント (URL) を提供するリソースです。 エンドポイントには、物理​​リソースに関連付けられたモデル バージョンのインスタンスである、デプロイされたモデルが 1 つ以上含まれている場合があります。 デプロイされたモデルを使用すると、低遅延でオンライン予測を提供したり、トラフィックに基づいてスケールアップまたはスケールダウンしたりできます。新しいモデルを作成し、parentModel パラメータを現在デプロイされているモデルのモデル ID に設定し、モデルを Vertex AI モデル レジストリにアップロードし、新しいモデルを既存のエンドポイントにデプロイし、新しいモデルをトラフィックの 100% に設定することで、トラフィックを処理している本番環境の Vertex AI エンドポイントにモデルの新しいバージョンをデプロイし、すべてのユーザー トラフィックを新しいモデルに誘導し、アプリケーションへの影響を最小限に抑えながらモデルをデプロイできます 1。
他の選択肢は、以下の理由から選択肢Cほど優れていません。
* オプション A: 新しいエンドポイントを作成し、新しいモデルを作成し、それをデフォルト バージョンとして設定し、モデルを Vertex AI モデル レジストリにアップロードし、新しいモデルを新しいエンドポイントにデプロイし、Cloud DNS を更新して新しいエンドポイントを指すようにするには、新しいモデルを作成し、parentModel パラメータを現在デプロイされているモデルのモデル ID に設定し、モデルを Vertex AI モデル レジストリにアップロードし、新しいモデルを既存のエンドポイントにデプロイし、新しいモデルをトラフィックの 100% に設定するよりも多くのスキルと手順が必要です。Cloud DNS は、Google Cloud 上で信頼性が高くスケーラブルなドメイン ネーム システム (DNS) サービスを提供できるサービスです。Cloud DNS を使用すると、DNS レコードを管理し、ドメイン名を IP アドレスに解決できます。Cloud DNS を更新して新しいエンドポイントを指すようにすると、ユーザーのトラフィックを新しいエンドポイントにリダイレクトし、既存のアプリケーションが壊れるのを防ぐことができます。しかし、新しいエンドポイントを作成し、新しいモデルを作成し、それをデフォルト バージョンとして設定し、モデルを Vertex AI モデル レジストリにアップロードし、新しいモデルを新しいエンドポイントにデプロイし、新しいエンドポイントを指すように Cloud DNS を更新すれば、新しいモデルを作成し、parentModel パラメータを現在デプロイされているモデルのモデル ID に設定し、モデルを Vertex AI モデル レジストリにアップロードし、新しいモデルを既存のエンドポイントにデプロイし、新しいモデルを新しいエンドポイントを指すように設定できるよりも、新しいエンドポイントを作成し、新しいモデルを作成し、新しいモデルをデフォルト バージョンとして設定するよりも、新しいモデルエンドポイントを指すように設定するには、新しいモデルを作成し、parentModel パラメータを現在デプロイされているモデルのモデル ID に設定し、新しいモデルをデフォルト バージョンとして設定するよりも、多くのスキルと手順が必要になります。
トラフィックの100%。コードの記述、新しいエンドポイントの作成と構成、新しいモデルの作成と構成、Vertex AI Model Registryへのモデルのアップロード、新しいエンドポイントへのモデルのデプロイ、および新しいエンドポイントを指すようにCloud DNSを更新する必要があります。さらに、このオプションでは新しいエンドポイントが作成されるため、メンテナンスと管理のコストが増加する可能性があります2。
* オプション B: 新しいエンドポイントを作成し、新しいモデルを作成し、parentModel パラメータを現在デプロイされているモデルのモデル ID に設定してデフォルト バージョンとして設定し、モデルを Vertex AI モデル レジストリにアップロードし、新しいモデルを新しいエンドポイントにデプロイして新しいモデルをトラフィックの 100% に設定するには、新しいモデルを作成し、parentModel パラメータを現在デプロイされているモデルのモデル ID に設定し、モデルを Vertex にアップロードするよりも多くのスキルと手順が必要になります。
* AI モデルレジストリ、新しいモデルを既存のエンドポイントにデプロイし、新しいモデルを
トラフィックの 100%。parentModel パラメータは、新しいモデル バージョンの基となるモデルのモデル ID を指定するパラメータです。parentModel パラメータを使用すると、既存のモデルの設定とメタデータを継承し、モデル構成の重複を回避できます。デフォルト バージョンは、他のバージョンが指定されていない場合に予測に使用されるモデル バージョンです。デフォルト バージョンを使用すると、予測リクエストを簡素化し、毎回モデル バージョンを指定する必要がなくなります。parentModel パラメータを現在デプロイされているモデルのモデル ID に設定し、それをデフォルト バージョンとして設定することで、既存のモデルに基づいて新しいモデルを作成し、モデル バージョンを指定せずに予測に使用できます。しかし、新しいエンドポイントを作成し、新しいモデルを作成し、parentModel パラメータを現在デプロイされているモデルのモデル ID に設定してそれをデフォルト バージョンとして設定し、モデルを Vertex AI モデル レジストリにアップロードし、新しいモデルを新しいエンドポイントにデプロイして、新しいモデルをトラフィックの 100% に設定するという手順は、新しいモデルを作成し、parentModel パラメータを現在デプロイされているモデルのモデル ID に設定し、モデルを Vertex AI モデル レジストリにアップロードし、新しいモデルを既存のエンドポイントにデプロイして、新しいモデルをトラフィックの 100% に設定するという手順よりも、より多くのスキルと手順が必要になります。コードを記述し、新しいエンドポイントを作成して構成し、新しいモデルを作成して構成し、モデルを Vertex AI モデル レジストリにアップロードし、モデルを新しいエンドポイントにデプロイする必要があります。さらに、このオプションでは新しいエンドポイントが作成されるため、メンテナンスと管理のコストが増加する可能性があります 2。
* オプション D: 新しいモデルを作成し、それをデフォルト バージョンとして設定し、そのモデルを Vertex AI モデル レジストリにアップロードして、新しいモデルを既存のエンドポイントにデプロイすると、既存のモデルの設定とメタデータを継承することができず、エラーやパフォーマンスの低下が発生する可能性があります。デフォルト バージョンとは、他のバージョンが指定されていない場合に予測に使用されるモデル バージョンです。デフォルト バージョンを使用すると、予測リクエストを簡素化し、毎回モデル バージョンを指定する必要がなくなります。
新しいモデルをデフォルト バージョンとして設定すると、モデル バージョンを指定せずに予測に新しいモデルを使用できます。ただし、新しいモデルを作成し、それをデフォルト バージョンとして設定し、モデルを Vertex AI モデル レジストリにアップロードして、新しいモデルを既存のエンドポイントにデプロイすると、既存のモデルの設定とメタデータを継承できず、エラーやパフォーマンスの低下が発生する可能性があります。コードを記述し、新しいモデルを作成して構成し、モデルを Vertex AI モデル レジストリにアップロードして、モデルを既存のエンドポイントにデプロイする必要があります。さらに、このオプションでは parentModel パラメータが現在デプロイされているモデルのモデル ID に設定されないため、既存のモデルの設定とメタデータを継承できず、モデル バージョン 2 間で不整合や競合が発生する可能性があります。
参考文献：
* Google Cloud認定資格の準備：機械学習エンジニア、コース3：本番環境向け機械学習システム、第2週：機械学習予測の提供
* Google Cloud Professional Machine Learning Engineer 試験ガイド、セクション 3: 本番環境での ML モデルのスケーリング、3.1 本番環境への ML モデルのデプロイ
* Google Cloud 認定プロフェッショナル機械学習エンジニア公式学習ガイド、第 6 章:
実運用MLシステム、セクション6.2：ML予測の提供
* Vertex AI
* クラウドDNS

* オプション A は、単語のワンホット エンコーディングを作成し、そのエンコーディングをモデルに入力することは、自然言語モデルで単語を個別に前処理する効率的な方法ではないため、誤りです。ワンホット エンコーディングは、カテゴリ変数をバイナリ ベクトルとして表現する方法で、各要素はカテゴリに対応し、1 つの要素のみが 1 で、残りは 0 です。ただし、この方法は、大量のメモリと計算が必要であり、単語間の意味的な類似性や関係性を捉えることができないため、大規模な語彙の単語などの高次元で疎なデータには適していません 2。
* オプション B が正解です。事前学習済みモデルから単語埋め込みを識別し、その埋め込みをモデルで使用することは、自然言語モデルで単語を個別に前処理する良い方法です。単語埋め込みは、連続空間で単語の意味と使用法を表す低次元で密なベクトルです 3。単語埋め込みは、word2vec、GloVe、BERT などのニューラルネットワークを使用して、大規模なテキストコーパスから学習できます 4。事前学習済みの単語埋め込みを使用すると、時間とリソースを節約でき、特にトレーニングデータが限られている場合やノイズが多い場合に、自然言語モデルのパフォーマンスを向上させることができます 5。
* オプションCは誤りです。単語を出現頻度順に並べ替え、その頻度をモデルのエンコーディングとして使用することは、自然言語モデルにおいて単語を個別に前処理する意味のある方法ではありません。この方法は、単語の出現頻度がその重要性や関連性を示す良い指標であると示唆していますが、これは必ずしも真実ではありません。例えば、「the」という単語は非常に頻繁に出現しますが、あまり情報量が多くありません。一方、「unicorn」という単語は稀ですが、より特徴的です。さらに、この方法は単語間の意味的な類似性や関係性を捉えておらず、モデルにノイズやバイアスをもたらす可能性があります。
* オプションDは誤りです。各単語に1から100,000までの数値を割り当て、その値をモデルへの入力として与える方法は、自然言語モデルにおいて単語を個別に前処理する有効な方法ではありません。この方法は単語間に順序関係があることを示唆していますが、それは必ずしも真実ではありません。
例えば、「apple」、「banana」、「orange」という単語に1、2、3の値を割り当てることは
* これらの果物には固有の順序がないため、意味をなさない。さらに、この方法は単語間の意味的な類似性や関係性を捉えておらず、無関係な情報や誤解を招く情報によってモデルが混乱する可能性がある。
参考文献：
* ワンホットエンコーディング
* 単語埋め込み
* 単語埋め込み
* 事前学習済みの単語埋め込み
* Kerasモデルで事前学習済みの単語埋め込みを使用する
* [用語の出現頻度]
* [単語頻度-逆文書頻度]
* [順序変数]
* [カテゴリカル特徴のエンコード]

TensorFlow Data Validation (TFDV) は、機械学習用のデータを理解、検証、監視するのに役立つライブラリです。データ内の欠落した特徴量、新しい特徴量、異なるデータ型などのスキーマ異常を自動的に検出して報告できます。また、データの探索とデバッグに役立つ記述統計とデータ視覚化を生成することもできます。TFDV は、機械学習ライフサイクル全体を通してデータの品質と一貫性を確保するために、モデルトレーニングパイプラインに統合できます。参照:
TensorFlowデータ検証
データ検証 | TensorFlow
データ検証 | 機械学習入門講座 | Google Developers

質問のトレースを見ると、トレーニング時間が予想よりも長くかかっていることがわかります。これは、入力関数が最適化されていないことが原因と考えられます。トレーニング時間を効率的に短縮するには、並列読み込み、並列処理、プリフェッチを使用して入力関数を書き直すのが最善策です。これにより、モデルはデータをより効率的に処理できるようになり、トレーニング時間を短縮できます。参考文献：
* [Cloud TPU パフォーマンス ガイド]
* [データ入力パイプラインのパフォーマンスガイド]

トラフィックを処理している本番環境の Vertex AI エンドポイントにモデルの新しいバージョンをデプロイし、すべてのユーザー トラフィックを新しいモデルに誘導し、アプリケーションへの影響を最小限に抑えてモデルをデプロイするための最善のオプションは、新しいモデルを作成し、parentModel パラメータを現在デプロイされているモデルのモデル ID に設定し、モデルを Vertex AI モデル レジストリにアップロードし、新しいモデルを既存のエンドポイントにデプロイし、新しいモデルをトラフィックの 100% に設定することです。このオプションを使用すると、Vertex AI のパワーとシンプルさを活用してモデル バージョンを更新し、低遅延でオンライン予測を提供できます。Vertex AI は、Google Cloud 上で機械学習ソリューションを構築およびデプロイするための統合プラットフォームです。Vertex AI は、トレーニング済みのモデルをオンライン予測エンドポイントにデプロイでき、個々のインスタンスに対して低遅延の予測を提供できます。モデルは、予測に使用できる機械学習モデルを表すリソースです。モデルには、同じモデルの異なる実装である 1 つ以上のバージョンがあります。モデル バージョンは、同じモデルの別のバージョンとは異なるパラメータ、コード、またはデータを持つことができます。モデル バージョンを使用すると、モデルを実験して反復し、モデルのパフォーマンスと精度を向上させることができます。 parentModel パラメーターは、新しいモデル バージョンが基づいているモデルのモデル ID を指定するパラメーターです。 parentModel パラメーターを使用すると、既存のモデルの設定とメタデータを継承し、モデル構成の重複を回避できます。 Vertex AI Model Registry は、Google Cloud 上に機械学習モデルを保存および管理できるサービスです。 Vertex AI Model Registry を使用すると、モデルをアップロードして整理し、モデル バージョンとメタデータを追跡できます。 エンドポイントは、予測を要求するために使用するサービス エンドポイント (URL) を提供するリソースです。 エンドポイントには、物理​​リソースに関連付けられたモデル バージョンのインスタンスである、デプロイされたモデルが 1 つ以上含まれている場合があります。 デプロイされたモデルを使用すると、低遅延でオンライン予測を提供したり、トラフィックに基づいてスケールアップまたはスケールダウンしたりできます。新しいモデルを作成し、parentModel パラメータを現在デプロイされているモデルのモデル ID に設定し、モデルを Vertex AI モデル レジストリにアップロードし、新しいモデルを既存のエンドポイントにデプロイし、新しいモデルをトラフィックの 100% に設定することで、トラフィックを処理している本番環境の Vertex AI エンドポイントにモデルの新しいバージョンをデプロイし、すべてのユーザー トラフィックを新しいモデルに誘導し、アプリケーションへの影響を最小限に抑えながらモデルをデプロイできます 1。
他の選択肢は、以下の理由から選択肢Cほど優れていません。
* オプション A: 新しいエンドポイントを作成し、新しいモデルを作成し、それをデフォルト バージョンとして設定し、モデルを Vertex AI モデル レジストリにアップロードし、新しいモデルを新しいエンドポイントにデプロイし、Cloud DNS を更新して新しいエンドポイントを指すようにするには、新しいモデルを作成し、parentModel パラメータを現在デプロイされているモデルのモデル ID に設定し、モデルを Vertex AI モデル レジストリにアップロードし、新しいモデルを既存のエンドポイントにデプロイし、新しいモデルをトラフィックの 100% に設定するよりも多くのスキルと手順が必要です。Cloud DNS は、Google Cloud 上で信頼性が高くスケーラブルなドメイン ネーム システム (DNS) サービスを提供できるサービスです。Cloud DNS を使用すると、DNS レコードを管理し、ドメイン名を IP アドレスに解決できます。Cloud DNS を更新して新しいエンドポイントを指すようにすると、ユーザーのトラフィックを新しいエンドポイントにリダイレクトし、既存のアプリケーションが壊れるのを防ぐことができます。しかし、新しいエンドポイントを作成し、新しいモデルを作成し、それをデフォルト バージョンとして設定し、モデルを Vertex AI モデル レジストリにアップロードし、新しいモデルを新しいエンドポイントにデプロイし、新しいエンドポイントを指すように Cloud DNS を更新すれば、新しいモデルを作成し、parentModel パラメータを現在デプロイされているモデルのモデル ID に設定し、モデルを Vertex AI モデル レジストリにアップロードし、新しいモデルを既存のエンドポイントにデプロイし、新しいモデルを新しいエンドポイントを指すように設定できるよりも、新しいエンドポイントを作成し、新しいモデルを作成し、新しいモデルをデフォルト バージョンとして設定するよりも、新しいモデルエンドポイントを指すように設定するには、新しいモデルを作成し、parentModel パラメータを現在デプロイされているモデルのモデル ID に設定し、新しいモデルをデフォルト バージョンとして設定するよりも、多くのスキルと手順が必要になります。
トラフィックの100%。コードの記述、新しいエンドポイントの作成と構成、新しいモデルの作成と構成、Vertex AI Model Registryへのモデルのアップロード、新しいエンドポイントへのモデルのデプロイ、および新しいエンドポイントを指すようにCloud DNSを更新する必要があります。さらに、このオプションでは新しいエンドポイントが作成されるため、メンテナンスと管理のコストが増加する可能性があります2。
* オプション B: 新しいエンドポイントを作成し、新しいモデルを作成し、parentModel パラメータを現在デプロイされているモデルのモデル ID に設定してデフォルト バージョンとして設定し、モデルを Vertex AI モデル レジストリにアップロードし、新しいモデルを新しいエンドポイントにデプロイして新しいモデルをトラフィックの 100% に設定するには、新しいモデルを作成し、parentModel パラメータを現在デプロイされているモデルのモデル ID に設定し、モデルを Vertex AI モデル レジストリにアップロードし、新しいモデルを既存のエンドポイントにデプロイして新しいモデルをトラフィックの 100% に設定するよりも多くのスキルと手順が必要になります。
トラフィックの 100%。parentModel パラメータは、新しいモデルバージョンの基となるモデルのモデル ID を指定するパラメータです。parentModel パラメータを使用すると、既存のモデルの設定とメタデータを継承し、モデル構成の重複を回避できます。デフォルトバージョンは、他のバージョンが指定されていない場合に予測に使用されるモデルバージョンです。デフォルトバージョンを使用すると、予測リクエストを簡素化し、毎回モデルバージョンを指定する必要がなくなります。parentModel パラメータを現在デプロイされているモデルのモデル ID に設定し、それをデフォルトバージョンとして設定することで、既存のモデルに基づいた新しいモデルを作成し、モデルバージョンを指定せずに予測に使用できます。ただし、新しいエンドポイントを作成し、新しいモデルを作成し、parentModel パラメータを現在デプロイされているモデルのモデル ID に設定し、それをデフォルトバージョンとして設定し、モデルを Vertex AI モデルレジストリにアップロードし、新しいモデルを新しいエンドポイントにデプロイして、新しいモデルをトラフィックの 100% に設定するには、新しいモデルを作成し、parentModel パラメータを現在デプロイされているモデルのモデル ID に設定するよりも多くのスキルと手順が必要になります。
* モデルを作成し、Vertex AI モデルレジストリにモデルをアップロードし、新しいモデルを既存のエンドポイントにデプロイし、新しいモデルをトラフィックの 100% に設定します。コードを記述し、新しいエンドポイントを作成および構成し、新しいモデルを作成および構成し、モデルを Vertex AI モデルレジストリにアップロードし、モデルを新しいエンドポイントにデプロイする必要があります。さらに、このオプションでは新しいエンドポイントが作成されるため、メンテナンスおよび管理コストが増加する可能性があります 2。
* オプション D: 新しいモデルを作成し、それをデフォルト バージョンとして設定し、そのモデルを Vertex AI モデル レジストリにアップロードして、新しいモデルを既存のエンドポイントにデプロイすると、既存のモデルの設定とメタデータを継承することができず、エラーやパフォーマンスの低下が発生する可能性があります。デフォルト バージョンとは、他のバージョンが指定されていない場合に予測に使用されるモデル バージョンです。デフォルト バージョンを使用すると、予測リクエストを簡素化し、毎回モデル バージョンを指定する必要がなくなります。
新しいモデルをデフォルト バージョンとして設定すると、モデル バージョンを指定せずに予測に新しいモデルを使用できます。ただし、新しいモデルを作成し、それをデフォルト バージョンとして設定し、モデルを Vertex AI モデル レジストリにアップロードして、新しいモデルを既存のエンドポイントにデプロイすると、既存のモデルの設定とメタデータを継承できず、エラーやパフォーマンスの低下が発生する可能性があります。コードを記述し、新しいモデルを作成して構成し、モデルを Vertex AI モデル レジストリにアップロードして、モデルを既存のエンドポイントにデプロイする必要があります。さらに、このオプションでは parentModel パラメータが現在デプロイされているモデルのモデル ID に設定されないため、既存のモデルの設定とメタデータを継承できず、モデル バージョン 2 間で不整合や競合が発生する可能性があります。
参考文献：
* Google Cloud認定資格の準備：機械学習エンジニア、コース3：本番環境向け機械学習システム、第2週：機械学習予測の提供
* Google Cloud Professional Machine Learning Engineer 試験ガイド、セクション 3: 本番環境での ML モデルのスケーリング、3.1 本番環境への ML モデルのデプロイ
* Google Cloud 認定プロフェッショナル機械学習エンジニア公式学習ガイド、第 6 章:
実運用MLシステム、セクション6.2：ML予測の提供
* Vertex AI
* クラウドDNS