If we just put inside the Training set , Validation set and Test set , randomly Text, Paragraph or sentences the model will have the ability to learn specific qualities about The Author's use of language beyond just his own articles. Therefore the model will mixed up different opinions. Rather if we divided things up a the author level, so that given authors were only on the training data, or only in the test data or only in the validation data. The model will find more difficult to get a high accuracy on the test validation (What is correct and have more sense!). Because it will need to really focus in author by author articles rather than get a single political affiliation based on a bunch of mixed articles from different authors. https://developers.google.com/machine-learning/crash-course/18th-century-literature For example, suppose you are training a model with purchase data from a number of stores. You know, however, that the model will be used primarily to make predictions for stores that are not in the training data. To ensure that the model can generalize to unseen stores, you should segregate your data sets by stores. In other words, your test set should include only stores different from the evaluation set, and the evaluation set should include only stores different from the training set. https://cloud.google.com/automl-tables/docs/prepare#ml-use

ML モデルで使用される可能性のある機密性の高い顧客データを保護するための最善のオプションは、AGE を四分位数にし、LATITUDE_LONGITUDE を単精度に丸めてデータを粗くすることです。このオプションには次の利点があります。
* 粗いデータでもモデルが学習する必要のある重要な情報とパターンが捕捉されるため、ML モデルに対するデータの有用性と関連性が維持されます。たとえば、AGE を四分位数にすると、顧客をさまざまな年齢層にグループ化することができ、顧客の好みや行動を予測するのに役立ちます。LATITUDE_LONGITUDE を単精度に丸めると、位置データの精度は下がりますが、顧客の大まかな地理的領域は保持されるため、推奨事項やオファーをパーソナライズするのに役立ちます。
* 粗いデータにより、データから個々の顧客を識別または再識別することが困難になるため、顧客の個人情報やプライベートな情報が漏洩するリスクが軽減されます。たとえば、AGE を四分位数にすると、機密情報または秘密情報と見なされる可能性のある顧客の正確な年齢が隠される可能性があります。LATITUDE_LONGITUDE を単精度に丸めると、機密情報または秘密情報と見なされる可能性のある顧客の正確な場所が不明瞭になる可能性があります。
その他のオプションは、次の理由により最適ではありません。
* オプション A: ハッシュ化されたダミー値を使用してすべてのフィールドをトークン化し、実際の値を置き換えると、トークン化されたデータからモデルが学習する必要のあるすべての情報とパターンが失われるため、ML モデルに対するデータの有用性と関連性が失われます。たとえば、ハッシュ化されたダミー値を使用して AGE をトークン化すると、モデルはランダム トークンから何も学習できないため、データが無意味かつ無関係になる可能性があります。ハッシュ化されたダミー値を使用して LATITUDE_LONGITUDE をトークン化すると、モデルはランダム トークンから何も学習できないため、データが無意味かつ無関係になる可能性があります。
* オプション B: 主成分分析 (PCA) を使用して 4 つの機密フィールドを 1 つの PCA ベクトルに減らすと、モデルが学習する必要のあるすべての情報とパターンを PCA ベクトルがキャプチャできない可能性があるため、ML モデルに対するデータの有用性と関連性が低下します。たとえば、PCA を使用して AGE、IS_EXISTING_CUSTOMER、LATITUDE_LONGITUDE、および SHIRT_SIZE を 1 つの PCA ベクトルに減らすと、PCA ベクトルは元の特徴の線形結合であるため、実際の関係や重要性を反映していない可能性があるため、一部の情報が失われたり、データにノイズが生じたりする可能性があります。
さらに、PCA を使用して 4 つの機密フィールドを 1 つの PCA ベクトルに減らしても、PCA ベクトルによって説明される差異の量と PCA 変換マトリックスの可用性に応じて、PCA ベクトルが元のデータに戻ったり、元のデータにリンクしたりできる可能性があるため、顧客の個人情報やプライベートな情報が漏洩するリスクは軽減されない可能性があります。
* オプション D: すべての機密データ フィールドを削除し、データ サイエンス チームに非機密データを使用してモデルを構築するように依頼すると、非機密データにはモデルが学習する必要のある十分な情報とパターンが含まれていない可能性があるため、ML モデルに対するデータの有用性と関連性が低下します。たとえば、データから AGE、IS_EXISTING_CUSTOMER、LATITUDE_LONGITUDE、および SHIRT_SIZE を削除すると、モデルが顧客の好みや行動に影響を与える要因を学習できない可能性があるため、データが不十分で代表的でなくなる可能性があります。さらに、データが安全かつ倫理的な方法で処理され、顧客の同意と権利が尊重されている限り、データ保護法によって ML モデルに機密データを使用することが許可される場合があるため、データからすべての機密データ フィールドを削除することは不要または実行可能ではない可能性があります。
参考文献:
* 機密データと AI モデルを Confidential Computing で保護 | NVIDIA テクニカル ブログ
* 機密データから機械学習モデルをトレーニング | Fast Data Science
* ML アプリケーションのセキュリティ保護。モデルのセキュリティと保護 - Medium
* AI/ML システムのセキュリティ、ML モデルのセキュリティ | Cossack Labs
* 機械学習モデルの脆弱性、セキュリティ、プライバシー

マネージド サービスを使用してさまざまなフレームワークでトレーニング ジョブを送信する最適なオプションは、Vertex AI Training を使用することです。Vertex AI Training は、TensorFlow、PyTorch、scikit-learn、XGBoost などの任意のフレームワークを使用して Google Cloud でカスタムモデルをトレーニングできるフルマネージド サービスです。カスタム コンテナを使用して独自のライブラリと依存関係を実行することもできます。Vertex AI Training がインフラストラクチャのプロビジョニング、スケーリング、モニタリングを処理するため、モデルの開発と最適化に集中できます。
Vertex AI Training は、Vertex AI Pipelines、Vertex AI Experiments、Vertex AI Prediction などの他の Vertex AI サービスとも統合されます。他のオプションは、次の理由により、マネージド サービスを使用して異なるフレームワークでトレーニング ジョブを送信するのに適していません。
* Kubeflow を Google Kubernetes Engine 上で実行し、TFJob を通じてトレーニング ジョブを送信するように構成すると、Kubeflow は完全に管理されたサービスではないため、インフラストラクチャのメンテナンスがさらに必要になり、独自の Kubernetes クラスタをプロビジョニングして管理する必要があります。また、トレーニング ジョブの使用状況に関係なく、クラスタ リソースの料金を支払う必要があるため、コストもさらにかかります。TFJob は主に TensorFlow モデル用に設計されているため、Vertex AI Training だけでなく他のフレームワークもサポートしていない可能性があります。
* Compute Engine 上に VM イメージのライブラリを作成し、これらのイメージを一元化されたリポジトリに公開するには、さまざまなフレームワークやライブラリごとに異なる VM イメージを作成して維持する必要があるため、開発にさらに多くの時間と労力がかかります。また、トレーニング ジョブごとに VM を手動で構成して起動し、スケーリングとモニタリングを自分で処理する必要もあります。
これでは、Vertex AI Training などのマネージド サービスのメリットを活用できません。
* Slurm はネイティブの Google Cloud サービスではないため、クラウド インフラストラクチャで実行するようにスケジュールできるジョブを受信するように Slurm ワークロード マネージャーを設定するには、より多くの構成と管理が必要になり、独自の VM またはクラスタにインストールして管理する必要があります。Slurm は汎用のワークロード マネージャーでもあり、Vertex AI Training ほど ML フレームワークやライブラリの統合と最適化のレベルが高くない可能性があります。参考資料:
* Vertex AI トレーニング | Google Cloud
* Google Cloud 上の Kubeflow | Google Cloud
* Kubernetes で TensorFlow モデルをトレーニングするための TFJob | Kubeflow
* コンピューティング エンジン | Google Cloud
* Slurm ワークロード マネージャー

サンプル シャプレーは、シャプレー値の高速でスケーラブルな近似値です。シャプレー値は、モデル予測に対する各特徴の寄与を測定するゲーム理論的概念です。サンプル シャプレーは、最小限のレイテンシで特徴属性を返すことができるため、オンライン予測リクエストに適しています。パス カウント パラメータは、シャプレー値の推定に使用されるサンプルの数を制御し、値が低いほど計算が高速になります。統合勾配は、ベースライン入力から実際の入力までのパスに沿った平均勾配を計算する別の説明方法です。統合勾配はサンプル シャプレーよりも正確ですが、計算量も大きくなります。したがって、特にパス数が多い場合は、オンライン予測リクエストには推奨されません。予測ドリフトとは、時間の経過とともに特徴値またはラベルの分布が変化することです。モデルのパフォーマンスと精度に影響を与える可能性があり、モデルの再トレーニングまたは再デプロイが必要になる場合があります。Vertex AI モデル モニタリングを使用すると、デプロイされたモデルとエンドポイントの予測ドリフトを監視し、ドリフトが特定のしきい値を超えた場合にアラートと通知を設定できます。通知を受信するためのメール アドレスを指定し、その情報を使用してトレーニング パイプラインを再トリガーし、モデルの更新バージョンをデプロイすることができます。これは、目標を達成するための最も直接的で便利な方法です。
トレーニング サービング スキューは、モデルのトレーニングに使用されるデータとモデルの提供に使用されるデータの差です。また、モデルのパフォーマンスと精度に影響を与える可能性があり、データ品質の問題やモデルの古さを示している可能性があります。Vertex AI Model Monitoring を使用すると、デプロイされたモデルとエンドポイントのトレーニング サービング スキューを監視し、スキューが特定のしきい値を超えた場合にアラートと通知を設定できます。
ただし、質問はデータの分布ではなく、モデルの機能の属性に関するものであるため、これは質問とは関係ありません。参考文献:
* Vertex AI: 説明方法
* Vertex AI: 説明の設定
* Vertex AI: 予測ドリフトの監視
* Vertex AI: トレーニングとサービングの偏りの監視