説明
標本化バイアスは、意図した統計母集団の一部のメンバーが他のメンバーよりも含まれる可能性が低いような方法でデータ セグメントが収集された場合に発生します。その結果、サンプルが母集団を代表しないものとなり、不正確または誤解を招く結論につながる可能性があります。サンプリング バイアスは、非ランダム サンプリング方法、無応答、自己選択、便宜的サンプリングなど、さまざまな要因によって発生する可能性があります。参考文献: [サンプリング バイアス - Wikipedia]、[サンプリング バイアスとは何ですか?] 定義、種類、例]

説明
過学習は、モデルがトレーニング データから学習しすぎて、新しいデータやまだ見たことのないデータにうまく一般化できないときに発生する問題です。過剰適合は、使用するトレーニング データの量が少ない、モデルの複雑度が高い、または正則化が欠如していることが原因で発生する可能性があります。また、モデルからトレーニング データの特定の特徴やパターンに関する情報が多すぎる可能性があるため、オーバーフィッティングにより、モデルの出力からデータセットをリバース エンジニアリングするリスクが高まる可能性があります。これにより、データの機密性が損なわれ、データセット内の個人に関する機密情報が漏洩する可能性があります。

説明
主成分分析 (PCA) は、データセットを主成分と呼ばれる新しい変数のセットに変換することでデータセットの次元を削減する手法です。主成分は、データ内の分散の最大量を捕捉する元の変数の線形結合です。最初の主成分は最も多くの分散を説明し、2 番目の主成分は 2 番目に最も多くの分散を説明し、以下同様となります。PCA の目標は、変数の数を減らしながら、可能な限り多くの分散を保持することです。

説明
セキュリティ対策をさまざまな ML ワークフロー ステージに適用して、データ盗難、モデルの改ざん、敵対的攻撃などの悪意のあるアクティビティから防御できます。セキュリティ対策には次のようなものがあります。
Virtual Private Cloud (VPC) での ML インスタンスの起動: VPC は、ユーザーが独自のリソースを起動して制御できるようにする、クラウド プロバイダーのネットワークの論理的に分離されたセクションです。VPC で ML インスタンスを起動することにより、ユーザーはデータとモデルのセキュリティとプライバシーを強化できるだけでなく、インスタンスへのアクセスとインスタンスからのトラフィックを制限できます。
データ暗号化を使用する: データ暗号化は、秘密キーまたはアルゴリズムを使用してデータを読み取り不可能な形式に変換するプロセスです。データ暗号化により、保存時 (データベースまたはファイルに保存) または転送中 (ネットワーク経由で転送)​​ のデータの機密性、完全性、可用性を保護できます。データ暗号化により、機密データの不正アクセス、変更、漏洩を防ぐことができます。
Secrets Manager を使用して資格情報を保護する: Secrets Manager は、ユーザーがパスワード、API キー、トークン、証明書などのシークレットを安全に保存、管理、取得できるようにするサービスです。Secrets Manager は、ユーザーが自分の資格情報を不正なアクセスや公開から保護したり、セキュリティ ポリシーに準拠するために資格情報を自動的にローテーションしたりするのに役立ちます。

説明
Adversarial ML Threat Matrix は、ML システムにおける脅威の検出、対応、修復を支援するように設計されたオープン フレームワークです。Adversarial ML 脅威マトリックスは、攻撃ライフサイクルのさまざまな段階にわたるサイバー攻撃を記述するためのフレームワークである MITRE ATT&CK マトリックス 1 からインスピレーションを受けています。Adversarial ML Threat Matrix は、このフレームワークを適応させて、データ ポイズニング、モデル盗用、モデル回避、モデル反転 2 など、ML システムの特定の脅威や脆弱性に対処します。Adversarial ML Threat Matrix は、ML システムの敵対的な手法、戦術、手順、例、緩和策を整理して分類するための構造化された方法を提供します2。