第三者監査報告書は、ベンダーが提示する統制が、認められた基準に照らして効果的に設計され、運用されていることを独立した立場から保証するものです。こうした証明（監査／保証フレームワークなど）は、追跡可能、再現可能、検証可能であり、サプライチェーンリスクレビューや契約上の保証を裏付けるものです。社内レッドチーム報告書は独立したものではなく、業界の「ピアレビュー」は統制の証明ではなく、ホワイトペーパーは統制の運用状況を示す証拠のないマーケティング／教育資料に過ぎません。

AIモデルの堅牢性とは、主に、敵対的な入力、操作されたデータ、または誤った出力や障害を引き起こすように設計された予期せぬ状況にさらされた場合でも、モデルが信頼性が高く正確な動作を維持できる能力を指します。

AAISMは、メンバーシップ推論攻撃は、モデルがトレーニング中に使用されたデータポイントに遭遇した際に、異常に高い信頼度スコアを悪用することが多いと規定している。侵入テスト担当者は、既知および未知のサンプル全体にわたるモデルの信頼度挙動を分析することで、脆弱性を特定する。

公認またはオープンソースの生成型AIツールを無許可で使用することによる最大の差し迫ったリスクはデータ漏洩です。従業員が機密情報や規制対象情報をサードパーティのシステムに貼り付けてしまうと、機密性の喪失、規制上のリスク、知的財産の損失につながります。AAISMは、承認されたチャネル以外でAIを使用する場合、プロンプト、添付ファイル、コンテキスト共有を介した機密データの流出を防ぐことが最優先事項であると強調しています。監視とポリシーは必要な手段ですが、短期的には漏洩が最も影響の大きい障害モードです。幻覚は主に精度に影響を与え、機密性には影響しません。
参考文献:* AIセキュリティ管理（AAISM）知識体系: 生成型AIガバナンス; ヒューマンインザループリスク; プロンプトにおけるデータ損失および漏洩ベクトル; 承認済みAI使用と未承認AI使用。* AIセキュリティ管理学習ガイド: シャドウAIの即時リスクトリアージ; DLPおよび入力制御保護; 生成型AI導入のための機密性優先の姿勢。

AAISMでは、制御の選択は脅威主導型かつコンテキスト固有のものであることが求められます。AIの脅威を組織の既存のエンタープライズ制御カタログ（セキュリティ、プライバシー、レジリエンス）に整合させ、カバー範囲が不十分な場合はAI固有の保護策で補強する必要があります。これにより、リスク許容度との整合性が確保され、重複が排除され、AI特有のギャップ（例えば、即時インジェクション、コンテキストウィンドウからのデータ漏洩、モデルの悪用）が解消されます。ベンダーやカスタマイズされていない外部フレームワークに汎用的に依存しても、目的に合ったカバー範囲は保証されず、制御の選択をデプロイ後に行うことは、プロアクティブなリスク対策に反します。