AIアーキテクチャは、プログラムガバナンスにおいて、AIシステムのコンポーネントとライフサイクルプロセスをビジネス目標とポリシー制約に適合させるために存在します。アーキテクチャは、戦略、機能、プロセス、データ、モデル、コントロール、アシュアランスを結び付ける組織構造を提供し、AIの成果をビジネス価値、リスク許容度、コンプライアンスへの期待にトレースできるようにします。効率性、スピード、脅威分析はアーキテクチャの重要な特性ですが、それらは主要な目的ではありません。主要な目的は、戦略とガバナンスの整合性を図り、技術的な選択とコントロールによって組織目標を一貫して実現することです。
参考資料:* AI セキュリティ管理 (AAISM) 知識体系: AI プログラム アーキテクチャ - 機能、プロセス、およびコントロールをビジネス目標に適合させる* AI セキュリティ管理学習ガイド: アーキテクチャ主導のガバナンス、ビジネス目標から技術設計およびコントロール設計までのトレーサビリティ

AAISMの資料では、AIシステムによる意図しない情報漏洩を防ぐための中核的な技術的制御として、データの分離とセグメント化されたアクセスについて説明されています。サイロ化とは、データを論理的または物理的に別個のリポジトリまたはコンテキストに分離することを指し、機密データセットが、非機密情報のみを必要とするコンポーネントまたはアプリケーションで利用できないようにします。これは、チャットボットが機密データにアクセスしたり、機密データを一般的な会話コンテンツと混在させたりすることを防ぐことと直接的に一致しています。ゼロトラスト（A）は、アイデンティティと継続的な検証に重点を置いた包括的なセキュリティアーキテクチャ原則ですが、それ自体ではデータの分離を保証するものではありません。サンドボックス（B）はプロセスを分離しますが、きめ細かいデータ分離についてはそれほど重要ではありません。コンテナ化（D）は、アプリケーションとその依存関係をパッケージ化しますが、これも機密データセットと非機密データセットの混在という特定の問題を必ずしも解決するものではありません。サイロ化は、AIユースケースにおけるコンテキスト間の漏洩を防ぐ方法として明確に強調されています。
参考資料: AI セキュリティ管理™ (AAISM) 学習ガイド - AI データ保護の技術的制御、データの分離とアクセス境界。

生成 AI の場合、企業セキュリティ上の主なリスクは、機密データの漏洩、有害コンテンツ、規制違反など、出力時のデータやコンテンツの流出またはポリシー違反です。
AAISMは、ポリシーに準拠した出力監視（例：DLPチェック、PII/PHI検出、毒性/安全性フィルター、透かし/属性チェック）を推論ゲートウェイに統合し、組織のポリシーとコンプライアンスのエビデンスを強化することを規定しています。ベンチマーク（A）を超えることは管理策ではありません。トレーニングデータの検証（C）はサードパーティのLLMでは実行できない可能性があります。キルスイッチ（D）は、緊急時対応として不可欠な管理策ですが、日常的なセキュリティ体制を継続的に強化するものではありません。
参考資料：AIセキュリティ管理（AAISM）知識体系 - GenAIのガバナンスとガードレール、出力フィルタリングとDLP制御、推論時のポリシー適用。AAISM学習ガイド - GenAIの監視と監査、安全な使用のためのゲートウェイパターン、制御の有効性評価。

AAISMは、信頼スコア分析をメンバーシップ推論への露出を評価するための主要な手法としています。モデルは、トレーニング中に観測されたポイントに対して、しばしば測定可能なほど高い信頼度を示します。テスターは、既知のトレーニング中サンプルとトレーニング外サンプルの出力確率／エントロピーを比較することで、漏洩を評価します。ログを無効にすると（A）、証拠が減少する；テストセットの精度（B）ではプライバシー漏洩を測定できない；合成データ生成（D）は軽減戦略であり、侵入テスト手法ではない。
参考文献: AI セキュリティ管理 (AAISM) 知識体系 - モデルプライバシーの脅威:
メンバーシップ推論、レッド/ブルー チーム評価手法、信頼性/エントロピー ベースのプライバシー テスト。

AAISMの技術コンテンツによると、教師あり学習モデルは、正当な活動と実際の脅威を区別する過去のラベル付きデータから学習することで、誤検知を削減します。この学習により、モデルはパターンを認識し、時間の経過とともに識別能力を向上させることができます。パターンのグループ化（A）は、教師なし手法であるクラスタリングについて説明しています。リアルタイム特徴量エンジニアリング（B）と新しいラベル付きデータの生成（D）は高度な技術ですが、教師あり学習の基本的なアプローチではありません。教師あり学習の本質は、ラベル付きデータを活用して誤検知を含む誤分類を最小限に抑えることです。
参考文献:
AAISM試験内容概要 - AIテクノロジーと制御（機械学習アプローチ） AIセキュリティ管理学習ガイド - 脅威検出のための教師あり学習