AIシステム、ユースケース、プロセスの現状を把握することが第一歩です。組織は、ガバナンスを効果的に定義したり、リスクを評価したり、倫理的な期待を確立したり、規制要件を適用したりする前に、生成型AIがどこでどのように使用されているかを理解する必要があるからです。

AAISMは、セキュアな集約によって、サーバーは集約されたモデルの更新のみを認識し、個々のクライアントからの貢献を認識しないため、サーバーが侵害された場合でもプライバシーが保護されると説明しています。
暗号化（A）は部分的に正しいが、サーバーによる復号化は依然として可能である。差分プライバシー（B）は別個のものである。
隔離（D）は機密性を保証するものではありません。
参考文献：AAISM学習ガイド - フェデレーテッドラーニングセキュリティ、セキュアアグリゲーション。

開発者向けの短期的なAIエージェント強化策として、AAISMは、プロンプトインジェクション、安全でないメモリ/ツール使用、ツール実行の侵害に対する安全なエージェント設計とランタイム制御を優先します。これらは、外部コンテンツを読み取り、メモリを永続化し、特権昇格されたツールを呼び出すエージェントにとって主要な攻撃経路です。トレーニングは、ツール呼び出しの保護、メモリ範囲の制限、サニタイズに重点を置く必要があります。
入力の検証、高リスクなアクションの分離。バイアス/公平性（B）やポリシー/幻覚（C）などのトピックは重要ですが、ガバナンス/保証に関する懸念事項です。API の悪用やプラグインのリスク（D）も重要ですが、エージェントに対する開発者が制御するコアな攻撃対象領域は、インジェクションと安全でないツール/メモリ設計です。
参考文献:* AIセキュリティ管理（AAISM）知識体系：エージェントセキュリティ - インジェクション防御、ツール実行制約、メモリガバナンス* AAISM学習ガイド：エージェントフレームワークの開発者制御、入力検証、サンドボックス化、スコープ付き権限、ガードレールパターン

AIを活用したプロファイリングやターゲットを絞ったコミュニケーションのために個人データを処理する前に、まず最初に行うべきことは、処理の法的根拠を確立することです。AAISMに準拠したプライバシーガバナンスの下では、興味関心プロファイリングやターゲットマーケティングといった新規または機密性の高い用途については、明示的かつ十分な情報に基づいた同意が優先されます。同意を得ることで、モデルの取り込みやキャンペーンの有効化に先立ち、目的の制限、透明性、およびユーザーによる管理が確保されます。チームのトレーニング、利用規約の更新、連絡先情報の確認は重要ですが、データ処理の法的権限を与えるものではないため、同意を得た後に実施されます。

AAISMのリスク管理コンテンツでは、生成型AIにおけるレッドチーム演習は、モデルが安全性、完全性、またはコンプライアンス基準に違反する予期せぬ、あるいは望ましくない出力を生成するかどうかをテストするために、意図的に敵対的なプロンプトを作成することに重点を置いていると説明しています。その目的は、システムのパフォーマンスに負荷をかけたり、出力をランダムに妨害したりすることではなく、操作的な入力に対するモデルの反応における脆弱性を明らかにすることです。これにより、組織はプロンプトの注入、ジェイルブレイク、または有害なコンテンツ生成に対する耐性を向上させることができます。したがって、正解は、敵対的な入力を使用して予期せぬ出力を生成することです。
参考文献：
AAISM試験内容概要 - AIリスク管理（レッドチームテストと敵対的演習） AIセキュリティ管理学習ガイド - 生成AI環境における侵入テスト