AAISMは、影響力の大きい生成型AIのユースケースにおける幻覚リスクを軽減するための主要な安全策として、ヒューマン・イン・ザ・ループ（HITL）制御を規定しています。人間の監視により、重要な出力は使用前にレビュー、修正、承認され、説明責任、エスカレーション、および文書化された意思決定履歴が確保されます。自動検証ツールとエンリッチメントはエラーの削減に役立ちますが、二次的なものです。再帰的チャンキングは、ガバナンス制御ではなく、促しの手法です。
参考文献：AIセキュリティ管理™（AAISM）知識体系：責任あるAIと人間の監視；生成AIリスク管理 - 承認ワークフローと人間によるレビュー；AAISM学習ガイド：HITLと承認ゲートによる幻覚リスク処理。

AAISMのライフサイクル管理ガイドラインによると、AIシステムを直ちに無効化する最も妥当な理由は、モデルのドリフトが過剰に発生した場合です。ドリフトが発生すると、出力の信頼性、精度、または意図した目的との整合性が損なわれ、重大なリスクが生じます。パフォーマンスの低下や出力の詳細度が高すぎることは、運用上の非効率性ではありますが、システムを直ちに停止する決定的な要因ではありません。トレーニング不足は、導入後ではなく導入前に対処する必要があります。本番環境でシステムを直ちに無効化するトリガーは、信頼性を損なうほどの過剰なドリフトです。
参考文献：
AAISM試験内容概要 - AIガバナンスとプログラム管理（モデルドリフト管理） AIセキュリティ管理学習ガイド - AIシステムの無効化

プライバシー影響評価の主な目的は、個人情報の処理に関連するリスク（予期せぬ、過剰な、または不適切なデータ利用を含む）を特定し、評価することです。これにより、AIシステムの導入前または導入中にプライバシーリスクが認識され、軽減されることが保証されます。

AIの影響評価では、明示された事業目標およびAIユースケースの意図された目的との整合性を最優先事項とします。AIシステムが定義された目標（価値、成果、成功基準）を測定可能な形でサポートしているかどうかを確立することが、二次的な懸念事項（労働力への影響、啓発活動、評判に関する考慮事項）を評価する前の主要な視点となります。ガバナンスでは、目的の制限、成功指標、および組織目標に関連するリスクとベネフィットのトレードオフを確認する必要があり、その後初めて下流への影響が評価されます。
参考文献：AIセキュリティ管理（AAISM）知識体系 - AIガバナンスと影響評価、目的と目標の定義、リスクと便益の評価。AAISM学習ガイド - AI影響評価におけるビジネスとの整合性、意図された用途、および成功基準。

AAISMは、推論時にLLMを操作すること、すなわち、改ざんされた入力によって出力が攻撃者の目的に沿うように操作することを、回避攻撃に分類しています。回避攻撃は、クエリを変更して不正または誤解を招くような出力を生成することで、モデルの意思決定境界の弱点を悪用します。権限昇格は不正なアクセス権限を指し、データ汚染はトレーニング段階を標的とし、モデル反転はトレーニングデータを再構築します。この場合、攻撃者の目的に沿うように出力を操作することは、回避攻撃に該当します。