AAISMは、影響の大きい生成AIユースケースにおける幻覚リスクを軽減するための主要な安全策として、ヒューマン・イン・ザ・ループ（HITL）制御を規定しています。人間による監視により、重要な出力は使用前にレビュー、修正、承認され、説明責任、エスカレーション、そして文書化された意思決定の証跡が確保されます。自動バリデータとエンリッチメントはエラーの削減に役立ちますが、あくまでも二次的なものです。再帰チャンキングは、ガバナンス制御ではなく、促進的な戦術です。
参考資料: AI セキュリティ管理 (AAISM) 知識体系: 責任ある AI と人間による監視、生成 AI リスク管理 - 承認ワークフローと人間によるレビュー、AAISM 学習ガイド: HITL と承認ゲートによる幻覚リスクの処理。

AAISMフレームワークでは、ベンダー管理における有効性の主要な指標は、契約およびガバナンスフレームワークで定義されたAI関連要件へのベンダーの準拠であると規定されています。これにより、ベンダーが合意されたプライバシー、セキュリティ、および倫理基準を遵守していることを測定可能な形で保証できます。
脅威レポート、トレーニング結果、または研究への参加に関するレビューは補足的なものであり、継続的な改善を支援する可能性がありますが、コンプライアンスに関する説明責任を確立するものではありません。ガバナンスにおいては、契約および規制上の義務が履行されているかどうかに直接焦点を当てる必要があります。したがって、ベンダーのAI要件へのコンプライアンスは、最も重要な監視対象となります。
参考文献:
AAISM 学習ガイド - AI リスク管理（サードパーティのリスク監視）
ISACA AIセキュリティ管理 - ベンダーコンプライアンス監視

出力の出所検証（堅牢な透かし、暗号署名、コンテンツ認証情報、保管連鎖の証明など）は、大規模なディープフェイクに対抗するための主要な予防および検出管理策です。これにより、受信者と下流のシステムは、メディアが信頼できるソースから発信され、改ざんされていないことを検証できます。リスク評価（オプションB）とガバナンスポリシー（オプションC）は期待値を設定していますが、偽造メディアを技術的に防止するものではありません。入力検証（オプションD）は、生成または受信されたメディアの真正性には対応していません。
参考文献:
AAISM 知識体系: コンテンツの信頼性、透かし、来歴、信頼できる AI 出力とメディア整合性制御。
AAISM 学習ガイド: 合成メディアのリスク軽減、透かし/署名検証パイプライン、エンタープライズ コントロールにおけるコンテンツ認証情報。

AAISMの資料では、生成AIに関する主要な倫理的懸念は情報の完全性に対するリスクであると強調されています。生成モデルは、本物らしく見えても捏造、誤解を招く、あるいは操作されたコンテンツを作成する可能性があります。これは情報エコシステムへの信頼を損ない、社会、法律、組織に広範な影響を及ぼす可能性があります。機密情報の漏洩やバイアスは懸念事項ですが、生成モデルに内在する中心的な倫理的問題ではありません。この文脈では、可用性はあまり重要ではありません。最も差し迫った懸念は、生成AIが情報の完全性を損なう可能性があることです。
参考文献:
AAISM 学習ガイド - AI リスク管理（生成型 AI の倫理的リスク）ISACA AI セキュリティ管理 - 生成システムにおける整合性の懸念

AAISMは、モデルトレーニング前に、出所チェック、スキーマとラベルの検証、サニタイズ、異常値／外れ値検出といったハードゲーティングによるデータ取り込みを実施することで、トレーニング時の攻撃を防ぐよう組織に指示しています。これらの対策は、汚染されたレコードがパイプラインに流入するのを最も直接的にブロックするものであり、アーキテクチャの複雑さやデータ量よりも優先されます。ソースの多様性は代表性を高める可能性がありますが、敵対的な汚染を確実に阻止できるわけではありません。
参考資料：AIセキュリティ管理（AAISM）知識体系 - 敵対的機械学習：トレーニング時の脅威、安全なデータ取り込みと検証管理、AIリスク対策と保証。AAISM学習ガイド - ポイズニング防止ゲート、機械学習パイプラインにおける出所、品質、異常スクリーニング。