AIが予測不可能な動作をする可能性のある、稀ではあるものの重要なシナリオであるエッジケースの評価は、テストと検証段階（D）で行う必要があります。この段階は、極端または異常な入力をシミュレートし、ストレス下でのパフォーマンスを検証し、展開前に堅牢性と安全性を確保することを目的としています。AAIAは、エッジケース評価を含む堅牢性テストがAIソリューションの重要なテスト手法であることを強調しています。
計画（A）とデータ収集（C）は入力を準備しますが、モデルの挙動を評価するものではありません。運用と監視（B）では後から問題を検出できる可能性がありますが、リスクを軽減するためには、展開前にエッジケーステストを実施する必要があります。
参考文献:
ISACA、AAIA 試験内容概要 - ドメイン 2: AI ソリューションのテスト手法 (エッジ ケース、堅牢性テスト)。

AIを活用した監査計画の文脈において、AAIA™スタディガイドは、不完全または不正確なデータを最も重大なリスクとして特定しています。AIツールに入力されるデータが欠落していたり​​、古くなったり、一貫性がなかったりすると、モデルによるリスクの優先順位付けや統制テストの提案に欠陥が生じます。
AIツールによってサポートされる監査計画の有効性は、その基礎となるデータによってのみ左右されます。不完全なデータは、リスク評価の誤りや監査リソースの不適切な配分を引き起こし、監査の有効性を損なう可能性があります。スコープクリープとコストはプロジェクト管理において一般的な懸念事項であり、AIの知識不足はトレーニングによって軽減できますが、監査計画の出力の有効性に直接影響を与えるのは不完全なデータのみです。
参照: ISACA AI監査上級™ (AAIA™) 学習ガイド、セクション:「監査プロセスにおけるAI」、サブセクション:「データ整合性と計画リスク」

動的価格設定アルゴリズムは、偏ったデータや不適切な設計の特徴に基づいて学習された場合、保護対象グループに対して意図せず差別的な影響を与える可能性があります。AAIAは、顧客に経済的または社会的影響を与えるあらゆるAIソリューションにおいて、公平性テストを必須要件として強調しています。
以下の事項を確実にするために、特定の倫理テストが必要です。
* 人口統計に基づいて価格が不当に変化しない
* センシティブな属性（民族、年齢、性別）が推測されたり、悪用されたりしない
* 顧客セグメンテーションは保護対象グループに不当な不利益をもたらさない
* 過去のバイアスは自動価格設定には反映されない
オプションA、B、Cは重要な開発タスクですが、最もリスクの高い領域である差別的価格設定の防止には対応していません。公平性評価はAAIAの重要な要件です。
参考文献:
AAIAドメイン5：倫理的AI、公平性、差別テスト
AAIAドメイン1：AIガバナンスと影響評価

プロンプトインジェクション攻撃は、システム命令の無効化、データの窃取、または有害な動作を引き起こすことを意図した、悪意のある入力を伴う攻撃です。インシデント管理と連携した最も効果的な対策は、堅牢な入力検証とサニタイズ(C)を導入することです。これには、潜在的に悪意のあるコンテンツがモデルに到達する前に検出・無効化するためのルールとフィルターが含まれます。AAIAのAI脅威と脆弱性に関するレポートでは、生成AIシステムにおける入力検証と安全なプロンプト処理の重要性が強調されています。
モデルの微調整（A）は長期的な適応であり、即時のインシデント対策ではありません。コードのような構造（B）や過剰な特殊文字（D）のスキャンは、一部の攻撃を検出できるかもしれませんが、その範囲は狭すぎます。多くのプロンプトインジェクションは自然言語を使用しています。包括的な入力検証とサニタイズこそが、最も効果的かつ汎用性の高いインシデント管理対応策です。
参考文献:
ISACA、AAIA 試験内容概要 - ドメイン 5: AI における倫理的および法的考慮事項、AI 固有の脅威とインシデント管理。
プロンプトインジェクションと入力検証制御をカバーする ISACA AI セキュリティ ガイダンス。