AIの出力がレビューされていない場合、最も懸念されるのは、不正確、偏向、またはコンプライアンス違反の判断が検出されない可能性があることです。このリスクに対処する最善の方法は、AIの判断に対する検証プロセス(B)を導入することです。これには、人間によるチェック、サンプリングに基づくレビュー、エスカレーション基準、正式な承認ワークフローなどが含まれます。AAIAは、特に判断が財務、法的、または安全上の影響を伴う場合、AIの出力の監督と検証の重要性を強調しています。
より大きなトレーニング データセット (A) は、正確性や公平性を保証するものではなく、監視に代わるものでもありません。
定期的な再トレーニング（C）は有益ですが、検証されていない場合はエラーを拡散させる可能性があります。プロンプトテンプレート（D）は主に生成型およびプロンプトベースのシステムに関連し、出力の体系的なレビューには該当しません。したがって、構造化された検証プロセスが最も直接的かつ効果的な管理方法です。
参考文献:
ISACA、AAIA 試験内容概要 - ドメイン 2: AI 運用 (AI ソリューションの監督)。
AI による意思決定の検証と人間による監視に関する ISACA 監査ガイダンス。

生成AIシステム、特にトランスフォーマーモデルに基づくシステムは、確率的計算を用いて出力を生成します。その結果、同じ入力データが与えられた場合でも、これらのモデルはサンプリング戦略（例：温度、トップkサンプリング）に応じて異なる出力を生成する可能性があります。
「生成AIは確率的に動作します。つまり、出力は確率的サンプリング手法に基づいて実行ごとに変化する可能性があります。この変動は予想されており、金融のようなリスクに敏感な環境では考慮する必要があります。」AとBは制限とアーキテクチャを指し、Dはロジックとは無関係ですが、Cは出力の不一致を直接的に説明しています。
参考資料: ISACA Advanced in AI Audit™ (AAIA™) 学習ガイド、セクション:「AI の基礎とテクノロジー」、サブセクション:「生成モデルにおける確率的動作」