AAISMの資料では、生成型AIにおける主要な倫理的懸念は、情報の完全性に対するリスクであると強調されています。生成モデルは、一見本物のように見えるものの、捏造、誤解を招く、あるいは操作されたコンテンツを生成する可能性があります。これは情報エコシステムへの信頼を損ない、社会、法律、組織に広範な影響を及ぼす可能性があります。機密性の侵害やバイアスも懸念事項ではありますが、生成モデルに内在する中心的な倫理的問題ではありません。可用性は、この文脈ではあまり重要ではありません。最も差し迫った懸念は、生成型AIが情報の完全性を損なう可能性があることです。

敵対的な入力試行の検出頻度が高いことは、AIモデルの動作や出力を操作しようとする悪意のある試みが行われていることを示す強い指標です。これは、敵対的攻撃、プロンプト操作、またはモデル回避技術を通じて脆弱性を悪用しようとする試みを直接的に反映しています。

手動レビューでは、AIの出力について、現実世界の状況における正確性、関連性、潜在的な問題点を直接評価できるため、出力の品質と信頼性を評価する上で最も効果的な方法となる。

バイアスリスクを評価する最も直接的かつ効果的な方法は、関連するすべてのユーザーグループとコンテキストに対して、トレーニングデータの代表性と網羅性を評価することです。バイアスは、不均衡、非代表性、または体系的に偏ったデータセットから発生することがよくあります。人口統計学的およびコンテキストの網羅性を確保し、ラベル付けの品質を検証し、サブグループのパフォーマンスを確認することは、バイアス評価と軽減計画における基礎的なステップです。出力ベンチマークは兆候を明らかにすることはできますが、データの代表性分析なしでは不十分です。レイテンシとスループットの測定はパフォーマンスに関するものであり、バイアス評価ではありません。
参考文献:* AIセキュリティ管理（AAISM）知識体系：AIリスクの特定と対処 - データにおけるバイアス源と代表性評価の方法* AIセキュリティ管理学習ガイド：バイアスと公平性の評価方法、サブグループカバレッジ分析、データ品質とラベル付けの保証

検証は、AIソリューションが意図されたビジネスニーズとユースケースを満たしていることを確認し、調達決定の前または決定中に、実際の状況下で期待どおりに機能することを保証することに重点を置きます。