導入されたシステムで公平性を維持するために最も重要なことは何ですか?

ケーススタディ
次の質問には次のように答えてください。
米国の中規模医療ネットワークは、成人に最も発生しやすい種類の癌を検出するためのAIソリューションの開発を決定しました。具体的には、すべての画像診断を一次検査し、合意された基準（例えば、信頼度スコアが閾値を下回るなど）に基づいて放射線科医に二次検査を依頼する認識アルゴリズムを開発する予定です。
これまでに、ヘルスケア ネットワークは、AI の倫理原則の定義、システムの想定される使用方法と成功基準を特定するための調査の実施、AI ガバナンス委員会の設立、明確な役割と責任を持つ幅広い部門横断型チームの編成、プロジェクト期間中の標準、ワークフロー、タイムライン、リスクしきい値を文書化するポリシーと手順の作成などのステップを踏んできました。
ヘルスケア ネットワークは、ソリューションをホストするクラウド プロバイダーと、ヘルスケア ネットワークの既存データと米国の大手臨床研究パートナーからライセンス供与された匿名化されたデータを使用してアルゴリズムの開発を支援するコンサルティング会社を雇用する予定です。
特定のタイプのアルゴリズムを選択する際に最も重要な利害関係者グループはどれですか?

シナリオ：
ある組織は、社内ワークフローへの統合に向けて、様々なAIモデルを評価しています。サードパーティベンダーの特定のAIソリューションの導入を進める前に、ガバナンスチームはそのモデルの倫理的および運用上の影響を評価する必要があります。
AI モデルの動作を評価するための最も重要なポリシーは、次のとおりです。

ケーススタディ
次の質問には次のように答えてください。
米国の地方警察は、ソーシャルメディアのフィード、オンラインマーケットプレイス、その他の公開情報源を監視・分析し、違法行為（薬物や盗品の販売など）の証拠を検出するAIシステムを調達しました。このAIシステムは、公開サイトを監視し、犯罪を犯した可能性のある個人を特定します。特定された個人を法執行機関が保有するデータと照合し、過去の犯罪歴、場所、時間、人種、性別などの特定の要因に基づいて、犯罪行為の可能性をパーセンテージで評価します。
警察署は、最終候補2社を評価するために、調達プロセスにおいて第三者コンサルタントの支援を得ました。各ベンダーは、システムの精度、トレーニングデータの多様性、そしてシステムの仕組みに関する情報を提供しました。コンサルタントは、最初のベンダーのシステムの精度が高いと判断し、この情報に基づいて、このベンダーを警察署に推薦しました。
警察署は最初のベンダーを選定し、そのAIシステムを導入しました。導入の一環として、警察署とコンサルタントはシステムの利用ポリシーを作成しました。このポリシーには、システムの仕組みと捜査プロセスへの組み込み方法について警察官に研修を行うことも含まれています。
警察署はAIシステムを1年間運用してきました。内部調査の結果、システムが犯罪の可能性を90%以上で評価した場合、その後の警察の捜査で、当該人物が実際に犯罪を犯したことが確認されました。この結果に基づき、警察署はAIシステムのスコアが90%以上の事件については捜査を中止し、直ちに逮捕に踏み切りたいと考えています。
警察が実施する最善の人間による監視メカニズムは、警察官が行うべきことでしょうか?

シナリオ：
米国に拠点を置くAIガバナンスの専門家は、組織のAIリスク評価戦略の指針として、米国国立標準技術研究所（NIST）のリソースを評価しています。彼らは特に、AI特有の影響の評価に焦点を当てたプログラムに関心を持っています。
NIST の AI のリスクと影響の評価 (ARIA) プログラムの主な目的は次のとおりです。