AI ベースのシステムは、内部の意思決定プロセスが不明確なブラックボックスのように動作することがあります。透明性とは、AI システムのトレーニング データ、アルゴリズム、意思決定プロセスを検査して理解する能力を指します。
* 透明性により、テスターと関係者は AI システムがどのようにトレーニングされたかを確認できます。
* トレーニング データへのアクセスは、テスターがデータセットの偏り、完全性、代表性を分析できるため、透明性の重要な要素となります。
* 透明性は、説明可能な AI (XAI) の重要な特性です。
* トレーニング データにアクセスできるということは、テスターがデータが AI の動作にどのように影響するかを調査できることを意味します。
* AI の規制および倫理ガイドラインでは透明性が重視されています。
* GDPR や信頼できる AI ガイドラインなどの多くの AI 倫理フレームワークでは、公正かつ説明可能な AI 意思決定を確保するために透明性を推奨しています。
* (A) 自律性#
* 自律性とは、AIシステムが人間の介入なしに自律的に意思決定を行う能力を指します。ただし、学習データへのアクセスは自律性とは関係ありません。自律性とは、人間の制御なしに自己学習と意思決定を行うことを指します。
* (B) 探索可能性#
* 探索可能性とは、AI システムをインタラクティブにテストしてその動作を理解する能力を指しますが、トレーニング データへのアクセスとは直接関係しません。
* (D) アクセシビリティ#
* アクセシビリティとは、トレーニング データを検査する機能ではなく、システムの使いやすさを指します。
* 透明性とは、モデルを生成するために使用されるトレーニング データとアルゴリズムが理解しやすいことです。「透明性: これは、モデルを生成するために使用されるアルゴリズムとトレーニング データを容易に判断できることを意味します。」オプション C が正しいのはなぜですか?他のオプションが間違っているのはなぜですか?ISTQB 認定テスターの AI テスト学習ガイドからの参照したがって、透明性にはトレーニング データへのアクセスが含まれ、テスターが AI の意思決定プロセスを理解できるため、オプション C が正解です。

ISTQB CT-AIシラバスのセクション1.7「ニューラルネットワーク」では、ニューラルネットワークは重み付きリンクで接続されたニューロンで構成されると説明されています。学習中は、これらの接続の重みを調整することで学習が行われます。これが勾配降下法とバックプロパゲーションの本質です。選択肢Bはこの動作を正しく述べています。重みのみが変更され、活性化関数、ニューロン数、アーキテクチャ構造は変更されません。
選択肢Aは不正解です。ニューロンのバイアスは以前の活性化によって決定されるものではなく、重み付けされた入力の合計に追加される独立した学習可能なパラメータです。選択肢Cは不正解です。シラバスでは単層パーセプトロンはニューラルネットワークの一種として有効ですが、線形分離可能な問題に限定されると述べられています。
選択肢Dは不正解です。入力ニューロンの数が出力ニューロンの数以上である必要があるという規則はありません。入力ニューロンは特徴の数に対応し、出力ニューロンはタスクまたはクラスに対応します。
したがって、オプション B は、ニューラル ネットワークのトレーニング中に何が変化するかに関するシラバスの定義を正確に反映しています。

ペアワイズ検定は、自動運転車のような複雑なシステムで発生する可能性のある、多数のパラメータの組み合わせを処理するために使用されます。与えられた選択肢のうち、パラメータ数の爆発的な増加の原因となる可能性が最も低いのはどれか、という問いです。
多様な道路タイプ（A）：自動運転車は、高速道路、市街地、地方道路など、様々な道路タイプを走行する必要があります。道路タイプによって特性が異なるため、車両のシステムは様々なシナリオに適応し、対応する必要があります。そのため、これはパラメータの進化に大きく貢献する要因です。
様々な気象条件（B）：雨、雪、霧、強い日差しといった気象条件は、自動運転車の性能に大きな影響を与えます。車のセンサーとアルゴリズムはこれらの変化する条件に適応する必要があり、考慮すべきパラメータの数が増えます。
機能パフォーマンスを評価するための機械学習（ML）モデルメトリクス（C）：機械学習（ML）モデルのパフォーマンス評価は重要ですが、道路の種類、気象条件、車両の特徴のように、パラメータの組み合わせの爆発的な増加に直接寄与するわけではありません。メトリクスはパフォーマンスを測定および評価するために使用されますが、システムが処理しなければならない可変条件そのものではありません。
ADAS、レーンチェンジアシストなどの様々な機能（D）：先進運転支援システム（ADAS）などの機能は、自動運転車の複雑さを増します。各機能には複数の設定や動作モードがあり、パラメータの総数が増加します。
したがって、パラメータ数が驚異的に増加した理由として最も考えにくいのは、機能パフォーマンスを評価するための C. ML モデル メトリックです。
参照：
ISTQB CT-AI シラバスのセクション 9.2「ペアワイズ テスト」では、自動運転車で使用されるものを含む AI ベースのシステムにおけるさまざまな変数の組み合わせを管理するためのこの手法の適用について説明しています。
サンプル試験問題ドキュメントの質問 #29 では、自動運転車におけるパラメータの組み合わせの爆発的な増加の背景を説明し、この複雑さを管理する方法としてペアワイズ テストの使用を強調しています。

質問は、AIシステムの安全性に関する問題を引き起こす可能性が最も低い特性はどれか、というものです。それぞれの選択肢を評価してみましょう。
* 非決定性 (A): 非決定性システムでは、同じ入力であっても異なる結果が生成される可能性があり、予測できない動作や潜在的な安全上の問題につながる可能性があります。
* 堅牢性 (B): 堅牢性とは、システムがエラー、異常、予期しない入力を適切に処理する能力を指します。堅牢なシステムは、さまざまな条件下でも機能を維持できるため、安全性の問題が発生する可能性が低くなります。
* 複雑性が高い (C): AI システムの複雑性が高いと、システムの動作の理解、予測、管理が困難になり、安全性に関する問題が発生する可能性があります。
* 自己学習（D）：自己学習システムは新しいデータに基づいて適応するため、予期せぬ動作の変化を引き起こす可能性があります。適切に監視および制御されない場合、安全性の問題につながる可能性があります。
:
ISTQB CT-AI シラバスのセクション 2.8「安全性と AI」では、AI システムの安全性に影響を与えるさまざまな要因について説明し、安全な運用を維持するための堅牢性の重要性を強調しています。

シラバスではクラスタリングを次のように定義しています。
クラスタリング：入力データポイントの類似点を特定し、共通の特性や属性に基づいてグループ化することが求められる問題です。例えば、クラスタリングはマーケティングを目的として、異なるタイプの顧客を分類するために使用されます。（参照：ISTQB CT-AIシラバスv1.0、セクション3.1.2、99ページ中26ページ）