ディープニューラルネットワーク（DNN）は、入力層と出力層の間に複数の層で構成される人工ニューラルネットワークの一種です。ISTQB認定テスターAIテスト（CT-AI）シラバスでは、DNNの以下の特徴について概説しています。
* ディープニューラルネットワークの構造:
* ADNN は少なくとも 3 種類のレイヤーで構成されています。
* 入力層: 入力データを受信します。
* 隠しレイヤー: 複雑な特徴の抽出と変換を実行します。
* 出力層: 最終的な予測または分類を生成します。
* 回答選択肢の分析:
* A (入力層と出力層のみ)# 誤り。DNN には少なくとも 1 つの隠し層が必要です。
* B (少なくとも 1 つの内部隠し層)# 正解です。ニューラル ネットワークが深いと見なされるには、隠し層が必要です。
* C (最低 5 層必要)# 少なくとも 5 層を必要とする厳密な定義がないため、誤りです。
* D (出力層は他の層に接続されていません)# 出力層は隠し層に接続されている必要があるため、不正解です。
したがって、ディープ ニューラル ネットワークには少なくとも 1 つの隠し層が必要なため、オプション B が正解です。
認定テスター AI テスト学習ガイド 参考文献:
* ISTQB CT-AI シラバス v1.0、セクション 6.1 (ニューラル ネットワークとディープ ニューラル ネットワーク)
* ISTQB CT-AI シラバス v1.0、セクション 6.2 (ディープ ニューラル ネットワークの構造)。

有病率とモデルのパフォーマンス:
「Splendid Healthcare」が開発中のがん検出システムでは、この種類のがんの有病率が人口の2%であるという事実を考慮する必要があります。これは、データセットが陽性（がん）症例数と陰性（正常）症例数を大幅に比較すると、非常に不均衡であることを示しています。
リコールの重要性:
再現率（感度または真陽性率とも呼ばれる）は、モデルによって正しく識別された実際の陽性症例の割合を測定します。医療診断、特にがん検出においては、陽性症例の見逃し（偽陰性）が患者に深刻な影響を及ぼす可能性があるため、再現率は非常に重要です。したがって、再現率を最大化することで、すべてのがん症例ではないにしても、大部分のがん症例を検出できるようになります。
精度の重要性:
精度は、予測された陽性症例のうち実際に陽性であった症例の割合を測定します。精度が高いほど偽陽性の数が減り、がんと誤って診断される人の数が少なくなります。これは、がんを患っていない人への不必要な不安や、さらなる侵襲的な検査を避けるためにも重要です。
再現率と精度のバランス:
偽陰性と偽陽性の両方が重大な結果をもたらすシナリオでは、再現率と適合率のバランスをとることが極めて重要です。このバランスにより、モデルは陽性ケースの検出に優れているだけでなく、予測精度も向上し、両方の種類のエラーを削減できます。
正確性と特異性:
精度（正しい予測全体の割合）は重要ですが、不均衡なデータセットでは誤解を招く可能性があります。この場合、高い精度は、モデルが多数派クラス（正常）を正しく予測したというだけのことかもしれません。特異度（真陰性率）も重要ですが、がん検出システムでは、陽性症例を正確かつ正確に特定するために、再現率と適合率が優先されます。
結論：
したがって、有病率の低い癌検出システムでは、癌症例の効果的かつ正確な検出を確実にするために、再現率と精度の両方を最大化することが重要です。

ロゴ検出に事前学習済みのニューラルネットワークを使用する際の大きなリスクは、元のデータセットや学習プロセスからバイアスや欠陥が引き継がれる可能性があることです。つまり、モデルが以下の理由により、特定のロゴを誤認したり、認識できなかったりする可能性があります。
* データ準備の違い:元のトレーニング データでは、新しいデータセットとは異なる前処理方法が使用されていた可能性があり、不一致が生じています。
* 透明性が限られている:データセットの正確な詳細とその中のバイアスが不明な場合があり、予期しない動作が発生する可能性があります。
* ロゴ検出における偏り: モデルが特定の色またはテキスト設定を持つデータセットでトレーニングされた場合、類似した特性を持つロゴを不当に誤認する可能性があります。
この継承された偏見により、次のような結果が生じる可能性があります。
* 誤検知:他のブランドのロゴをビール会社のロゴとして認識する。
* 偽陰性: バリエーションが発生した場合 (例: 照明の違いや部分的な可視性など)、実際のロゴを検出できない。
* アルゴリズムの偏り: 偏ったトレーニング データにより、モデルが特定の形状や色のコントラストを優先する場合があります。
したがって、この事前トレーニング済みモデルの使用に関連する最も適切なリスクは、継承されたバイアスです。
* セクション 1.8.3 - 事前トレーニング済みモデルと転移学習の使用のリスクでは、事前トレーニング済みモデルが新しい環境でのパフォーマンスに影響を与えるバイアスや文書化されていない欠陥を継承する可能性がある方法について説明します。
ISTQB認定テスターAIテスト学習ガイドからの参考資料:

AIベースのシステムにおける説明可能性とは、システムが特定の結果に至った経緯をユーザーが容易に理解できることを指します。これは、AIモデルによる意思決定が透明性、解釈可能性、そして利害関係者にとって理解しやすいものであることを保証するため、AIによる意思決定を実証する上で非常に重要な要素です。
AIベースのシステムを導入する前に、開発者はテスト環境で意思決定がどのように行われるかを検証する必要があります。このプロセスは説明可能性という特性を持ちます。AIモデルがどのようにして結論に至ったかを明確にするプロセスであり、システムへの信頼を構築し、規制および倫理的要件を満たすのに役立ちます。
* ISTQB CT-AI シラバス（セクション 2.7: 透明性、解釈可能性、説明可能性）
* 「説明可能性とは、AI ベースのシステムが特定の結果をどのように導き出したかをユーザーが判断できる容易さであると考えられます」。
* 「ほとんどのユーザーはAIベースのシステムを『ブラックボックス』として提示され、これらのシステムがどのように結果に辿り着くのかをほとんど認識していません。こうした無知は、システムを構築したデータサイエンティストにも当てはまる可能性があります。場合によっては、ユーザーはAIベースのシステムを操作していることさえ認識していないこともあります。」
* ISTQB CT-AI シラバス (セクション 8.6: AI ベース システムの透明性、解釈可能性、説明可能性のテスト)
* 「AIベースのシステムの説明可能性をテストするには、ユーザーがAIが生成した意思決定を理解し、検証できるかどうかを検証する必要があります。これにより、AIシステムが説明責任を果たし、理解不能な意思決定や偏った意思決定を行わないことが保証されます。」
* 他のオプションとの対比:
* 自律性 (B): 自律性とは、AIシステムが人間の監視なしに独立して動作する能力を指します。意思決定は自律性の重要な機能ですが、ここでは意思決定の根拠を示すことに重点が置かれており、これは自律性ではなく説明可能性に該当します。
* 自己学習 (C): 自己学習システムは過去のデータや経験に基づいて適応しますが、これは人間が理解できる意思決定とは異なります。
* 非決定性 (D): AIベースのシステムは多くの場合、確率的かつ非決定的であり、同じ入力に対して常に同じ出力を生成するとは限りません。これはテストと検証を困難にする可能性がありますが、意思決定プロセスの説明とは関係ありません。
ISTQB 認定テスターの AI テスト学習ガイドからのサポート参考文献: 結論: この質問は、展開前に実証される際に意思決定が該当する特性について明示的に尋ねているため、説明可能性が正しい選択です。説明可能性により、AI の決定が透明性があり、理解しやすく、利害関係者に対して説明責任があることが保証されるからです。

シラバスには次のように記載されています。
「A/Bテストは、第5章で説明されているように、ML機能のパフォーマンスメトリクスなどの合意された受け入れ基準があるAIベースシステムの更新をテストするために使用できます。A/Bテストは、更新されたバリアントを以前のバリアントと比較するために使用されます。」（参照：ISTQB CT-AIシラバスv1.0、セクション9.4、99ページ中68ページ）