あなたは製造会社の ML エンジニアです。予測メンテナンスのユースケース用の分類モデルを作成しています。重要なマシンが今後 3 日以内に故障するかどうかを予測して、修理担当者が故障する前に十分な時間でマシンを修理できるようにする必要があります。マシンの定期的なメンテナンスは比較的安価ですが、故障すると非常にコストがかかります。マシンが故障するかどうかを予測するために、いくつかのバイナリ分類器をトレーニングしました。予測値が 1 の場合、ML モデルは故障を予測します。
現在、評価データセットで各モデルを評価しています。モデルによってトリガーされるメンテナンス ジョブの 50% 以上が差し迫ったマシン障害に対処することを保証しながら、検出を優先するモデルを選択する必要があります。どのモデルを選択すればよいでしょうか。
正解: C
The best option for choosing a model that prioritizes detection while ensuring that more than 50% of the maintenance jobs triggered by the model address an imminent machine failure is to choose the model with the highest recall where precision is greater than 0.5. This option has the following advantages:
* It maximizes the recall, which is the proportion of actual failures that are correctly predicted by the model. Recall is also known as sensitivity or true positive rate (TPR), and it is calculated as:
mathrmRecall=fracmathrmTPmathrmTP+mathrmFN
where TP is the number of true positives (actual failures that are predicted as failures) and FN is the number of false negatives (actual failures that are predicted as non-failures). By maximizing the recall, the model can reduce the number of false negatives, which are the most costly and undesirable outcomes for the predictive maintenance use case, as they represent missed failures that can lead to machine breakdown and downtime.
* It constrains the precision, which is the proportion of predicted failures that are actual failures. Precision is also known as positive predictive value (PPV), and it is calculated as:
mathrmPrecision=fracmathrmTPmathrmTP+mathrmFP
where FP is the number of false positives (actual non-failures that are predicted as failures). By constraining the precision to be greater than 0.5, the model can ensure that more than 50% of the maintenance jobs triggered by the model address an imminent machine failure, which can avoid unnecessary or wasteful maintenance costs.
The other options are less optimal for the following reasons:
* Option A: Choosing the model with the highest area under the receiver operating characteristic curve (AUC ROC) and precision greater than 0.5 may not prioritize detection, as the AUC ROC does not directly measure the recall. The AUC ROC is a summary metric that evaluates the overall performance of a binary classifier across all possible thresholds. The ROC curve plots the TPR (recall) against the
* false positive rate (FPR), which is the proportion of actual non-failures that are incorrectly predicted by the model. The AUC ROC is the area under the ROC curve, and it ranges from 0 to 1, where 1 represents a perfect classifier. However, choosing the model with the highest AUC ROC may not maximize the recall, as the AUC ROC is influenced by both the TPR and the FPR, and it does not account for the precision or the specificity (the proportion of actual non-failures that are correctly predicted by the model).
* Option B: Choosing the model with the lowest root mean squared error (RMSE) and recall greater than
RMSE はバイナリ分類に適した指標ではないため、0.5 では検出を優先しない可能性があります。RMSE は、予測値と実際の値の間の誤差の平均の大きさを測定する回帰指標です。RMSE は次のように計算されます。
mathrmRMSE=sqrtfrac1nsumi=1n(イハティ)2
ここで、yi は実際の値、hatyi は予測値、n は観測数です。ただし、RMSE が外れ値の影響を受けやすく、クラスの不均衡や誤分類のコストを考慮していないため、RMSE が最も低いモデルを選択しても障害の検出が最適化されない可能性があります。
* オプション D: 再現率が 0.5 を超える最高の精度を持つモデルを選択すると、予測メンテナンスのユース ケースでは精度が最も重要な指標ではない可能性があるため、検出が優先されない可能性があります。精度は肯定的な予測の正確さを測定しますが、モデルの感度やカバレッジを反映するものではありません。最高の精度を持つモデルを選択すると、モデルによって正しく予測された実際の障害の割合である再現率が犠牲になる可能性があります。これにより、偽陰性の数が増加する可能性があります。偽陰性は、機械の故障やダウンタイムにつながる可能性のある障害を見逃すことになるため、予測メンテナンスのユース ケースにとって最もコストがかかり望ましくない結果となります。
参考文献:
* 評価指標(分類子) - スタンフォード大学
* バイナリ分類器の評価 - Wikipedia
* 予知保全:最大のメリットとスマートな使用例