説明
信頼性と安全性
https://en.wikipedia.org/wiki/Tay_(ボット)
「信頼を築くには、AI システムが通常の状況でも予期せぬ状況でも確実に、安全に、一貫して動作することが重要です。これらのシステムは、当初の設計どおりに動作し、予期せぬ状況に安全に応答し、有害な操作に抵抗できる必要があります。また、これらのシステムが実際の動作条件下で意図したとおりに動作していることを検証できることも重要であり、システムがどのように動作するか、およびシステムが確実かつ安全に処理できるさまざまな条件は、開発者が設計およびテスト中に予想するさまざまな状況や環境を大きく反映します。 AI システムが予期せぬ状況やエッジケースで安全に対応できること、予期せぬパフォーマンス障害が発生しないこと、当初の期待と矛盾する形で進化しないことを確認するには、システムの開発と展開中に厳格なテストが不可欠であると考えています。」

参照：
https://docs.microsoft.com/en-us/azure/machine-learning/concept-designer

参照：
https://docs.microsoft.com/en-us/dotnet/machine-learning/resources/tasks

参照：
https://docs.microsoft.com/en-us/learn/modules/responsible-ai-principles/4-guiding-principles