説明可能AI

説明可能AI(XAI: eXplainable AI)は、AIが下した判断や予測の根拠を人間が理解できる形で説明する機能を持つ人工知能技術です。品質検査や安全性評価などの重要な判断において、AIが「なぜその判定をしたのか」を説明できることは、信頼性向上と規制対応の観点から重要です。例えば、AI検査システムが製品を不良品と判定した場合、その判定根拠(どの部位の形状がどの程度許容誤差を超えているか)を視覚的に提示します。製造業における品質保証体制の中で、AIの判断を人間が検証・承認できる仕組みが求められており、説明可能AIの重要性が高まっています。