▼ もうちょっと詳しく

黒箱問題への正面からの応答です。「AIが何を見て、どう判断したか」を、人間が理解できる形で出させよう、というのが説明可能性(XAI = Explainable AI)。

画像認識なら「画像のこの部分を見て判断しました」と色をつけて見せる、テキストならどの単語に注目したかを示す、など、色々な手法があります。ただし、出てきた説明が本当に内部の理由と一致してるかは、また別問題、という哲学的な落とし穴もあります。