▼ もうちょっと詳しく

現代のAIモデルは、中身が何百億個の数字の塊で、人間が見ても「なんでこの答えになったのか」さっぱり分かりません。出力は素晴らしいのに、中で何が起きてるかは謎、という状態。これが黒箱問題です。

医療診断や融資審査でAIを使うとき、「この患者はこういう理由でこの病気と判断されました」「このお客さんはこういう理由で融資不可です」みたいな説明が欲しいのに、それが出せない。社会に組み込もうとすると、これがちょいちょい引っかかります。