▼ もうちょっと詳しく

人間なら、知らないことを聞かれると「うーん、自信ないけど…」と前置きをします。AIにはこの仕組みが基本的にありません。知ってることも、知らないことも、同じ口調で堂々と答えてきます。

「確信度が出力されない」のがLLMの構造的な性質で、これがハルシネーションが見抜きにくい原因のひとつにもなっています。「自信のなさを表現する」というのは、意外と高度な人間スキルだと気づかされます。

▼ ちょっとだけ深い話

最近のモデルは「分かりません」「自信ないです」と言うのがちょっとずつ上手くなってきました。正直さも訓練すれば伸びるということが、AIで証明されつつあります。