▼ もうちょっと詳しく

LLMだけだと、自分が学習した範囲の知識しか持っていません。社内文書とか最新ニュースとかは知らない。そこで、「質問が来たらまず関係しそうな資料を検索して、その資料を見ながら答えてね」と仕込む手法がRAGです。

要は、回答する前にカンニングペーパーを渡しておく戦法。AIにとってはカンニング上等な世界なので、これでハルシネーションが減って、答えの根拠も示せるようになります。ありがたい話です。

▼ ちょっとだけ深い話

検索の部分には、たいてい「エンベディング」が使われます。質問と資料を数字に変換して、近いものを引っ張ってくる。検索とLLMの合体技、というのがRAGの本質です。