▼ もうちょっと詳しく

AIに長文の資料を渡しすぎたり、長く雑談を続けたりすると、最初のほうの話をAIが忘れることがあります。「さっき頼んだあれ、覚えてる?」と聞くと「覚えてません」と返ってきたりする。コンテキストウィンドウの上限に到達すると、古いやつから押し出される、という仕組みのせいです。

最近のモデルは数十万トークンまで読める怪物が出てきましたが、長くなるほど中盤の記憶が曖昧になる、という傾向は残ったままです。「真ん中で何書いてあったか」をAIが急に思い出せなくなる現象は「Lost in the Middle」と呼ばれます。

▼ 気をつけること

重要な指示は会話の最後の方にも書き直す、長文資料は要約して渡す、などが対策。人間の上司にも実は使えるテクニックだったりします。