Top-p / Top-kトップピー (Top-p / Top-k Sampling)

▼ ざっくり言うと

AIが次の単語を選ぶときの「候補の絞り方」の設定です。

▼ もうちょっと詳しく

AIは「次に来そうな単語」をたくさん挙げて、その中から選びます。Top-kは「上位k個の候補から選ぶ」、Top-pは「累積確率がpになるまでの候補から選ぶ」というルール。候補の足切りラインを決めるツマミです。

温度パラメータと組み合わせて、AIの「無難さ/攻めっぷり」を調整します。カラオケで歌う曲を選ぶときの「ベスト10から」「定番ばかりの中から」、みたいな絞り込みのイメージ。

調整できる項目が多すぎて、結局デフォルトで使う人がほとんどです。それでOKです。

あなたの読了: 0 / 388