▼ もうちょっと詳しく

2013年、Googleの Tomas Mikolov らが発表した単語埋め込みの代表手法です。単語を数字のベクトルに変換するやり方の決定版として、自然言語処理の景色を変えました。

有名なのが「王様 − 男 + 女 = 女王」という計算ができる、というデモ。意味を引き算したり足したりできる、という発想が衝撃的で、世界中の自然言語処理研究者が「これはすごい」とざわつきました。

▼ ちょっとだけ深い話

現代のLLMでも、エンベディングの考え方の根っこにはWord2Vecの影響が色濃く残っています。おじいちゃんっぽい立ち位置だけど、いまだに参照される偉大なご先祖、というやつ。