▼ もうちょっと詳しく

ニューラルネットを砂時計の形にします。入力を真ん中で小さなベクトル(潜在表現)に絞り込み、そこから元の入力を復元しようとする。出力が入力と一致するように学習させます。

一見、何の意味もない作業(入れたものを出すだけ)に見えますが、真ん中をめちゃくちゃ狭くしているのがミソ。狭い穴を通すためには、データの本質的な特徴だけを抽出するしかない。これで、教師ラベルなしに「データの良い表現」を学べる仕組みになります。

▼ 主な使いどころ

• ノイズ除去: ノイズ入り画像から綺麗な画像を復元するよう訓練
• 異常検知: 正常データだけで訓練しておき、復元誤差が大きいものを「異常」と判定
• 次元削減: PCAの非線形版として使う

この真ん中の潜在空間を確率的にした派生形がVAE(変分オートエンコーダ)で、画像生成のはしりになりました。