その時代、何を目指した?
データを分類するだけでなく、それがどのように生まれるかをモデルで表したい。VAEは、潜在変数を含む確率モデルを学習するための方法です。
画像などの背後にある見えない要因を「潜在変数」として表すと、生成の仕組みを考えられます。しかし、観測した画像から潜在変数の分布を厳密に求める計算は難しく、効率よく学習する方法が必要でした。
出典:Auto-Encoding Variational Bayes / High-Resolution Image Synthesis with Latent Diffusion Models
実際には、何をした?
Auto-Encoding Variational Bayesの論文では、観測データから潜在変数の分布を近似する側と、潜在変数から観測データを説明する側を組み合わせます。画像の生成例は、確率的なモデルを学習した結果として示されています。
資料を見るときは、入力からの再構成と、潜在変数を使った生成を区別します。元の画像を戻すことと、まだ入力していない例を作ることでは、確かめたい性質が違うからです。
出典:Auto-Encoding Variational Bayes / High-Resolution Image Synthesis with Latent Diffusion Models
実現を支えたしくみ
VAEでは、入力から潜在表現の分布を推定する側と、そこからデータを作る側を学習します。乱数によるばらつきと学習する数値を分けて扱う工夫により、確率的な処理を含む学習を進めやすくしました。
学習では、データをよく説明することに加え、潜在変数の分布を扱う制約も重要です。再パラメータ化は、乱数そのものと学習したい数値を分ける工夫です。人間が付けた「笑顔」「明るさ」といったラベルが、そのまま潜在変数の各軸になるという意味ではありません。
出典:Auto-Encoding Variational Bayes / High-Resolution Image Synthesis with Latent Diffusion Models
何が変わり、何が残った?
潜在表現は、人が読める説明文の一覧ではありません。ある数値が必ず「明るさ」、別の数値が必ず「笑顔」を表すとは限りません。また、元の画像に戻せることと、用途に必要な細部を完全に保てることも別です。
編集の視点:潜在表現は、画像の全画素をそのまま扱う以外の道を示します。後のLatent Diffusionでは、圧縮した表現で生成処理を行います。ただし「圧縮する仕組みはすべてVAE」と覚えるのではなく、使う表現と生成方法を分けて見ましょう。
出典:Auto-Encoding Variational Bayes / High-Resolution Image Synthesis with Latent Diffusion Models
出典をたどる
本文は資料をもとにした日本語の解説です。引用画像は個別に出典を表示しています。研究の結果と現在の製品の提供条件は区別して読んでください。
- 研究論文Auto-Encoding Variational Bayes Kingma & Welling / arXiv · 2013-12-20 · arXiv初公開
読む場所:Abstract; Method; The reparameterization trick
扱いにくい潜在変数の事後分布、近似推論、再パラメータ化。
資料確認 2026-10-22 - 研究論文High-Resolution Image Synthesis with Latent Diffusion Models Rombach et al. / arXiv・CVPR · 2021-12-20 · arXiv初公開。学会版はCVPR 2022
読む場所:Abstract; Method; Limitations
圧縮した潜在表現での拡散、条件付け、精密な画素再現に対する圧縮の限界。
資料確認 2026-10-22
