β-VAE

定義

β-VAE（ベータVAE）とは、変分オートエンコーダ（VAE）の損失関数を調整し、潜在変数の各次元が互いに独立した意味を持つように促す発展的生成モデルです。損失関数に含まれるKLダイバージェンス（カルバック・ライブラー情報量）の重み係数であるベータ（β）を1より大きく設定します。これにより、潜在空間の各次元が傾きや色といった独立した属性に対応しやすくなり、モデルの解釈性が向上します。

関連モデル（VQ-VAE・info VAE）との違い

変分オートエンコーダを拡張した代表的なモデルとして、VQ-VAEやinfo VAEがあります。

VQ-VAEとの違いは、潜在変数の形式と目的にあります。β-VAEは連続的な潜在変数を保ったまま各次元の意味を分離（ディスエンタングル）して解釈性を高めることを目指すのに対し、VQ-VAEは潜在変数を離散的なベクトルに量子化することで、VAE特有の画像のぼやけを解消し高品質な生成を実現することを目指します。

info VAEとの違いは、潜在変数の調整手法と解決する課題にあります。β-VAEはKLダイバージェンス項の重みを強めて次元間の独立性を重視するのに対し、info VAEは入力データと潜在変数の相互情報量を最大化するように損失関数を設計します。これにより、デコーダが潜在変数を無視して復元してしまう事後崩壊を防ぎ、入力の情報を確実に潜在変数へ保持させます。

実務での課題

実務でβ-VAEを適用する際には、解釈性と再構成精度のトレードオフが生じます。ベータの値を大きくしすぎると正則化が強くなりすぎて復元画像がぼやけたり崩れたりするため、解釈性と精度のバランスを見極めたハイパーパラメータの探索が必須となります。