二乗平均平方根誤差

RMSEの定義式

RMSE(Root Mean Squared Error、二乗平均平方根誤差)は、回帰モデルの予測がどれだけ外れているかを数値で表す損失の指標の一つです。損失は予測値と実際の値の距離を測るもので、ずれの向き(プラスかマイナスか)は問いません。

RMSEは、N個のデータについての平均二乗誤差(MSE)の平方根として定義されます。

• L2損失: Σ(実際の値 - 予測値)²
• MSE: (1/N) × Σ(実際の値 - 予測値)²
• RMSE: sqrt((1/N) × Σ(実際の値 - 予測値)²)

つまり、各データの誤差を2乗し、N件で平均し、最後に平方根を取ったものがRMSEです。

平方根を取る理由: 単位をラベルに戻す

MSEは誤差を2乗してから平均するため、値の単位はラベルの単位の2乗になります。たとえば燃費(マイル/ガロン)を予測するモデルなら、MSEの単位は(マイル/ガロン)の2乗です。これでは誤差の大きさを直感的に読み取れません。

MSEの平方根を取ると、誤差の単位はラベルと同じマイル/ガロンに戻ります。これがRMSEの最も重要な特徴です。モデルの予測値と同じスケールで誤差を測れるため、L2損失やMSEよりも人にとって解釈しやすく、用途によってはこちらが好まれます。なお、MSEは数学的な性質から最適化を滑らかにしやすいとされ、学習にはMSE、結果の解釈にはRMSEという使い分けがされることがあります。

数値例: 燃費予測モデルでRMSEを求める

車の重さから燃費を予測するモデルy' = 34 + (-4.6) × x1を考えます(x1は重さを千ポンド単位で表した値)。

1. 重さ2,370ポンドの車ではx1 = 2.37なので、予測値は34 + (-4.6 × 2.37) = 23.1マイル/ガロンです。
2. 実際の燃費は24マイル/ガロンです。
3. このデータ1件の二乗誤差は(24 - 23.1)² = 0.9² = 0.81です。単位は(マイル/ガロン)の2乗です。
4. 仮にデータがこの1件だけ(N = 1)だとすると、MSE = 0.81 / 1 = 0.81です。
5. RMSE = sqrt(0.81) = 0.9マイル/ガロンとなります。

MSEの0.81は単位が2乗のため意味をつかみにくいですが、RMSEの0.9マイル/ガロンなら、予測がおよそ0.9マイル/ガロン外れていると、燃費と同じ単位で読めます。データが複数あるときは、各データの二乗誤差を合計してNで割り(平均し)、その平方根を取ります。

MAEとの違い: 大きな誤差の効き方

RMSEと平均絶対値誤差(MAE)は、どちらもラベルと同じスケールで誤差を表しますが、値がかなり異なることがあります。MAEが平均的な予測誤差を表すのに対し、RMSEは誤差の広がり(spread)を表し、大きな誤差により強く影響されます。誤差を2乗してから平均するため、一部に大きく外れた予測があるとRMSEは大きくなりやすい、と押さえておくとよいでしょう。

試験範囲での位置づけ

G検定シラバス2024(第1.4版)では、中項目10 モデルの選択・評価のキーワードに二乗平均平方根誤差(RMSE)が含まれています。