残差とは?
残差(residual)とは、実際に観測された値と、モデルや回帰直線によって予測された値との差のことです。1つのデータ点について、予測がどれだけずれているかを表します。残差がプラスならモデルは過小評価(実際の値の方が大きい)、マイナスなら過大評価していることを意味します。残差は、最小二乗法(OLS)をはじめとするモデル当てはめ手法の土台となる概念で、最小二乗法では残差の二乗和を最小化することを目指します。
この計算ツールの使い方
実測値(y)には、実際に測定された生のデータ点を入力します。予測値(ŷ)には、回帰直線やモデルから得られた値を入力してください。すると、残差に加えて、その絶対値、二乗、そして実測値に対するパーセント誤差が表示されます。
計算式の解説
残差はシンプルに次のように定義されます。
$$e = \text{Observed }(y) - \text{Predicted }(\hat{y})$$
ここでyは実測値、ŷ(「ワイハット」と読みます)は予測値です。残差の二乗は\(e^2\)、パーセント誤差は\((e / y) \times 100\) で求められ、実測値に対する誤差の大きさを割合で示します。
計算例
たとえば、ある回帰モデルが住宅価格を \(\hat{y} = 320{,}000\) と予測したのに対し、実際の売却価格が \(y = 350{,}000\) だったとします。このとき残差は \(350{,}000 - 320{,}000 = \mathbf{30{,}000}\) です。絶対残差は 30,000、残差の二乗は 900,000,000、パーセント誤差は\((30{,}000 / 350{,}000) \times 100 \approx 8.57\%\) となります。残差がプラスなので、モデルは価格を過小評価していたことになります。
よくある質問
残差がゼロのときは何を意味しますか? 予測が完全に正確だったということです。実測値と予測値が一致しています。
なぜ残差を二乗するのですか? 二乗することで符号がなくなり、大きな誤差ほど重く扱われるためです。だからこそ最小二乗法では残差の二乗和を最小化します。
残差と誤差は同じものですか? 密接に関係していますが、厳密には異なります。「誤差(error)」は通常、真の(未知の)母集団の値からのずれを指すのに対し、「残差(residual)」は当てはめたモデルの予測値からのずれを指します。