잔차란 무엇인가요?
잔차(residual)는 실제로 관측된 값과 모델 또는 회귀선이 예측한 값의 차이를 말합니다. 하나의 데이터 점에 대해 예측이 얼마나 빗나갔는지를 나타내는 지표죠. 잔차가 양수이면 모델이 실제보다 낮게 예측한 것(실제값이 더 컸음)이고, 음수이면 너무 높게 예측한 것입니다. 잔차는 최소제곱법(OLS) 같은 모델 적합 기법의 핵심 요소로, 잔차 제곱합을 최소화하는 것이 그 목표입니다.
계산기 사용 방법
실제로 측정된 데이터 값인 관측값(y)과, 회귀선이나 모델에서 나온 예측값(ŷ)을 입력하세요. 계산기는 잔차와 함께 그 절댓값, 제곱값, 그리고 관측값 대비 백분율 오차를 함께 보여줍니다.
공식 설명
잔차는 다음과 같이 간단하게 정의됩니다.
$$e = \text{Observed }(y) - \text{Predicted }(\hat{y})$$
여기서 y는 관측값이고, ŷ("와이 햇"이라고 읽습니다)은 예측값입니다. 제곱 잔차는 \(e^2\)이며, 백분율 오차는 \((e / y) \times 100\)으로, 관측량 대비 오차의 크기를 나타냅니다.
예제로 살펴보기
회귀 모델이 주택 가격을 \(\hat{y} = 320{,}000\)으로 예측했는데 실제로는 \(y = 350{,}000\)에 팔렸다고 해봅시다. 잔차는 $$350{,}000 - 320{,}000 = 30{,}000$$입니다. 절대 잔차는 \(30{,}000\), 제곱 잔차는 \(900{,}000{,}000\), 백분율 오차는 \((30{,}000 / 350{,}000) \times 100 \approx 8.57\%\)가 됩니다. 잔차가 양수이므로 모델이 가격을 실제보다 낮게 예측한 셈입니다.
자주 묻는 질문
잔차가 0이면 무슨 의미인가요? 예측이 정확히 맞아떨어졌다는 뜻입니다. 관측값과 예측값이 완전히 동일한 경우죠.
잔차를 왜 제곱하나요? 제곱하면 부호가 사라지고 큰 오차에 더 큰 벌점을 주게 됩니다. 그래서 최소제곱 회귀는 잔차 제곱합을 최소화하는 방식을 씁니다.
잔차와 오차(error)는 같은 건가요? 밀접하게 관련되어 있지만 다릅니다. "오차"는 보통 알 수 없는 모집단의 참값으로부터의 편차를 가리키고, "잔차"는 적합된 모델의 예측값으로부터의 편차를 의미합니다.