최소제곱법(OLS)을 이용한 회귀분석에서 잔차의 합은 항상 어떻게 되는가?

최소제곱법은 잔차의 제곱합을 최소화하는 회귀계수를 추정하는 방법으로, 이때 잔차의 합은 항상 0이 된다.

보건행정 핵심 해설 이 문제는 보건통계학 및 병원 경영 분석에서 핵심 도구인 최소제곱법(Ordinary Least Squares, OLS)의 기본 성질을 묻고 있어요. 회귀분석은 병원 재무 예측, 환자 수 추이 분석, 의료 자원 배분 효율성 평가 등 다양한 보건행정 분야에서 활용되는 중요한 기법이에요. 핵심 개념 분석 (Key Concept) 최소제곱법(OLS)은 독립변수(X)와 종속변수(Y)의 선형 관계를 가장 잘 설명하는 회귀직선을 찾는 방법이에요. 핵심 원리는 핵심! '관측값(Y_i)과 회귀직선이 예측한 값(Ŷ_i)의 차이인 잔차(e_i)의 제곱합(Sum of Squared Errors, SSE)을 최소화'하는 거예요. 이때, 회귀직선은 반드시 데이터의 중심(평균점)을 지나게 되며, 이로 인해 잔차의 합은 항상 0이 되는 필연적인 수학적 성질을 가져요. 정답 근거 (Answer Rationale) 정답은 ⑤ '0이 된다.'입니다. 그 근거는 OLS 추정의 정규방정식(Normal Equation)에서 도출돼요. 회귀계수를 추정하는 과정에서 잔차의 합이 0이 되도록 하는 조건이 포함되어 있어요. 수식으로 보면, 잔차 e_i = Y_i - Ŷ_i 일 때, ∑e_i = 0 이 성립해요. 이는 회귀직선이 Y의 평균값을 지나가기 때문에, 양의 잔차와 음의 잔차가 서로 상쇄되어 합이 0이 되는 거예요. 오답 분석 (Distractor Analysis) 혼동 주의! ① '음수가 된다.' / ④ '양수가 된다.': 잔차 자체는 개별적으로 양수나 음수가 될 수 있지만, 그 '합(Sum)'은 항상 0이에요. 잔차의 '제곱합(Sum of Squares)'은 항상 0 또는 양수라는 점과 혼동하기 쉬워요. ② '1이 된다.': 잔차의 합이 특정 상수(1)가 되는 것은 일반적인 경우가 없어요. 이는 통계적 속성이 아닌 임의의 숫자에요. ③ '최대가 된다.': OLS의 목표는 잔차 제곱합을 '최소화'하는 것이에요. '최대'라는 표현은 방법론의 근본 목적과 정반대에요. 연관 개념 정리 (Related Concepts) * 잔차(Residual, e): 관측값(Y)과 예측값(Ŷ)의 차이. 오차(Error)는 모집단에서의 이론적 차이를, 잔차는 표본으로부터 추정된 실제 차이를 말해요. * 잔차 제곱합(SSE): ∑(Y_i - Ŷ_i)². OLS가 최소화하려는 목적함수예요. 이 값이 작을수록 회귀모형의 적합도가 높아요. * 결정계수(R²): 회귀모형이 종속변수의 변동을 얼마나 잘 설명하는지 나타내는 지표로, 0에서 1 사이의 값을 가져요. 개념 정리

용어	의미	비고
최소제곱법(OLS)	잔차 제곱합(SSE)을 최소화하여 회귀계수를 추정하는 방법	선형회귀의 가장 기본적이고 일반적인 방법
잔차(e)	실제 관측값과 회귀모형 예측값의 차이 (e = Y - Ŷ)	개별 잔차는 양수/음수/0 가능
잔차의 합(∑e)	모든 잔차를 더한 값	OLS 추정 시 항상 0
잔차 제곱합(SSE)	각 잔차를 제곱하여 모두 더한 값 (∑e²)	항상 0 또는 양수, OLS의 목표는 이를 최소화

한눈에 비교!

구분	잔차의 합(∑e_i)	잔차 제곱합(∑e_i²)
의미	예측 오차의 순합	예측 오차의 크기(분산)
값의 범위	항상 0 (OLS 기준)	0 또는 양수 (≥ 0)
OLS에서의 역할	회귀계수 추정의 부산물(결과적 성질)	최소화하려는 목적함수
실무적 해석	모형의 편향(Bias)이 전반적으로 없음을 보장	모형의 전체적 정확도(Accuracy) 지표

실무 포인트 보건행정 실무에서 회귀분석은 예산 편성, 직원 수 예측, 장비 활용도 분석 등에 쓰여요. 통계 패키지(SPSS, R, SAS)로 분석을 돌리면 자동으로 회귀계수가 추정되지만, 결과 해석 시 핵심! '잔차의 정규성', '등분산성' 같은 가정이 만족되는지 반드시 진단(Diagnostic Check)해야 해요. 가정이 위배되면 OLS 추정치가 신뢰할 수 없게 될 수 있어요. 암기 팁 "제곱합은 최소, 잔차합은 제로(0)"
OLS의 핵심을 두 마디로 압축한 문장이에요. '제곱합(SSE)을 최소화'하는 방법이므로 그 결과로 '잔차의 합(∑e)은 0'이 된다고 연결 지어 기억하세요. 국시 빈출 포인트 회귀분석에서 OLS의 가정(선형성, 독립성, 등분산성, 정규성), 결정계수(R²)의 의미, 그리고 이 문제처럼 잔차의 합이 0이라는 기본 성질이 단순 지식 확인 문제로 자주 출제돼요. OLS와 다른 추정 방법(예: 최소절대편차법)과의 차이점도 함께 공부하면 좋아요. 기출 변형 주의! * 사례형: "병원 외래 환자 수(Y)를 월별 광고비(X)로 예측하는 회귀분석을 OLS로 수행했다. 이때 ∑(Y_i - Ŷ_i)의 값은?" → 0 * 참/거짓형: "OLS 회귀에서 잔차의 평균은 0이다." → 참 (잔차 합이 0이므로 평균도 당연히 0)

보건행정 실무 가이드 실무 시나리오 (Clinical Scenario) 병원 기획팀에서 내년도 응급실 방문 환자 수를 예측하기 위해 과거 5년간의 월별 데이터(독립변수: 계절 요인 더미변수, 유행병 발생 여부 등)를 활용해 회귀분석을 실시하려고 해요. 분석 담당자가 "잔차 그래프를 보니 패턴이 있어요. 문제가 있을까요?"라고 보고합니다. 행정 중재 전략 (Admin Intervention) 1. 상황 파악: 잔차 그래프(Residual Plot)에 패턴(예: 깔때기 모양, 곡선 형태)이 있다는 것은 OLS의 중요한 가정인 '등분산성' 또는 '선형성'이 위배되었을 가능성을 시사해요. 2. 법적/규정 검토: 통계적 모형의 가정 위반은 잘못된 예측과 이에 따른 잘못된 예산 배분으로 이어질 수 있어, 경영 의사결정의 근거로 신뢰할 수 없게 돼요. 3. 대응 및 처리: * 데이터 변환(로그 변환 등)을 시도하여 등분산성을 개선하거나, * 비선형 관계를 고려해 모형을 수정(다항회귀, 변수 변환)하거나, * OLS 대신 다른 강건한(Robust) 회귀 방법을 검토해야 해요. 4. 사후 기록/보고: 분석 방법, 가정 검증 결과, 최종 채택한 모형과 그 이유를 보고서에 명확히 기록하여 의사결정의 투명성과 추적 가능성을 확보해야 해요. 법적 안전 및 주의사항 (Precautions) 통계 분석 결과를 공식 보고서나 연구에 활용할 때는 분석 방법의 가정과 한계를 반드시 명시해야 해요. 특히 공공기관의 정책 제안서라면 이 부분이 감사나 검증 대상이 될 수 있어요. 업무 프로토콜 회귀분석 결과 검토 체크리스트 1. 모형 적합도: R², 수정된 R² 값 확인. 2. 회귀계수 유의성: t-통계량과 p-value 확인. 3. 잔차 진단: 잔차의 정규성(Q-Q plot), 등분산성(산점도), 독립성(Durbin-Watson 통계량) 검토. 4. 다중공선성: VIF(Variance Inflation Factor) 값 확인 (10 이상이면 문제). 5. 이상치 영향력: Cook's distance 등을 확인. 선배의 한마디 "통계는 숫자 뒤에 숨은 이야기를 읽는 도구예요. OLS에서 잔차 합이 0이라는 것은 '모형이 데이터의 중심을 정확히 지난다'는 의미로, 편향되지 않은 추정의 기본이에요. 하지만 이 기본 가정이 현실 데이터에서 깨질 수 있다는 걸 항상 염두에 두세요. 좋은 보건행정가는 통계 결과를 맹신하지 않고, 그 결과가 나오게 된 조건과 한계를 정확히 이해하고 설명할 수 있는 사람이에요!"