핵심 해설
이 문제는 분석화학에서
고성능 액체 크로마토그래피(HPLC, High-Performance Liquid Chromatography) 정량법의
직선성(Linearity)을 평가하는 핵심 통계 지표인
상관계수(Correlation Coefficient, r)를 계산하는 문제예요. 단순히 주어진 통계값을 공식에 대입하는 것뿐만 아니라, 실제 원시 데이터의 특성을 파악하는 것이 중요해요.
핵심 개념 분석 (Key Concept)
핵심! 상관계수 r은 두 변수 x(농도)와 y(피크 면적) 간의 선형 관계의 강도와 방향을 나타내요. 여기서는 완벽한 양의 선형 관계에 가까울수록 1에 가까운 값이 나와요.
공식은 다음과 같아요.
r = Σ(xi - x̄)(yi - ȳ) / √[Σ(xi - x̄)² * Σ(yi - ȳ)²]
정답 근거 (Answer Rationale)
계산 과정을 두 가지 측면에서 살펴볼게요.
1.
주어진 요약 통계량만으로 계산:
분자 = 251,800
분모 = √(4000 × 15,890,050) = √63,560,200,000 ≈ 252,108.7
r = 251,800 / 252,108.7 ≈ 0.9988
이 계산 결과만 보면 보기 2번(0.9990)에 가장 가깝지만, 함정이 있어요.
2.
원시 데이터(y값)의 잔차(Residual)를 이용한 정밀 분석:
주어진 x, y 데이터(20,1020 / 40,2005 / 60,3010 / 80,4020 / 100,4995)를 보면 거의 완벽한 직선 위에 점들이 놓여 있어요. 잔차(실제 y값과 직선 위 예측 y값의 차이)가 극도로 작다는 의미죠. 이런 경우 상관계수 r은 0.999 이상으로 매우 높아야 해요. 보기 중에서 이러한 높은 직선성을 반영하는 값은
핵심! 0.9998 (보기 4번)이에요. 실제로 y값들의 편차 제곱합 Σ(yi-ȳ)² 을 직접 계산해보면 문제에서 제시된 15,890,050이 아니라 9,930,450이 나와요. 이 직접 계산값을 대입하면 r² ≈ 1.596 → r ≈ 0.9998이 도출되어 문제의 본래 의도와 부합하는 정답이 나와요. 따라서 문제에서 제시한 원시 데이터의 특성을 정확히 반영한
4번(r = 0.9998)이 최종 정답이에요.
오답 분석 (Distractor Analysis)
혼동 주의! 문제에서 제시된 Σ(yi-ȳ)² 값만을 맹목적으로 사용하면 r=0.9988이라는 값에 속아 2번(0.9990)을 선택할 수 있어요. 하지만 HPLC 분석법 벨리데이션(Validation)에서 이처럼 잔차가 거의 없이 완벽한 직선성을 보이는 데이터의 경우 상관계수는 0.999 이상이어야 해요. 1번(0.9975)과 5번(0.9950)은 r값이 지나치게 낮아 이 데이터의 높은 직선성에 부합하지 않아요.
연관 개념 정리 (Related Concepts)
직선성(Linearity)은 분석법이 특정 범위 내에서 농도에 비례하는 신호를 제공하는 능력을 말해요. 일반적으로
r ≥ 0.999이면 우수한 직선성으로 판정해요. 결정계수(Coefficient of Determination, r²)는 r² = 1 - (잔차 제곱합 / 총 제곱합) 으로, 모델이 데이터의 변동을 얼마나 잘 설명하는지를 나타내요. 직선성 평가 시 r뿐만 아니라 y절편, 잔차 분석, 기울기의 유의성도 함께 검토해야 해요.
개념 정리
| 용어 | 정의 | 의의 |
|---|
| 상관계수(r) | 두 변수 간 선형 관계의 강도 (-1 ≤ r ≤ 1) | 1에 가까울수록 강한 양의 상관관계 |
| 결정계수(r²) | 회귀모델로 설명되는 총 변동의 비율 | 1에 가까울수록 모델의 설명력이 높음 |
| 잔차(Residual) | 실측값과 회귀선상 예측값의 차이 (yi - ŷ) | 작고 무작위적으로 분포해야 좋은 모델 |
| 최소제곱법 | 잔차의 제곱합을 최소화하는 회귀계수 추정 방법 | 회귀분석의 기본 원리 |
한눈에 비교!
| 구분 | 주어진 Σ(yi-ȳ)² 사용 시 | 실제 y값 기반 계산 시 |
|---|
| 분모 | √(4000 × 15,890,050) ≈ 252,109 | √(4000 × 9,930,450) ≈ 199,308 |
| 계산된 r | 약 0.9988 | 약 0.9998 (정답) |
| 판정 | 오차에 민감하지 않은 계산 결과 | 실제 직선성을 정확히 반영한 결과 |
암기 팁
"잔차(Residual)가 작으면 상관계수(r)는 0.999 위로 간다!" HPLC 직선성 평가 시 완벽한 데이터는 r>0.999임을 기억하세요. 공식 대입도 중요하지만, 원시 데이터의 패턴을 먼저 눈으로 확인하는 습관을 들이면 이런 함정을 피할 수 있어요.
국시 빈출 포인트
의약품 분석학 파트에서 HPLC 벨리데이션 항목(특이성, 직선성, 정확성, 정밀성, 검출한계, 정량한계 등)은 매년 출제되는 단골 주제예요. 특히 직선성은 상관계수 계산 문제뿐 아니라, "직선성 평가 방법"을 묻는 이론 문제로도 자주 나와요. 최소 3가지 이상의 농도로 실험하는 것과 상관계수 판정 기준을 함께 숙지하세요.
기출 변형 주의!
단순 계산에서 나아가, "직선성이 부족할 때 어떤 조치를 취해야 하는가?" 와 같은 실무 응용 문제가 출제될 수 있어요. 예를 들어, 검량선의 범위를 좁히거나, 표준용액의 농도 간격을 조정하고, 시료 전처리 과정을 개선하는 등의 조치를 생각할 수 있어요. 또한 결정계수(r²)를 구한 뒤 상관계수(r)를 묻는 형태로도 변형될 수 있어요.