(1) 최소제곱 회귀와 검량선 평가

① 회귀식과 적합도 지표

최소제곱법 회귀식 y=ax+b는 잔차 제곱합을 최소로 하는 a와 b로 구하며, a는 감도라 클수록 미량 검출에 유리하다.

상관계수 r과 결정계수 r²은 직선 관계의 방향과 강도, 설명되는 변동 비율이며 직선성 판정 기준으로 r²을 쓰되 높다고 보장되지는 않는다.

② 잔차분석과 가중회귀

잔차분석에서 휘어진 패턴이면 곡선 관계를 의심하고, 등분산성 검토에서 고농도로 갈수록 잔차가 커지면 단순 최소제곱법이 저농도 정확성을 희생한다.

검량선 범위와 가중회귀(1/x, 1/x²) : 범위는 정량한계 이상에서 직선성과 정확성이 확보되는 구간 · 저농도 가중으로 정량한계 부근 정확성 개선

③ 검량선 범위, 절편, 표준첨가법

절편의 유의성 검정에서 유의한 양의 절편은 바탕 신호나 방해 성분을 시사한다.

표준첨가법 계산은 표준액을 단계적으로 더한 직선을 외삽해 x절편의 절댓값에서 농도를 구한다.

④ 회귀 진단 항목 정리표

(2) 한계값 산출과 확장 회귀 기법

① 검출한계와 정량한계

검출한계는 존재 판단이 가능한 최소 농도, 정량한계는 정확성과 정밀성이 확보되는 최소 농도다.

정량한계 산출(3.3σ/S, 10σ/S)에서 σ는 반응의 표준편차, S는 기울기라 기울기가 크거나 잡음이 작으면 낮아진다.

② 역예측과 비선형 회귀

역예측(inverse prediction)과 신뢰구간은 신호에서 농도를 거꾸로 추정하며 구간은 검량선 중앙에서 가장 좁다.

S자 반응을 보이는 면역분석은 비선형 회귀(4 · 5-파라미터 로지스틱)로 적합시킨다.

③ 두 분석법 비교

두 분석법 비교(Deming 회귀, Bland-Altman) : Deming은 양축 오차를 고려해 기울기 왜곡이 적음 · Bland-Altman은 평균 대 차이로 일치 한계와 치우침 확인