두 검사자가 같은 환자(또는 같은 방사선 사진, 같은 치면)를 놓고 우식 유무를 판정했을 때, 단순히 두 사람의 판정이 얼마나 자주 일치했는지를 보는 것만으로는 평가가 왜곡될 수 있습니다. 예를 들어 우식 유병률이 매우 높거나 낮은 집단에서는 두 검사자가 아무런 임상적 판단 없이 무작위로 답을 해도 우연히 일치할 확률이 높아지기 때문입니다. 따라서
카파계수(Cohen's Kappa)는 이러한
우연에 의한 일치 가능성을 보정하여 실제로 두 검사자가 의미 있게 일치한 정도를 평가하는 통계량입니다.
카파계수의 계산 원리
카파계수는 관찰된 일치도에서 우연히 기대되는 일치도를 뺀 뒤, 완전한 일치(1)에서 우연 일치도를 뺀 값으로 나누어 구합니다. 분자가 0이면 두 검사자의 일치도가 우연 수준과 같다는 뜻이고, 1에 가까울수록 우연을 넘어선 실제 일치도가 높다는 의미입니다. 치과위생사가 교차 감염 관리나 치주 탐침 깊이 측정처럼 범주형 판정을 내릴 때, 검사자 간 신뢰도를 평가하는 표준 도구로 사용됩니다.
우식 판정에서 카파계수가 중요한 이유
구강검진에서 우식 유무는 이분형(binary) 판정에 해당합니다. 근거 자료에서도 카파계수는 이분형 결과의 검사자 간 일치도를 측정하는 데 널리 쓰이며, 결과의 유병률이 비교적 균형 잡혀 있을 때 잘 작동한다고 설명합니다
[2]. 우식이 거의 없는 집단이나 반대로 우식이 매우 많은 집단에서는 관찰된 일치도는 높아 보여도 카파계수가 낮게 나오는 역설이 발생할 수 있다는 점도 보고되었습니다
[4]. 따라서 단순히 “두 사람이 몇 퍼센트 일치했다”보다
핵심! 우연 일치를 보정한 카파계수를 보고하는 것이 검사자 간 신뢰도를 더 정확하게 반영합니다.
보기별 구분
| 보기 | 통계량의 용도 | 우식 판정 일치도 평가에 적합한가 |
|---|
| 피어슨 r | 두 연속형 변수 간 선형 상관관계의 강도와 방향 | 부적합(범주형 판정에는 적용 어려움) |
| 평균차 | 두 집단의 연속형 측정값 중심 경향 차이 | 부적합(일치도가 아니라 차이의 크기 평가) |
| 카파계수 | 범주형 판정에서 우연 일치를 보정한 검사자 간 일치도 | 적합 |
| 위험비 | 노출군과 비노출군 간 질병 발생 위험의 비 | 부적합(연관성 또는 인과성 평가) |
| 표준오차 | 표본 평균의 추정 정밀도, 표본 분포의 변동성 | 부적합(일치도 평가 지표가 아님) |
임상 적용과 해석
치과위생사가 교정 전후의 치면착색 평가, 치주낭 깊이의 범주 분류, 구강위생 상태 점수화 등에서 검사자 간 신뢰도를 검증할 때 카파계수를 사용합니다. 카파계수는 -1에서 1 사이 값을 가지며, 일반적으로
0.81~1.00은 거의 완벽한 일치,
0.61~0.80은 상당한 일치,
0.41~0.60은 중등도 일치,
0.21~0.40은 약간의 일치,
0~0.20은 거의 우연 수준으로 해석합니다. 다만 근거 자료에서는 카파계수가 결과의 유병률이 불균형할 때 통계적 문제가 있을 수 있다고 지적하며, 이런 한계를 보완하기 위해 Gwet의 AC1 같은 대안 지표가 제안되기도 했습니다
[1][4].
혼동 주의! 카파계수는 두 검사자의 판정이 얼마나 “정확한지”가 아니라 얼마나 “일치하는지”를 보는 지표이므로, 표준 기준과의 일치도는 별도의 타당도 평가가 필요합니다.
참고 문헌 (논문 출처)
- [1]
A comparison of Cohen's Kappa and Gwet's AC1 when calculating inter-rater reliability coefficients: a study conducted with personality disorder samples.일반논문Wongpakaran N, Wongpakaran T, Wedding D, Gwet KL (2013) · DOI: 10.1186/1471-2288-13-61
- [2]
Challenges and Misinterpretations of Cohen's Kappa in Agreement Studies in Ophthalmology.일반논문Kowalska ME, Holz N, Pot SA, Rampazzo A, Hartnack S. (2026) · DOI: 10.1111/vop.70208
- [4]
Quantifying Interrater Agreement and Reliability Between Thoracic Pathologists: Paradoxical Behavior of Cohen's Kappa in the Presence of a High Prevalence of the Histopathologic Feature in Lung Cancer.일반논문Tan KS, Yeh YC, Adusumilli PS, Travis WD (2024) · DOI: 10.1016/j.jtocrr.2023.100618