통계적 가설 검정에서 발생할 수 있는 오류는 제1종 오류(Type I error)와 제2종 오류(Type II error)로 구분된다.
제1종 오류(α 오류)는 귀무가설(H₀)이 실제로 참인데 이를 기각하는 오류이다. 즉, 실제로는 효과나 차이가 없는데 있다고 잘못 결론내리는 것으로, '거짓 양성(false positive)' 또는 '허위 발견'이라고도 한다. 제1종 오류의 확률은 유의수준(α)과 같으며, 연구자가 미리 설정한다.
제2종 오류(β 오류)는 귀무가설이 실제로 거짓인데 이를 기각하지 못하는 오류이다. 즉, 실제로는 효과나 차이가 있는데 없다고 잘못 결론내리는 것으로, '거짓 음성(false negative)' 또는 '놓친 발견'이라고 한다.
제시된 연구 상황에서 연구자는 p값 0.03 < α 0.05이므로 귀무가설을 기각하고 새로운 간호중재가 효과가 있다고 결론지었다. 이때 만약 실제로는 간호중재에 효과가 없다면 제1종 오류를 범한 것이 된다. 반대로 귀무가설을 채택했는데 실제로는 효과가 있다면 제2종 오류가 된다.
통계적 검정력(power = 1-β)은 실제로 효과가 있을 때 이를 올바르게 탐지할 확률이다. 검정력이 높을수록 제2종 오류는 감소하지만 제1종 오류와는 직접적인 관계가 없다.
유의수준을 낮추면(예: 0.05→0.01) 제1종 오류는 감소하지만 제2종 오류는 증가하는 상충관계(trade-off)가 있다. 간호연구에서는 환자 안전과 직결되는 경우가 많아 이러한 오류 유형을 정확히 이해하고 적절한 유의수준을 설정하는 것이 중요하다.
중환자실에서 근무하는 간호사 김○○는 새로운 구강간호 프로토콜이 인공호흡기 관련 폐렴(VAP) 발생률을 감소시키는지 검증하는 연구를 계획하고 있다.
연구설계: 무작위 대조군 실험연구대상자: 인공호흡기를 적용받는 중환자 120명중재군: 새로운 구강간호 프로토콜 적용대조군: 기존 구강간호 방법 적용결과변수: 7일 이내 VAP 발생률유의수준: α = 0.05
연구 결과 p값이 0.02로 나타나 연구자는 새로운 구강간호 프로토콜이 VAP 발생률을 유의하게 감소시킨다고 결론지었다.
이 상황에서 만약 실제로는 새로운 프로토콜에 효과가 없는데 효과가 있다고 잘못 결론지었다면 제1종 오류를 범한 것이다. 이는 효과 없는 중재를 임상에 도입하여 불필요한 비용과 노력을 초래할 수 있다.
반대로 실제로는 효과가 있는데 통계적으로 유의하지 않아 효과가 없다고 결론지었다면 제2종 오류이며, 이는 환자에게 도움이 될 수 있는 중재를 놓치는 결과를 가져온다.
제1종 오류(Type I error) — 귀무가설이 실제로 참인데 이를 기각하는 오류로, 실제로는 효과가 없는데 효과가 있다고 잘못 결론내리는 것이다. α 오류라고도 하며, 그 확률은 유의수준(α)과 같다.
제2종 오류(Type II error) — 귀무가설이 실제로 거짓인데 이를 기각하지 못하는 오류로, 실제로는 효과가 있는데 효과가 없다고 잘못 결론내리는 것이다. β 오류라고도 한다.
통계적 검정력(Statistical Power) — 실제로 효과가 있을 때 이를 올바르게 탐지할 확률로, 1-β로 계산된다. 일반적으로 0.80 이상이 적절하다고 여겨진다.
유의수준(Significance Level) — 제1종 오류를 범할 최대 허용 확률로, 연구자가 미리 설정한다. 일반적으로 0.05 또는 0.01을 사용하며, α로 표시한다.
p값(p-value) — 귀무가설이 참이라는 가정 하에서 관찰된 결과 또는 그보다 극단적인 결과가 나타날 확률이다. p값이 유의수준보다 작으면 귀무가설을 기각한다.