표본 크기 결정은 간호연구의 신뢰성과 타당성을 확보하는 핵심 요소로, 과학적이고 객관적인 기준에 따라 이루어져야 한다.
표본 크기 결정에 고려해야 할 주요 요인들을 살펴보면 다음과 같다. 첫째, 유의수준(α)과 검정력(1-β)은 통계적 오류를 최소화하기 위한 핵심 요소이다. 일반적으로 α=0.05, 검정력=0.80을 기준으로 하며, 더 엄격한 기준을 적용할수록 더 큰 표본이 필요하다.
둘째, 효과크기(effect size)는 연구하고자 하는 변수들 간의 관계 정도를 나타내며, 작은 효과크기를 탐지하려면 더 많은 표본이 필요하다. Cohen의 기준에 따라 small(0.2), medium(0.5), large(0.8) 효과크기로 분류되며, 간호연구에서는 임상적 의미를 고려하여 결정한다.
셋째, 연구설계의 복잡성도 중요한 고려사항이다. 단순한 기술연구보다는 실험연구나 다변량 분석을 사용하는 연구에서 더 큰 표본이 필요하며, 하위집단 분석을 계획하는 경우 각 집단별로 충분한 표본을 확보해야 한다.
넷째, 모집단의 이질성 정도가 클수록 더 큰 표본이 필요하다. 연구 대상자들의 특성이 다양할수록 대표성을 확보하기 위해 표본 크기를 늘려야 한다.
반면, 연구자의 개인적 선호도는 표본 크기 결정에 고려되어서는 안 되는 요인이다. 표본 크기는 연구의 과학적 엄밀성과 윤리적 책임을 바탕으로 결정되어야 하며, 너무 작은 표본은 연구 결과의 신뢰성을 떨어뜨리고, 너무 큰 표본은 불필요한 자원 낭비와 연구 참여자에게 부담을 줄 수 있다.
간호연구에서는 G*Power와 같은 통계 프로그램을 활용하여 과학적 근거에 기반한 표본 크기를 산출하는 것이 권장되며, 이는 연구의 질을 보장하고 연구윤리를 준수하는 중요한 과정이다.
간호대학 4학년 김간호 학생이 졸업논문으로 '수술 전 불안 감소를 위한 음악요법의 효과'에 대한 실험연구를 계획하고 있다.
지도교수와의 상담에서 표본 크기 결정에 대해 논의하던 중, 김간호 학생은 "제가 접근하기 쉬운 병원에서 50명 정도만 모집하면 될 것 같아요"라고 말했다.
지도교수는 이러한 접근이 부적절함을 설명하며, 표본 크기는 연구자의 편의나 선호가 아닌 과학적 근거에 기반해야 한다고 강조했다.
이후 G*Power 프로그램을 활용하여 유의수준 0.05, 검정력 0.80, 중간 정도의 효과크기(d=0.5)를 기준으로 계산한 결과, 각 집단당 최소 64명, 총 128명의 표본이 필요함을 확인했다.
이 사례는 표본 크기 결정이 연구자의 주관적 판단이 아닌 통계적 근거와 연구 목적에 기반해야 함을 보여주는 대표적인 예이다.
유의수준(Significance Level, α) — 제1종 오류(참인 귀무가설을 기각하는 오류)를 범할 확률의 최대 허용치로, 일반적으로 0.05 또는 0.01을 사용한다. 더 엄격한 유의수준을 설정할수록 더 큰 표본이 필요하다.
검정력(Statistical Power, 1-β) — 제2종 오류(거짓인 귀무가설을 채택하는 오류)를 범하지 않을 확률로, 일반적으로 0.80 이상을 권장한다. 높은 검정력을 원할수록 더 큰 표본이 필요하다.
효과크기(Effect Size) — 연구하고자 하는 변수들 간의 관계나 차이의 실질적 크기를 나타내는 지표로, Cohen's d, eta squared 등으로 표현된다. 작은 효과크기를 탐지하려면 더 큰 표본이 필요하다.
G*Power — 표본 크기를 계산하기 위한 무료 통계 소프트웨어로, 다양한 통계 검정에 대해 유의수준, 검정력, 효과크기를 입력하여 필요한 표본 크기를 산출할 수 있다.
연구윤리적 표본 크기 — 연구 목적을 달성하기에 충분하면서도 불필요하게 많은 참여자에게 부담을 주지 않는 적정한 표본 크기로, 과학적 근거와 윤리적 고려를 균형 있게 반영해야 한다.