엑셀에서는 표준편차를 구하는 함수로 STDEV.P와 STDEV.S를 주로 제공하는데, 이름이 비슷해서 실무에서 어떤 것을 골라야 할지 헷갈리는 경우가 매우 흔합니다. 두 함수의 명확한 차이점과 상황별 올바른 선택법을 본문에서 알려드리겠습니다.
전체 모집단을 대표하는 STDEV.P 함수 기본 개념
STDEV.P 함수에서 이름 뒤에 붙은 알파벳 P는 모집단 전체를 뜻하는 Population의 약자입니다. 분석하려는 데이터가 일부 샘플이 아니라 전체 데이터 집합 그 자체일 때 사용하기 좋은 함수입니다. 기본적인 함수 사용 방법은 =STDEV.P(number1, [number2], ...) 형태를 가지고 있습니다. 실제 업무에서는 주로 =STDEV.P(B2:B20) 처럼 구하고자 하는 셀 범위를 인수로 지정합니다. 엑셀은 해당 범위의 평균을 먼저 계산한 뒤 각 데이터가 평균과 얼마나 떨어져 있는지를 계산하여 모집단 전체의 표준편차를 출력하게 됩니다. 예를 들어 우리 회사 전 직원 50명의 급여 데이터를 모두 가지고 있거나 우리 반 학생 30명 전체의 기말고사 성적표를 분석할 때는 데이터의 빠짐이 없는 전체 집합이므로 STDEV.P 함수를 사용하는 것이 좋습니다.
일부 표본 데이터를 분석하는 STDEV.S 함수
반면에 STDEV.S 함수에서 S는 표본을 뜻하는 Sample의 약자입니다. 전체 데이터 중 일부만을 추출하여 조사한 표본 데이터를 기반으로 전체 모집단의 표준편차를 추정할 때 사용하기 좋은 함수입니다. 함수 사용 방법은 =STDEV.S(number1, [number2], ...) 로 STDEV.P와 동일한 구조를 가지고 있습니. 하지만 함수 계산 방식에서 분모에 데이터 개수인 n 대신 n-1을 적용하는 차이가 있습니다. 표본 조사에서 발생할 수 있는 오차와 편향을 보정하기 위해 분모를 하나 줄여서 표준편차를 살짝 더 크게 추정하기 때문에 이런 차이가 발생 하는 것 입니다. 전국 10만 명의 고등학생 중 무작위로 추출한 1,000명의 성적만 조사했거나 공장에서 하루에 생산되는 수만 개의 제품 중 100개만 샘플링하여 품질 검사를 진행한 경우라면 전체를 추정해야 하기 때문에 이럴 때는 STDEV.S 함수를 써야 합니다.
STDEV.P와 STDEV.S 차이점 한눈에 비교하기
두 함수의 가장 큰 차이는 분석하려는 데이터가 전체인지 아니면 일부 추출된 샘플이냐 하는 대상 범위에 있습니다. 전체 데이터를 모두 확보한 상태라면 STDEV.P를 선택하고 전체 중 일부 표본만 조사한 상태라면 STDEV.S를 선택하는 것 입니다. 표본의 개수(n)가 수천, 수만 건 이상으로 매우 커지면 분모 n과 n-1의 차이가 미미해져 두 함수의 계산 결과값이 거의 비슷해지지만 표본의 수가 적을수록 두 값의 차이는 확연하게 벌어집니다. 따라서 데이터의 수집 출처와 성격을 먼저 파악한 뒤 전체 수치인지 표본 수치인지를 구분하여 함수를 지정해야 분석 결과의 데이터 신뢰도를 높일 수 있습니다. 일반적으로 STDEV.P나 STDEV.S 함수는 셀 범위 안에 문자가 들어있거나 빈 셀이 있으면 계산 대상에서 완전히 제외하고 순수한 숫자 데이터만 가지고 계산을 합니다. 하지만 실무 데이터 중에는 참과 거짓을 나타내는 논리값(TRUE, FALSE)이나 '미응시', '결석' 같은 문자가 섞여 있는 경우가 있습니다. 이럴 때 텍스트나 논리값까지 모두 데이터 개수에 포함시켜 판단해야 한다면 함수 이름 끝에 A가 붙은 STDEVA나 STDEVPA 함수를 활용해야 합니다. 엑셀에서 A가 붙은 함수들은 논리값 TRUE는 숫자 1로, FALSE나 일반 텍스트 문자는 숫자 0으로 변환하여 표준편차 계산에 포함시킵니다. 표본 데이터에 텍스트가 섞여 있다면 STDEVA를, 모집단 전체 데이터에 텍스트가 섞여 있다면 STDEVPA를 선택하면 됩니다. 엑셀 수식을 작성하다 보면 점(.)이 붙지 않은 옛날 방식의 STDEV 함수나 RANK, VAR 같은 함수들을 볼 수 있습니다. 이는 엑셀 2007 이전 구버전 문서들과의 호환성을 유지하기 위해 엑셀이 호환성 범주에 남겨둔 함수들입니다. 과거의 STDEV 함수는 현재의 STDEV.S와 동일하게 표본 표준편차를 구하는 함수였고 STDEVP 함수가 현재의 STDEV.P 역할을 했습니다. Microsoft는 함수 이름만 보고도 표본(S)인지 모집단(P)인를 구분할 수 있도록 엑셀 2010 버전부터 점(.)을 더한 개선된 표준 함수를 넣었습니다. 따라서 구버전 파일과의 호환이 반드시 필요한 특수한 상황이 아니라면 최신 표준인 STDEV.P와 STDEV.S 함수를 사용하는 것이 좋습니다. 데이터의 성격을 정확히 정의하고 그에 맞는 표준편차 함수를 골라 쓰는 습관을 들이신다면 한층 더 정교하고 전문 데이터 분석 보고서를 완성하실 수 있습니다.