정확도·정밀도·검출한계·유효숫자를 구분하고 측정결과를 값±불확도로 보고하는 법을 배웁니다.

CHEMISTRY · PART 5 · 분석화학: 측정과 증거01 / 06

같은 시료를 세 번 측정해 거의 같은 값이 나왔지만 인증값과 모두 멀다면 재현성은 좋아도 결과는 틀릴 수 있습니다.

측정값 하나를 믿을 수 있는 증거로 만들려면 어떤 오차와 불확도를 기록해야 할까요?

이번 장의 답무작위오차는 반복 측정의 분산으로, 계통오차는 표준물질·공백·회수율로 평가합니다. 결과에는 교정, 반복수, 신뢰구간과 측정 조건을 함께 제시합니다.

01기초부터 계산까지

CHEMISTRY, FROM ZERO

오차와 불확도: 처음 배우는 사람을 위한 출발점

측정값은 참값의 복사본이 아니라 측정과정·교정·표본추출이 만든 추정치입니다. 반복값의 퍼짐인 정밀도와 기준값에 가까운 정도인 정확도를 분리하고, 결과를 값±불확도와 단위·신뢰수준까지 함께 보고해야 비교 가능한 데이터가 됩니다.

START HERE

계통오차

측정값을 한 방향으로 치우치게 하는 지속적인 오차입니다.

START HERE

표준불확도

표준편차와 같은 척도로 표현한 측정결과의 불확도입니다.

START HERE

검출한계

공백 신호와 통계적으로 구별 가능한 최소 수준입니다.

CONCEPT ROUTE

이 글에서 생각이 이어지는 순서

용어를 외우는 대신, 관찰에서 모형과 계산을 거쳐 실제 해석으로 가는 흐름을 먼저 잡습니다.

01측정량 정의

출발점

02오차원

핵심 변수

03교정·반복

모델 적용

04값±불확도

검증과 해석

$$ 결과 = 추정값 ± 불확도 $$

READ THE EQUATION

공식을 계산기에 넣기 전에 읽는 법

$$ \bar x=\frac{1}{n}\sum x_i, \qquad s=\sqrt{\frac{\sum(x_i-\bar x)^2}{n-1}} $$
작은 n에서는 정규분포 z값 대신 Student t를 사용해 평균의 신뢰구간을 구성합니다.
01

평균은 중심을, 표본표준편차 s는 개별 측정의 퍼짐을, 표준오차 s/√n은 평균 추정의 불확도를 서로 다르게 나타냅니다.

02

계통오차는 반복 횟수를 늘려도 사라지지 않으므로 blank·표준물질·회수율·독립법으로 확인합니다.

03

곱·나눗셈의 독립 불확도는 상대불확도의 제곱합, 합·차는 절대불확도의 제곱합으로 1차 전파합니다.

WORKED FOUNDATIONS

기본 계산과 판단을 세 단계로 완전히 전개합니다

숫자 대입, 단위, 결과의 물리적 뜻을 한 번에 확인하세요.

01

9.9, 10.0, 10.1의 평균과 표준편차

$$ \bar x=10.0,\qquad s=\sqrt{\frac{(-0.1)^2+0^2+(0.1)^2}{3-1}}=0.10 $$

결과는 단위를 포함해 10.0±0.1처럼 표현할 수 있습니다. 이 ±가 표준편차인지 확장불확도인지 반드시 명시합니다.

02

세 반복 평균의 표준오차

$$ s_{\bar x}=\frac{s}{\sqrt n}=\frac{0.10}{\sqrt3}=0.0577 $$

반복 수가 4배가 되어야 평균의 랜덤 불확도가 절반이 됩니다. 동일한 편향이 있으면 표준오차가 작아져도 정확도는 좋아지지 않습니다.

03

두 곱셈 인자의 불확도 전파

$$ \frac{u_y}{y}=\sqrt{(0.020)^2+(0.030)^2}=0.0361=3.61\% $$

서로 독립인 2%와 3% 상대불확도를 단순히 5%로 더하지 않습니다. 상관이 있으면 공분산 항을 추가해야 합니다.

스스로 확인하기 · 측정값 하나를 믿을 수 있는 증거로 만들려면 어떤 오차와 불확도를 기록해야 할까요?

무작위오차는 반복 측정의 분산으로, 계통오차는 표준물질·공백·회수율로 평가합니다. 결과에는 교정, 반복수, 신뢰구간과 측정 조건을 함께 제시합니다.

02왜 이 개념이 필요한가

같은 시료를 세 번 측정해 거의 같은 값이 나왔지만 인증값과 모두 멀다면 재현성은 좋아도 결과는 틀릴 수 있습니다. 이 장면을 풀려면 용어를 외우는 것보다 어떤 물리량을 고정하고 무엇을 변화시키는지 먼저 정해야 합니다. 정확도·정밀도·검출한계·유효숫자를 구분하고 측정결과를 값±불확도로 보고하는 법을 배웁니다.

읽기 전에 구분할 것
  • 정확도는 참값과의 근접성, 정밀도는 반복값끼리의 근접성입니다.
  • 표준편차와 평균의 표준오차를 혼동하지 않습니다.
  • 검출한계 미만은 0이 아니라 해당 방법으로 신뢰 있게 검출하지 못했다는 뜻입니다.

03핵심 모델과 식

표본평균은 중심 추정값, 표준편차는 반복값의 산포를 나타냅니다. 표준오차 s/√n은 평균 추정의 불확도이므로 개별 측정 산포와 다릅니다. 독립 불확도는 민감도계수로 전파하고, 유효숫자는 실제 정보량을 넘지 않게 정합니다.

$$ \bar x=\frac{1}{n}\sum x_i, \qquad s=\sqrt{\frac{\sum(x_i-\bar x)^2}{n-1}} $$
작은 n에서는 정규분포 z값 대신 Student t를 사용해 평균의 신뢰구간을 구성합니다.

04공학 예제로 계산하기

ICP로 MOF 금속 함량을 측정할 때 산분해 공백, 인증표준, 스파이크 회수율을 함께 측정합니다. 반복 정밀도가 좋아도 분해가 불완전하면 낮은 값으로 치우치는 계통오차가 생깁니다.

풀이와 해석의 순서
  • 측정량 정의와 허용오차를 먼저 정하고 표본채취부터 오차원을 목록화합니다.
  • 공백·표준·반복·회수율 실험으로 계통·무작위 성분을 분리합니다.
  • 교정식과 불확도 전파를 거쳐 값, 단위, 신뢰수준, 조건을 함께 보고합니다.

05오해·한계·다음 연결

반복 횟수만 늘리면 무작위오차는 줄지만 계통오차는 사라지지 않습니다. 시료 이질성과 표본채취 편향이 기기 정밀도보다 클 수 있습니다.

재료·DFT로 이어지는 연결
  • DFT 검증도 수치 수렴오차와 모형 편향을 구분해야 합니다.
  • 재료 물성 데이터에는 시편 간 분산과 장비 불확도가 함께 들어갑니다.
  • 메타분석에서는 서로 다른 측정 정의와 불확도를 맞춰야 합니다.

06이 글의 용어 사전

본문을 읽다가 “그래서 이 말이 정확히 뭐지?”라는 질문이 생기면 여기에서 다시 확인할 수 있습니다.

계통오차systematic error
측정값을 한 방향으로 치우치게 하는 지속적인 오차입니다.
표준불확도standard uncertainty
표준편차와 같은 척도로 표현한 측정결과의 불확도입니다.
검출한계limit of detection
공백 신호와 통계적으로 구별 가능한 최소 수준입니다.
정확도accuracy
측정값이 참값 또는 합의된 기준값에 얼마나 가까운지를 뜻합니다.
정밀도precision
반복 측정값들이 서로 얼마나 가깝게 모이는지를 뜻합니다.
교정calibration
기기 신호와 알려진 양 사이의 관계를 세워 미지 시료의 값을 추정하는 과정입니다.

07참고자료와 더 읽을거리

  1. KAIST 화학과 학부 교과목 개요 — 물리·유기·분석·무기·재료화학 과목의 공식 범위와 연결을 확인하는 기준입니다.
  2. NIST/SEMATECH e-Handbook of Statistical Methods — 불확도·회귀·검정·교정의 통계적 근거를 제공합니다.
  3. IUPAC Orange Book — 분석화학의 명명법·측정·교정·검출 한계에 관한 국제 지침입니다.
NEXT CHEMISTRY NOTE분석화학의 화학평형 →