기계가공 작업자를 위한 측정 불확도: 공차 등급, 게이지 분해능, 신뢰 구간의 실무 해설

디지털 캘리퍼스가 24.97 mm를 표시하더라도 실제 부품 치수는 24.95 mm에서 24.99 mm 사이 어디에나 있을 수 있습니다 — ±0.02 mm의 불확도 폭은 빡빡한 IT7 공차의 80%를 조용히 잠식할 수 있습니다. 게이지 분해능, 환경 온도 오차, 게이지 제작사 정확도는 각각 독립적으로 총 측정 불확도에 기여하며, ISO 14253-1은 부품의 합격·불합격을 판정하기 전에 불확도를 공차 범위에서 차감하도록 규정합니다. IT 공차 등급에서 게이지 분해능, 다시 신뢰 구간으로 이어지는 이 사슬을 이해하는 것이 신뢰할 수 있는 품질 판정과 추측을 가르는 차이입니다.

측정 불확도 빠른 참조

문제 / 목표	핵심 조치	기대 효과
빡빡한 공차에서 캘리퍼스가 한계점 합격을 표시	마이크로미터로 전환 (DIN 863 기준 ±0.004 mm, 일반 캘리퍼스 ±0.02 mm 대비)	측정기 불확도 5× 감소
온도 오차 미파악	11.7 µm/m/°C(강) 보정을 적용하거나 20 °C ±1 °C 이내에서 측정	5 °C 편차 시 100 mm 부품에서 최대 0.02 mm 오차 제거
IT 등급 대비 게이지 분해능 부족	게이지 분해능 ≤ T/10 확인 (10:1 규칙)	게이지 불확도를 공차 범위의 3% 미만으로 유지
부품이 공차 한계에 위치	ISO 14253-1 적합 영역 적용 (T에서 U 차감)	합격·불합격 경계가 측정 불확도 U만큼 이동
다수의 측정 원천이 결합됨	결합 U_c = √(u₁² + u₂² + u₃²) 계산	지배적 불확도 기여자를 식별

측정 불확도가 작업장에서 실제 의미하는 것

측정 불확도는 게이지의 결함이 아니라 모든 측정 결과에 내재된 속성입니다. 모든 측정값은 참값과 미지의 오차 성분의 결합이며, 불확도는 참값을 포함할 가능성이 높은 구간의 폭을 정량화합니다. 공식 프레임워크는 ISO·BIPM·OIML이 공동 발행한 GUM(Guide to the Expression of Uncertainty in Measurement)입니다.

작업장 관점에서 보면, 외경 마이크로미터가 24.987 mm를 표시할 때 0–25 mm 범위에 대한 DIN 863 / ISO 3611:2023 정확도 사양 ±0.004 mm는 참 치수가 24.987 mm ± 0.004 mm 이며 포함 계수 k=2(약 95% 신뢰)로 표현된다는 의미입니다. 24.987 mm를 정확히 측정했다는 뜻은 아닙니다. 게이지 종류와 정확도 등급별 전체 비교는 정밀 측정기 선정 가이드를 참조하시기 바랍니다.

GUM은 불확도 기여를 두 종류로 구분합니다 — Type A(반복 측정에서 통계적으로 얻음)와 Type B(교정 성적서, 사양 또는 물리적 추론에서 얻음). 대부분의 작업장 환경에서는 두 종류가 모두 존재하며 결합되어야 합니다. DIN 863 기준 마이크로미터의 측정기 오차는 Type B 기여이며, 동일 형상에 대한 반복 판독값이 평균을 중심으로 산포하는 것은 Type A 기여(반복성, 표면 조도, 앤빌 안착)에 의한 것입니다.

결합 표준 불확도 u_c는 제곱합 루트(RSS) 결합으로 계산됩니다.

u_c = √(u_측정기² + u_반복성² + u_열² + u_형상²)

이 식의 지배 변수는 통상 거친 게이지의 경우 u_측정기 이며, 온도가 통제되지 않은 긴 치수의 경우 u_열 입니다 — 어느 항이 지배하는지 식별하면 개선 노력을 어디에 투입할지가 보입니다.

ISO 공차 등급: "빡빡함"의 기준은?

IT(International Tolerance) 등급은 ISO 286 체계 하에서 치수 공차의 크기를 정의합니다. IT 등급은 IT01(서브미크론, 게이지 제작용)부터 IT18(자유절삭 주물)까지이며, IT6 이상에서는 한 단계마다 공차가 약 1.6× 증가합니다. 등급은 호칭 치수에도 비례합니다 — IT7 기준 50 mm 보어의 공차는 25 µm 인 반면, 150 mm 보어의 공차는 40 µm 입니다.

작업별 실용 등급은 다음과 같습니다.

IT 등급	일반 공차 (50 mm)	가공 방법
IT5	11 µm	정밀 연삭, 호닝
IT6	16 µm	정밀 선삭, 리밍
IT7	25 µm	표준 선삭, 보링
IT8	39 µm	표준 밀링, 드릴링
IT9	62 µm	압입 끼워맞춤, 일반 가공
IT11	160 µm	자유 상태 다이캐스팅

IT7은 통제된 틈새 또는 간섭이 요구되는 끼워맞춤(샤프트·홀, 베어링 끼워맞춤)의 기본 등급이며, 대부분의 작업장 측정이 신뢰성 있게 분해해야 하는 상한을 설정합니다.

IT 등급과 게이지 선정의 관계는 10:1 게이징 비율 규칙을 따릅니다 — 게이지 측정 불확도는 형상 공차의 10%를 초과하지 않아야 합니다. 50 mm 호칭치 IT7(25 µm 공차)의 경우 최대 게이지 불확도는 2.5 µm 이며, 이는 표준 디지털 캘리퍼스(분해능 0.01 mm = 10 µm, 일반 정확도 ±20 µm)를 즉시 배제하고 마이크로미터 또는 공기 게이지를 요구합니다.

게이지 분해능 vs 게이지 정확도 vs 측정 불확도

이 세 용어는 서로 다른 대상을 가리키며 자주 혼동됩니다. 게이지 분해능은 게이지가 표시할 수 있는 최소 증분이고, 정확도는 추적 가능한 표준 대비 최대 오차이며, 측정 불확도는 모든 오차 원천을 확률적 구간으로 결합한 값입니다.

분해능은 불확도의 하한을 설정합니다 — ISO 13385-1 기준 분해능 0.01 mm인 디지털 캘리퍼스는 분해능만으로 약 0.01 mm / √12 ≈ 2.9 µm 미만의 측정 불확도를 만들 수 없습니다(균일 분포, 표준편차 = 범위 / √12). 그러나 실무에서는 캘리퍼스 정확도 사양 ±0.02 mm(제조사 일반치)가 불확도 예산을 지배합니다 — 대부분의 캘리퍼스에서 분해능은 측정기 정확도와 비교하면 무시할 만한 기여입니다.

마이크로미터의 경우 DIN 863 / ISO 3611:2023은 0–25 mm 범위에 대해 ±0.004 mm 를 규정합니다. 이는 스핀들 기하 오차, 나사 피치 오차, 눈금 판독 오차를 포함하는 결합 허용 오차입니다. 0–25 mm 외경 마이크로미터가 DIN 863을 충족할 때, 열평형과 올바른 기법이 적용되면 k=2(95% 신뢰)에서 약 ±0.005–0.008 mm의 실용 측정 불확도를 제공합니다.

✓

게이지 선정 규칙

형상 공차의 10% 이하인 총 확장 불확도 U(k=2)를 갖는 게이지를 선정하시기 바랍니다. 25 mm 호칭치 IT7(21 µm 공차)의 경우 U ≤ 2.1 µm 가 요구됩니다 — 벤치 마이크로미터, CMM 프로브 또는 교정된 공기 게이지만이 이 임계값을 충족합니다. 표준 작업장 마이크로미터(U ≈ 5–8 µm)는 IT8 및 그 이상의 거친 등급에는 허용 가능하지만, 핵심 용도의 IT6/IT7에는 부적합합니다.

분해능 대 정확도의 구분은 보간된 디지털 표시를 판독할 때 가장 중요합니다. 정확도 0.01 mm의 측정기에 분해능 0.001 mm를 표시하는 게이지는 거짓 정밀도를 만듭니다 — 마지막 자릿수는 신호가 아닌 잡음입니다. 측정기의 정확도가 뒷받침할 수 있는 것보다 많은 소수점 자릿수를 표시한다고 해서 불확도가 줄어들지 않으며, 의미 없는 자릿수에 근거한 게이지 판정이라는 위험을 추가할 뿐입니다.

열 오차와 20 °C 기준 조건

ISO 1:2022는 치수 측정의 기준 온도로 20 °C를 정의합니다. 부품 또는 게이지가 20 °C에서 벗어나면 열팽창은 통상 게이지 정확도 사양 자체보다 큰 오차를 도입합니다.

강의 선형 열팽창 계수는 약 11.7 µm/m/°C(α_steel = 11.7 × 10⁻⁶/°C)입니다. 기준 온도보다 5 °C 높은 환경에서 강 게이지로 측정한 100 mm 강 샤프트의 경우:

ΔL = L × α × ΔT = 100 mm × 11.7 × 10⁻⁶/°C × 5 °C = 0.0059 mm ≈ 6 µm

이 6 µm 의 열 오차는 DIN 863 기준 마이크로미터의 ±4 µm 측정기 오차를 초과합니다. 부품과 게이지가 모두 강이며 동일 온도일 때는 열 오차가 부분적으로 상쇄되지만, 기준에서 5 °C 떨어진 강 게이지로 알루미늄 부품(α ≈ 23.1 µm/m/°C)을 측정하면 100 mm 형상에서 차등 팽창은 0.017 mm 에 이르며, 이는 일반 마이크로미터 정확도를 크게 초과합니다.

IT 등급별 실용 온도 통제 요건:

IT 등급 (50 mm)	공차	최대 허용 ΔT (강, k=2)
IT5 (11 µm)	11 µm	±0.5 °C
IT6 (16 µm)	16 µm	±0.7 °C
IT7 (25 µm)	25 µm	±1.1 °C
IT8 (39 µm)	39 µm	±1.7 °C

게이지 불확도 예산에서 공차의 1/3 을 열 오차에 할당, 강 부품과 게이지, 50 mm 호칭치 가정.

⚠

온도 안정화 시간

가공 기계에서 바로 꺼낸 차가운 마이크로미터 또는 부품은 20 °C 게이징 룸에서 열평형에 도달하기까지 질량에 따라 20–45분이 걸릴 수 있습니다. 안정화 전 측정 시 50 mm 강 형상에서 10–30 µm 오차가 도입되어, 부품이 조용히 IT7 또는 IT8 공차 범위 밖으로 밀려날 수 있습니다.

신뢰 구간과 ISO 14253-1 적합 판정

측정값이 공차 경계 가까이에 있을 때, 측정 결과만으로는 합격·불합격 판정에 충분하지 않습니다. ISO 14253-1:2017은 적합 영역 원칙을 수립합니다 — 측정 불확도 U를 공차 T에서 차감했을 때, 측정값이 [LSL + U, USL − U] 내에 있는 부품만이 무조건적으로 합격될 수 있습니다. 측정값이 두 공차 한계의 U 이내에 있는 부품은 "불확도 영역"에 있으며, 추가 측정 또는 고객과의 합의 없이는 합격도 불합격도 결정되지 않습니다.

포함 계수 k=2의 확장 불확도 U는 측정 오차의 정규 분포의 약 95%를 포함합니다. 결합 표준 불확도 u_c = 0.003 mm 인 마이크로미터의 경우:

U = k × u_c = 2 × 0.003 mm = 0.006 mm (95% 신뢰)

h7 등급의 25 mm 샤프트(상한 0 µm, 하한 −21 µm)의 경우:

전체 공차: 21 µm
ISO 14253-1 적합 영역: [−21 µm + 6 µm, 0 µm − 6 µm] = [−15 µm, −6 µm]
측정 불확도를 반영한 실효 유효 공차: 21 µm 중 9 µm 에 불과(43%)

±6 µm의 측정 불확도가 21 µm IT7 공차의 57%를 잠식하여, 신뢰할 수 있는 합격 영역은 공차 범위의 절반에도 못 미칩니다. 이는 설계 단계의 게이지 선정이 형식적 절차가 아닌 이유를 보여줍니다 — 게이지 선정은 제조된 공차 중 실제로 유용한 비율을 직접 결정합니다.

The result of a measurement is only an approximation or estimate of the value of the measurand, and thus is complete only when accompanied by a statement of the uncertainty of that estimate.

— GUM (JCGM 100:2008), §3.1

ISO 14253-1 판정 규칙에는 두 가지 적합 시나리오가 있습니다 — "공급자 위험"(적합 영역 이내에서만 합격, 고객 보호)과 "공유 위험"(불확도 영역을 포함한 전체 공차 내 합격, 양자 합의). 대량 생산에서는 보다 좁은 적합 영역 안에서의 100% 게이지 검사가 양호한 부품까지 불합격 처리하기 때문에 공유 위험 방식이 일반적입니다 — 검사 비용과 측정 투자 사이의 경제적 트레이드오프는 명시적으로 다루어져야 합니다.

실용 불확도 예산 구성

개별 불확도 원천의 결합은 GUM RSS 방식을 따릅니다. 0–50 mm 외경 마이크로미터로 측정한 50 mm 강 샤프트 직경의 일반적 작업장 측정에 대해:

불확도 예산 예시:

원천	값	분포	표준 불확도 u_i
측정기 (DIN 863, ±0.004 mm)	±0.004 mm	사각형	0.004 / √3 = 2.3 µm
반복성 (5회 판독, 표준편차 1.5 µm)	1.5 µm	정규	1.5 / √5 = 0.67 µm
열 (±1 °C, 강 11.7 µm/m/°C × 50 mm)	±0.59 µm	사각형	0.59 / √3 = 0.34 µm
표면 조도 (Ra 0.8 µm 형상)	±0.5 µm	사각형	0.5 / √3 = 0.29 µm
결합 u_c = √Σu_i²			2.4 µm
확장 U (k=2, 95%)			4.8 µm

측정기 불확도가 결합 2.4 µm 중 2.3 µm를 차지하며 지배합니다 — 측정기 자체가 교체되기 전까지는 기법이나 온도 통제 개선의 효과가 거의 없습니다. 이는 일반적인 경험칙을 적용하기보다 명시적 예산을 구성하는 것의 가치입니다.

ISO 13385-1 기준 디지털 캘리퍼스(분해능 0.01 mm)의 경우, 측정기 정확도 항은 약 ±0.02 mm(제조사 일반치)로 확장되어 결합 U는 약 0.03–0.04 mm 가 됩니다. 이는 캘리퍼스를 50 mm 이하의 IT7 형상에는 부적합하게 만들지만, 공차 범위가 62–100 µm인 IT9/IT10 일반 가공에는 완전히 적절합니다.

외경 마이크로미터와 디지털 캘리퍼스에 대한 불확도 적용

올바르게 사용된 외경 마이크로미터는 0–25 mm 범위에서 k=2 기준 약 ±0.005–0.008 mm의 확장 불확도를 달성하여, 25 mm 호칭치 이상의 IT7 형상에 신뢰할 수 있게 사용할 수 있습니다. 주요 기여 원천은 DIN 863 기준 측정기 정확도(±0.004 mm), 스핀들 접촉 압력 변동(래칫 스톱이 5–10 N으로 제한하지만 기법 변동이 ±1–2 µm 를 도입할 수 있음), 그리고 관리되지 않으면 지배적인 열 안정화입니다.

ISO 13385-1 기준 디지털 캘리퍼스는 표시 분해능 0.01 mm(0.0005 in)를 가집니다. 그러나 분해능은 정확도가 아닙니다 — 150 mm 캘리퍼스의 일반 총 허용 오차는 ±0.02 mm(제조사 사양 등급)입니다. 디지털 캘리퍼스는 IT9 및 그 이상의 거친 공차에 적합하며, 이 영역에서는 공차 예산의 약 20–30%를 소비하므로 10:1 규칙 안에 충분히 들어옵니다. 측정 불확도에 영향을 미치는 캘리퍼스 유지보수 및 교정 주기에 관한 안내는 디지털 캘리퍼스 관리 가이드를 참조하시기 바랍니다. 25 mm 호칭치 IT7(21 µm 공차)의 경우 캘리퍼스 불확도(U ≈ 25–30 µm)가 공차 전체를 초과합니다 — 캘리퍼스는 신뢰할 수 있는 적합 판정을 내릴 수 없습니다.

캘리퍼스 영역과 마이크로미터 영역을 가르는 실용적 경계선은 약 0.05 mm(50 µm)의 형상 공차입니다. 이 임계값 아래에서는 신뢰할 수 있는 IT 등급 적합 판정을 위해 DIN 863 준수가 검증된 교정된 마이크로미터와 온도 통제된 측정이 요구됩니다.

IT 등급별 게이지 성능 (50 mm 호칭치)

디지털 캘리퍼스 (ISO 13385-1) IT9 및 그 이상 거친 등급 (≥62 µm 공차)

외경 마이크로미터 (DIN 863) IT7–IT8 (21–39 µm 공차)

벤치 마이크로미터 / CMM IT5–IT6 (11–16 µm 공차)

공기 게이지 / 레이저 스캔 IT5 및 그 이상 정밀 등급 (≤11 µm 공차)

포함 계수 k=2; 20 ±1 °C 강 부품; 올바른 기법 가정

요약

Summary

표시 마지막 자릿수가 아닌 공차의 10%에 게이지 불확도를 맞추시기 바랍니다.

10:1 게이징 규칙 — 게이지 불확도 ≤ 부품 공차의 10% — 은 ISO 14253-1 적합 요구의 실용적 구현입니다. IT7 형상의 경우 이는 캘리퍼스가 아닌 마이크로미터(U ≈ 5–8 µm)를 의미합니다. 20 °C 열 안정화는 측정기 외 단일 최대 불확도 원천을 제거합니다. 단순한 4행 형태일지라도 RSS 불확도 예산을 구성하면 어느 원천이 지배적인지 식별할 수 있으며 — 그 원천은 거의 항상 기법이나 환경이 아닌 측정기 그 자체입니다.

출처

측정 불확도란 무엇이며 기계가공 작업자에게 왜 중요합니까?

측정 불확도는 명시된 신뢰 수준(통상 95%)에서 참 치수가 위치할 가능성이 높은 값의 범위입니다. IT7(21 µm 공차)의 25 mm 형상의 경우 ±6 µm(확장, k=2)의 마이크로미터 불확도가 유효 공차의 57%를 잠식하며 — ISO 14253-1 적합 규칙 하에서 신뢰할 수 있는 합격 영역은 9 µm 만 남깁니다.

주어진 IT 공차 등급에 어떤 게이지를 선택해야 합니까?

10:1 게이징 규칙을 적용하시기 바랍니다 — 확장 불확도 U(k=2)가 형상 공차의 10% 이하인 게이지를 선정합니다. 디지털 캘리퍼스(U ≈ 20–30 µm)는 IT9 및 그 이상 거친 공차(50 mm 기준 ≥62 µm)에 적합합니다. DIN 863 기준 마이크로미터(U ≈ 5–8 µm)는 IT7–IT8을 다룹니다. IT6 및 그 이상 정밀 등급에는 벤치 마이크로미터, CMM 또는 공기 게이지를 사용하시기 바랍니다.

정밀 측정에서 온도는 얼마나 큰 오차를 도입합니까?

강은 11.7 µm/m/°C로 팽창하므로, ISO 1 기준 20 °C보다 5 °C 높은 100 mm 형상은 약 6 µm 오차를 도입합니다 — DIN 863 기준 마이크로미터의 ±4 µm 측정기 정확도보다 큽니다. IT7 요건 아래로 열 불확도를 줄이려면 측정 전 부품을 20 ±1 °C 환경에서 20–45분간 안정화시켜야 합니다.

ISO 14253-1 적합 영역은 실무에서 어떤 의미입니까?

ISO 14253-1:2017은 측정 불확도 U를 공차 범위의 양 끝에서 차감하여 적합 영역을 정의하도록 요구합니다. 이 좁아진 영역 내에서 측정된 부품만이 무조건적으로 합격될 수 있습니다. ±U 경계 띠 안의 부품은 추가 측정 또는 양자 합의가 필요합니다 — 단일 측정에 근거해 일방적으로 합격 처리할 수 없습니다.

게이지 분해능과 게이지 정확도의 차이는 무엇입니까?

분해능은 게이지가 표시할 수 있는 최소 증분입니다(예: ISO 13385-1 기준 디지털 캘리퍼스의 0.01 mm). 정확도는 추적 가능한 기준 표준 대비 최대 오차입니다(예: DIN 863 기준 0–25 mm 마이크로미터의 ±0.004 mm). 대부분의 작업장 측정에서 정확도가 불확도를 지배합니다 — 더 정밀한 표시 분해능이 실제 측정 오차를 줄여주지는 않습니다.