디지털캘리퍼스(±0.03 mm)는 ±0.05 mm까지의 공차를 담당합니다. 외경 마이크로미터(DIN 863 기준 ±0.004 mm)는 ±0.01 mm 공차를 커버합니다. 다이얼게이지(ISO 463 기준 0.001 mm 최소 눈금)는 런아웃과 위치 정밀도를 검증합니다. 게이지블록(Grade 0: ISO 3650 기준 ±0.30 µm 편차)은 교정 기준기로 사용됩니다. 본 가이드는 공차 범위별 선정, 올바른 측정 기법, 환경 관리, 교정 요건을 다룹니다.
가공 현장의 정밀 측정은 네 자릿수에 걸친 범위를 포괄합니다. 0.1mm 수준의 일반 치수부터 서브 마이크론 단위의 표면 거칠기 평가까지 단일 측정기로는 이 범위를 감당할 수 없습니다. 어떤 공구를 집어들지, 그리고 똑같이 중요한 어떤 공구는 집어들지 말아야 하는지를 이해하는 능력이 불량률과 싸우는 현장과 꾸준히 양품을 출하하는 현장을 가릅니다. 본 가이드는 치수 측정기의 전 스펙트럼, 측정에 영향을 미치는 환경 요인, 그리고 공차 요건에 측정기를 매칭하기 위한 실무 프레임워크를 다룹니다.
캘리퍼스 — 디지털, 다이얼, 버니어
캘리퍼스는 가공 현장에서 가장 빈번하게 사용되는 측정기입니다. 외경, 내경, 깊이, 단차를 단일 공구로 모두 처리할 수 있어 가공 중 신속한 검증에 필수적입니다.
디지털캘리퍼스는 그만한 이유가 있어 현대 공장에서 주류를 이룹니다. 측정값을 직접 표시하여 보간 오차를 제거하고, 통계적 공정 관리(SPC)를 위한 데이터 출력을 지원합니다. 분해능은 일반적으로 0.01mm(0.0005")이며, ISO 13385-1 기준 정확도는 ±0.03mm입니다(20°C 기준 조건에서 150mm 범위 기준이며, 측정 범위가 커질수록 MPE는 증가합니다). 배터리 구동 전자 부품이 유일하다 할 만한 단점으로, 중요한 순간에 배터리가 방전되면 측정이 중단됩니다.
다이얼 캘리퍼스는 기계식 랙앤피니언을 이용해 다이얼게이지를 구동합니다. 배터리가 필요 없으며 측정 방향을 시각적으로 감지할 수 있습니다(치수가 변하면 바늘이 움직입니다). 분해능은 0.02mm로 디지털과 동등하지만 판독 속도는 느리고, 다이얼을 비스듬히 볼 때 시차 오차가 발생할 수 있습니다.
버니어캘리퍼스는 최초의 설계 방식으로, 작업자가 눈금을 맞추어 읽는 두 개의 눈금자로 구성됩니다. 배터리가 없고, 슬라이드 외에 움직이는 부품도 없습니다. 다만 버니어 눈금을 정확히 읽으려면 훈련과 양호한 시력이 요구됩니다. 분해능은 버니어 눈금에 따라 0.02-0.05mm 수준입니다.
| 항목 | 디지털 | 다이얼 | 버니어 |
|---|---|---|---|
| 분해능 | 0.01mm | 0.02mm | 0.02-0.05mm |
| 정확도 (150mm) | +/-0.03mm | +/-0.03mm | +/-0.03mm |
| 판독 속도 | 즉시 | 보통 | 느림 |
| 배터리 필요 | 예 | 아니오 | 아니오 |
| 데이터 출력 | SPC/USB 선택 가능 | 없음 | 없음 |
| 내쿨런트성 | IP54-IP67 모델 | 제한적 | 우수 |
| 일반 가격대 | $20-$300 | $30-$150 | $15-$80 |
환경에 맞춘 IP 등급 선택
일반 가공 현장에서는 IP54 등급의 디지털캘리퍼스가 쿨런트 튐과 칩 분진을 견뎌냅니다. 연삭 공정이나 습식 가공 환경에서는 단시간 침수에도 견디는 IP67 등급 모델에 투자할 필요가 있습니다. 가격 프리미엄은 일반적으로 30-50% 수준이지만, 디지털캘리퍼스 고장의 가장 흔한 원인을 예방합니다.
마이크로미터 — 외경, 내경, 뎁스 타입
캘리퍼스의 정확도가 부족할 때 마이크로미터가 그다음 수준의 정밀도를 제공합니다. 나사식 측정 원리를 통해 0.001mm 분해능과 DIN 863 기준 ±0.004mm 정확도를 구현하며, 이는 캘리퍼스 대비 한 자릿수 더 우수한 수준입니다.
외경 마이크로미터는 정밀 측정의 주력입니다. 각 마이크로미터가 25mm 범위를 담당하므로(0-25mm, 25-50mm 등) 넓은 범위를 커버하려면 세트 전체가 필요합니다. 래칫 스톱 또는 프릭션 심블이 일정한 측정력을 유지함으로써, 캘리퍼스 측정에서 문제가 되는 작업자별 가압력 편차를 제거합니다.
내경 마이크로미터는 보어 치수를 검증하는 데 사용됩니다. 삼점 접촉 모델은 보어 내부에서 자동 센터링되어 신뢰성 있는 측정값을 제공합니다. 이점 접촉 모델은 세심한 정렬이 요구되지만 더 작은 보어에서도 작동합니다. 50mm를 넘는 보어에는 연장봉이 장착된 관형 내경 마이크로미터가 사용되며, 최대 1500mm 범위까지 커버합니다.
뎁스 마이크로미터는 단차 높이, 슬롯 깊이, 숄더 치수를 측정합니다. 평평한 베이스가 기준면에 걸쳐지고 스핀들이 피쳐 내부로 연장됩니다. 교환식 로드를 통해 단일 베이스에서 다양한 측정 범위를 구현합니다.
열팽창과 마이크로미터
취급 중 체온이 마이크로미터 프레임에 전도됩니다. 0.001mm 분해능 수준에서는 강재 마이크로미터를 30초간 손에 쥐기만 해도 프레임이 1-3 um 팽창할 수 있으며, 이는 측정값에 영향을 줄 만한 크기입니다. 프레임의 단열판(열 차폐판)을 잡거나, 중요한 측정에는 마이크로미터 스탠드를 사용하는 것이 바람직합니다. ISO 1에 따라 측정값이 유효하려면 20C에서의 열평형이 필수적입니다.
다이얼게이지와 테스트 인디케이터
다이얼게이지와 테스트 인디케이터는 절대 치수를 측정하지 않고 기준점으로부터의 편차를 측정합니다. 이러한 특성 때문에 셋업 검증, 런아웃 점검, 정렬, 공정 중 모니터링에 필수적입니다.
**다이얼게이지(플런저 타입)**는 스프링으로 지지되는 스핀들이 선형으로 이동합니다. 일반적인 범위는 0.8-10mm이며 분해능은 0.01mm 또는 0.001mm입니다. 마그네틱 베이스, 서피스 게이지, 치구 장착 암에 부착해 사용합니다. 주요 용도로는 샤프트와 보어의 TIR 점검, 바이스 및 척에서의 피삭재 정렬 검증, 머신 주축 런아웃 모니터링 등이 있습니다.
**테스트 인디케이터(레버 타입)**는 플런저 대신 피벗 스타일러스를 사용합니다. 스타일러스가 원호를 따라 움직이므로 플런저 타입 인디케이터가 도달할 수 없는 협소부에도 접근할 수 있습니다. 분해능은 일반적으로 0.01mm 또는 0.002mm, 측정 범위는 0.2-0.8mm입니다. 소형 보어의 동심도 점검, 박형 플랜지의 표면 런아웃, 장착된 피삭재의 직각도 확인에 이상적입니다.
| 항목 | 다이얼게이지 | 테스트 인디케이터 |
|---|---|---|
| 동작 방식 | 선형 플런저 | 피벗 레버 |
| 일반 범위 | 0.8-10mm | 0.2-0.8mm |
| 분해능 | 0.01mm 또는 0.001mm | 0.01mm 또는 0.002mm |
| 협소부 접근성 | 제한적 | 우수 |
| 측정력 | 0.5-1.5N | 0.1-0.5N |
| 적합 용도 | 셋업, 런아웃, 정렬 | 동심도, 소형 피쳐 |
인디케이터 셋업 모범 사례
런아웃 점검 시에는 피삭재를 최소 두 바퀴 이상 회전시키며 TIR(Total Indicator Reading)을 기록해야 합니다. 한 바퀴 회전만으로는 특정 각도에서만 나타나는 편심 상태를 놓칠 수 있습니다. 주축 런아웃 점검에는 주축 노즈를 직접 측정하는 대신 직진도가 확인된 연삭 테스트 바를 사용하는 것이 바람직합니다. 테스트 바는 각도 오차를 측정 가능한 선형 변위로 증폭해 주기 때문입니다.
게이지블록과 교정 기준기
게이지블록(요한슨 블록 또는 슬립 게이지라고도 함)은 치수 소급성의 기반입니다. 알려진 기준 길이를 제공함으로써, 다른 모든 측정기의 검증 기준이 됩니다.
ISO 3650 기준 등급 체계:
| 등급 | 공칭 치수 편차(100mm) | 길이 변동(100mm) | 주요 용도 |
|---|---|---|---|
| K | ±0.60 µm(개별 성적서 부여) | 0.07 µm | 실측값이 명시된 교정 마스터 |
| 0 | ±0.30 µm | 0.12 µm | 교정 연구실 기준기 |
| 1 | ±0.60 µm | 0.20 µm | 검사실 교정용 |
| 2 | ±1.20 µm | 0.35 µm | 현장 교정 및 점검용 |
표준 87피스 게이지블록 세트는 블록을 링잉(wringing)으로 접합함으로써 1.001mm에서 200mm 사이의 모든 치수를 커버할 수 있습니다. 링잉이란 래핑된 두 평면을 얇은 유막과 함께 밀착시켰을 때 붙어 떨어지지 않는 현상을 말하며, 결합력은 블록의 무게를 지지할 만큼 충분하면서도 오차는 무시할 만한 수준(접합부당 0.025 um 미만)입니다.
교정 체계:
- 국가 계량 표준기관(NIST, PTB, NPL)이 일차 표준을 유지합니다
- 인정 교정 기관은 국가 표준에 소급 가능한 기준 등급 블록을 보유합니다
- 현장 검사실은 연구실 기준기에 대해 교정된 Grade 1 블록을 보유합니다
- 작업 현장은 일상 점검을 위해 Grade 2 블록을 사용합니다
게이지블록 취급
게이지블록은 평면도 0.05 um 이내로 정밀 래핑됩니다. 지문은 부식성 염분을 남겨 표면을 에칭시키고 링잉 성능을 훼손합니다. 반드시 린트프리 장갑이나 핑거캡을 착용해 취급해야 합니다. 사용 후에는 용제로 세척하고 방청제를 얇게 도포한 뒤 목재 또는 플라스틱 케이스에 보관해야 합니다. 링잉 상태로 밤새 방치해서는 안 됩니다. 분자 간 흡착으로 인해 분리 시 양쪽 표면이 모두 손상될 수 있는 콜드 웰딩 현상이 발생할 수 있기 때문입니다.
정밀 측정의 환경 요인
세계 최고의 측정기도 부적절한 환경에서는 잘못된 결과를 내놓습니다. 온도, 청정도, 측정 기법이 측정 신뢰성의 세 가지 축입니다.
온도: 치수 측정의 국제 기준 온도는 ISO 1에 정의된 20C(68F)입니다. 강재는 대략 11.7 um/m/C(열팽창 계수, CTE)의 비율로 팽창합니다. 20C가 아닌 25C에서 측정된 100mm 강재 부품은 교정 치수보다 5.85 um 길어지며, 이는 마이크로미터의 정확도를 상회하는 크기입니다. CTE가 약 23 um/m/C인 알루미늄은 민감도가 두 배에 달합니다. ±0.01mm보다 엄격한 측정에는 ±1C 수준의 온도 관리가 필수적입니다.
열 안정화 시간: 가공 직후의 부품은 뜨겁습니다. 30C의 부품이 주철 정반 위에서 20C에 도달하려면 질량과 형상에 따라 20-40분이 소요됩니다. 박육 부품은 솔리드 블록보다 빠르게 안정화됩니다. 이 단계를 서두르는 것이 생산 현장에서 가장 흔하게 발생하는 측정 오차의 원인입니다.
청정도: 측정면 사이에 낀 단 하나의 칩이나 쿨런트 방울도 그 두께만큼 측정값에 더해집니다. 매 측정 전에 측정기와 피삭재를 모두 세척해야 합니다. 린트프리 천과 적절한 용제를 사용해야 하며, 섬유가 떨어지는 현장 걸레는 사용해서는 안 됩니다.
습도: 상대 습도는 40-60%를 유지해야 합니다. 30% 미만에서는 정전기로 인해 먼지가 측정면에 달라붙습니다. 70%를 초과하면 결로 및 부식 위험이 커집니다. 게이지블록과 정밀 측정기는 극단적인 습도에 특히 민감합니다.
ISO 1 기준 온도
모든 치수 측정은 20C(68F)를 기준으로 합니다. 이종 소재를 측정할 때(예: 강재 마이크로미터로 알루미늄 부품 측정), 측정기와 피삭재가 정확히 20C에 있지 않으면 양자 간 열팽창 차이로 인해 체계적 오차가 발생합니다. 이러한 오차는 단순 보정으로는 제거할 수 없으며, 오직 열평형에 의해서만 해소됩니다.
선정 프레임워크 — 공차별 공구 매칭
적절한 측정기의 선택은 검증하려는 공차에 달려 있습니다. 일반적인 규칙은 측정 불확도가 공차의 10-25%를 넘지 않아야 한다는 것으로, ASME Y14.5에서 말하는 "게이지 메이커 규칙" 또는 "10:1 규칙"에 해당합니다. 실무에서는 ISO 14253-1 의사결정 규칙 기준으로 4:1 비율이 허용 가능한 최소선입니다.
| 공차 범위 | 권장 측정기 | 측정 불확도 |
|---|---|---|
| +/-0.5mm 이상 | 버니어 또는 디지털캘리퍼스 | +/-0.03mm |
| +/-0.1mm ~ +/-0.5mm | 디지털캘리퍼스 | +/-0.03mm |
| +/-0.02mm ~ +/-0.1mm | 외경 마이크로미터 | +/-0.003mm |
| +/-0.005mm ~ +/-0.02mm | 정밀 마이크로미터 + 게이지블록 | +/-0.001mm |
| +/-0.005mm 미만 | CMM, 공기 마이크로미터 또는 간섭계 | 서브 마이크론 |
✦ 캘리퍼스 적합 용도
- 공차 +/-0.1mm 이상
- 공정 중 신속 점검
- 다양한 측정 유형(OD, ID, 깊이, 단차)
- 정밀 측정 이전의 초도품 검증
✦ 마이크로미터 적합 용도
- 공차 +/-0.02mm 이하(엄격)
- 최종 검사 치수
- 단일 축 정밀 측정
- 동일 피쳐 사이즈의 반복 측정
측정기 선정 의사결정 트리:
- 도면에서 공차를 확인합니다
- 허용 가능한 최대 측정 불확도를 산정합니다(최소 공차/4)
- 해당 불확도 예산 내에 들어오는 정확도가 명시된 측정기를 선택합니다
- 측정기의 교정 유효성이 유지되고 있는지 확인합니다
- 요구 정확도를 뒷받침할 수 있는 측정 환경(온도, 청정도)을 확보합니다
단일 측정기로는 불확도 요건을 충족할 수 없는 경우, 측정기를 상향하기에 앞서 환경 개선(항온실, 진동 차폐)을 우선 고려하는 것이 바람직합니다. 관리된 환경의 Grade 2 마이크로미터가 현장 바닥에 놓인 Grade 1 마이크로미터보다 오히려 더 좋은 결과를 내는 경우가 많기 때문입니다.
측정 능력을 공차에 맞추십시오 — 측정기는 환경의 수준을 넘지 못합니다.
4:1 비율 규칙을 이용해 측정기를 선택해야 합니다. 즉, 측정 불확도는 부품 공차의 25%를 넘지 않아야 합니다. 캘리퍼스는 +/-0.1mm 이상을 담당하고, 마이크로미터는 +/-0.02mm에서 +/-0.1mm 범위를 커버합니다. +/-0.005mm 미만에서는 CMM이나 전용 게이징이 필요합니다. 정밀 작업에는 온도를 +/-1C로 관리하고, 측정 전에 부품이 열적으로 안정화되도록 하며, ISO 3650 등급 게이지블록을 통해 국가 표준까지 교정 소급성을 유지해야 합니다. 가장 흔한 측정 오차는 측정기 성능이 아니라 환경과 측정 기법에서 비롯됩니다.
측정기의 정확도와 분해능은 어떻게 다른가요?
분해능은 측정기가 표시할 수 있는 최소 증분입니다(예: 디지털캘리퍼스의 0.01mm). 정확도는 표시된 값이 실제 치수에 얼마나 가까운가를 의미합니다(예: +/-0.03mm). 측정기는 분해능이 미세하더라도 교정이 되어 있지 않으면 정확도가 떨어질 수 있으며, 정확도가 뒷받침되지 않는 분해능은 의미가 없습니다.
정밀 측정기의 교정 주기는 어떻게 정해야 하나요?
교정 주기는 ISO 10012에 따라 사용 빈도와 중요도를 기준으로 결정해야 합니다. 다수 현장에서는 연간 교정을 출발점으로 삼으며, 성적서가 포함된 검증 결과를 바탕으로 조정합니다. 일일 영점 점검과 월간 게이지블록 대조 검증은 교정 주기 사이의 드리프트를 포착해 줍니다. 사용 빈도가 높거나 가혹한 환경에 놓인 측정기는 ISO 10012 측정관리시스템 요구사항에 따라 분기별 교정이 필요할 수 있습니다.
+/-0.02mm 공차를 캘리퍼스로 점검해도 되나요?
원칙적으로 불가합니다. +/-0.03mm 정확도의 캘리퍼스는 공차 대역 전체를 초과하므로, 측정 불확도를 감당할 여유가 전혀 남지 않습니다. ISO 14253-1 의사결정 규칙은 측정 불확도를 공차 대역에서 차감하도록 요구하며, 이 경우 +/-0.02mm 공차에 +/-0.03mm 캘리퍼스를 적용하면 적합 판정 영역이 음수가 됩니다. 이 공차 범위에는 마이크로미터(DIN 863 기준 +/-0.004mm 정확도)를 사용해야 합니다.
측정 기준 온도는 왜 20C인가요?
ISO 1에서 국제 기준 온도로 20C(68F)를 제정한 것은, 대부분의 산업 국가에서 쾌적한 작업 조건에 근접하기 때문입니다. 모든 치수 규격, 게이지블록, 측정기 교정은 이 온도를 기준으로 이루어집니다. 다른 온도에서 측정할 경우 소재의 열팽창 계수에 비례하여 열팽창 오차가 발생합니다.
출처
- ISO 14253-1: Geometrical Product Specifications -- Decision Rules for Conformity
- ISO 3650: Geometrical Product Specifications -- Length Standards -- Gauge Blocks
- NIST Handbook 44: Specifications, Tolerances, and Other Technical Requirements
- Mitutoyo Measurement Instruments Catalog and Technical Reference
