측정 결과의 신뢰성은 계측기 성능보다 측정 요구사항(CMR)의 정의에서 시작된다. 

적합성진술은 요구사항 기반의 측정 관리 체계이며, CMRS는 장비 선정과 교정 전략의 

기준이 된다. 본 연재에서는 TAR와 TUR를 통한 불확도 평가와 4:1 원칙의 의미를 살펴보고, 

ISO 10012:2026과 ISO/IEC 17025:2017이 요구하는 명확한 판정 규칙의 중요성을 다룬다.

1. 서론 : 규격한계 근처의 측정값, 

믿어도 되는가

(1) 측정불확도와 판정 위험의 관계

허용한계가 1.00(정규화 값)인 특성을 측정하여 0.98을 얻었다고 하자. 측정값은 분명히 한계 이내이므로 ‘적합’으로 판정하고 싶어진다. 그러나 이 측정의 확장불확도가 U = 0.25(k = 2)라면 이야기가 달라진다. 측정값 0.98은 참값이 0.98 근처에 있을 가능성이 가장 높다는 뜻일 뿐, 참값이 1.00을 넘어설 가능성도 상당하기 때문이다. 그림 1은 이러한 상황을 보여준다. 측정값을 중심으로 한 불확도 분포에서 허용한계를 넘어서는 면적은 곧 “실제로는 부적합인데 적합으로 판정할 확률”을 의미하며, 측정값 0.98의 경우 이 확률은 약 44 %에 달한다. 동전 던지기와 크게 다르지 않은 판정인 셈이다.

반면 측정값이 0.90이라면 같은 불확도에서도 한계 초과 확률은 약 21 %로 낮아지고, 0.75(한계에서 U만큼 떨어진 위치)라면 약 2.3 %까지 떨어진다. 이 확률은 정규분포를 가정할 때 식 1로 계산된다.

여기서 Φ는 표준정규분포의 누적분포함수, y는 측정값, u는 표준불확도이다. 측정값 0.98을 대입하면 R = 1 − Φ(0.16) ≈ 44 %, 0.90이면 R = 1 − Φ(0.8) ≈ 21 %가 되어 앞의 수치가 확인된다. 판정의 위험은 측정값이 한계에 얼마나 가까운지와 불확도가 얼마나 큰가의 함수라는 것. 이것이 보호대역 논의의 출발점이다.

(2) 잘못 채택(False Accept)과 잘못 기각(False Reject)

오판정에는 두 방향이 있다. 그림 2와 같이 잘못 채택은 실제로는 규격을 벗어난 대상을 적합으로 판정하는 것이고, 잘못 기각은 실제로는 규격 이내인 대상을 부적합으로 판정하는 것이다. 계측 분야에서는 각각 PFA(Probability of False Accept)와 PFR(Probability of False Reject)이라는 확률 지표로 정량화한다. 두 오류는 상충 관계에 있다. 판정 기준을 엄격하게 당기면 잘못 채택은 줄지만 잘못 기각이 늘어나고, 느슨하게 하면 그 반대가 된다. 따라서 판정 규칙의 설계란 결국 두 위험 사이에서 조직이 감당할 수 있는 균형점을 선택하는 일이다.

(3) 생산자 위험과 소비자 위험

두 오류가 초래하는 결과의 성격도 다르다. 잘못 채택은 부적합품이 고객에게 전달될 위험, 즉 소비자 위험(consumer's risk)으로 이어진다. 리콜, 필드 클레임, 안전사고, 계약 위반 등 사후 비용이 크고 회복이 어렵다. 잘못 기각은 양품을 불필요하게 기각하는 생산자 위험(producer's risk)으로, 재검사·재작업·폐기 비용과 납기 지연이라는 사내 비용을 유발한다. 어느 쪽 위험을 더 강하게 억제할 것인지는 제품의 안전 중요도, 후속 공정에서의 검출 가능성, 계약 조건에 따라 달라지며, 이 선택을 명시적으로 문서화한 것이 다음 회(3회)에서 다룰 의사결정규칙이다.

2. 보호대역과 수용한계의 개념 (JCGM 106:2012)

(1) 용어 정리 : 허용한계(TL), 수용한계(AL), 보호대역(w)

JCGM 106:2012는 측정불확도를 고려한 적합성평가의 국제적 기준 문서로, 판정에 사용되는 구간을 명확한 용어로 구분한다. 실무에서 세 용어의 혼동이 잦으므로 표 1과 같이 정리할 필요가 있다.

핵심은 허용한계는 참값에 대한 요구이고, 수용한계는 측정값에 대한 판정 기준이라는 구분이다. 측정에 불확도가 없다면 두 한계는 일치해도 되지만, 불확도가 존재하는 현실에서는 둘 사이에 의도적인 간격, 즉 보호대역을 두어 오판정 위험을 제어한다. 

(2) 보수적 수용과 보수적 기각

보호대역을 어느 방향으로 설정하는가에 따라 두 가지 전략으로 나뉜다. 보수적 수용(guarded acceptance)은 식 2와 같이 수용한계를 허용한계 안쪽으로 당겨 잘못 채택을 억제하는 전략으로, 소비자 위험이 큰 안전 부품·계약 납품·교정 합격 판정에 적합하다.

AL = TL - w(보수적 수용) … (식 2)

보수적 기각(guarded rejection)은 반대로 식 3과 같이 기각의 기준을 허용한계 바깥쪽에 두어 확실히 벗어난 경우에만 부적합으로 판정하는 전략이다. 부적합 판정이 중대한 조치(장비 폐기, 라인 정지, 리콜 결정)로 직결되어 잘못 기각의 비용이 매우 큰 상황에서 사용된다.

기각한계 = TL + w(보수적 기각) … (식 3)

(3) 수용·기각·판정보류 구간의 시각화

두 전략에서의 구간 구성을 그림 3에 나타냈다.

그림 3의 (a)에서 측정값이 수용구간에 들어오면 적합, 허용한계 밖이면 부적합으로 판정되며, 그 사이의 보호대역 구간은 규칙에 따라 부적합으로 처리하거나(이진 판정), 조건부 판정·판정보류로 처리한다(비이진 판정). (b)의 보수적 기각에서는 보호대역 구간이 

“부적합으로 단정하지 않는” 완충 구간이 된다. 어느 쪽이든 구간의 경계와 각 구간에서의 판정 표현을 사전에 정의해 두는 것이 규칙 설계의 실체이다.

3. 보호대역 폭(w)의 결정 방법

(1) 단순 방식 : w = U 적용

가장 널리 쓰이는 방법은 보호대역 폭을 확장불확도와 같게 두는 것이다(w = U, k = 2). ILAC-G8:09/ 2019가 보수적 수용의 대표 예로 제시하는 방식으로, 측정값이 수용한계(AL = TL − U) 이내이면 참값이 허용한계 이내일 신뢰수준이 최소 97.7 %(정규분포, 한쪽 한계 기준) 확보된다. 계산이 단순하고 설명이 쉬워 고객 합의도 용이하다는 것이 큰 장점이다. 수용한계에서 판정되는 최악의 경우에도 특정 소비자 위험이 2.3 % 이하로 제한된다.

(2) 배수 방식 : w = rU

요구되는 신뢰수준에 따라 배수 r을 조정할 수도 있다. w = 1.5U이면 한쪽 한계 기준 초과 확률이 약 0.13 %, w = 2U이면 0.003 % 수준까지 낮아진다. 인명 안전과 직결되는 측정, 법정계량, 소송 리스크가 큰 계약 등에서 채택되지만, 보호대역이 넓어질수록 수용구간이 좁아져 잘못 기각(재검사·기각)이 급증한다는 비용을 감수해야 한다. 반대로 r ‹ 1(예: 0.5U)로 좁게 설정하는 것은 공정 능력이 충분히 좋아 한계 근처 측정값 자체가 드문 경우에 한해 정당화될 수 있다.

(3) PFA 기반 방식: ANSI/NCSL Z540.3의 2 % 요구

미국 국방·항공 분야 교정에 널리 적용되는 ANSI/NCSL Z540.3-2006은 접근을 달리한다. 보호대역의 폭을 직접 지정하는 대신, 교정 합격 판정의 잘못 채택 확률(PFA)을 2 % 이하로 관리하도록 성능 요구를 설정하고, 이를 만족하는 보호대역을 역산한다. 이때 PFA는 개별 측정값 조건부 위험이 아니라, 피시험기기 모집단의 분포까지 고려한 전역(unconditional) 위험이라는 점이다. 따라서 산정에는 측정불확도뿐만 아니라 피시험기기 특성의 사전분포(예: 합격률 이력) 정보가 필요하며, TUR이 충분히 높으면 보호대역 없이도 2 %가 달성되는 반면 TUR이 낮으면 넓은 보호대역이 필요해진다. 구체적인 산정 예시는 5회 CASE 3에서 다룬다.

(4) 방법별 비교

이상의 방법들을 표 2에 비교하였다.

방법의 우열은 존재하지 않는다. 각 방법은 오판정 위험, 재검사율, 산정·운영 비용 사이에서 서로 다른 균형점을 가지며, 측정의 용도와 위험의 성격에 맞는 방법을 선택하고 그 선택을 문서화·합의하는 것이 요구사항의 본질이다.

(5) 실무 산정 예시 : 신뢰수준으로부터 보호대역 폭 구하기

특정 소비자 위험 기준으로 보호대역을 설계하는 계산은 정규분포를 가정하면 간단하다. 수용한계에서 판정되는 최악의 경우 허용초과확률을 α로 두면, 보호대역 폭은 식 4로 구해진다.

여기서 z는 표준정규분포의 분위수이다. 표 3에 자주 쓰이는 위험 수준별 z값과 보호대역 폭을 정리하였다. 예컨대 U = 0.25(u = 0.125)인 측정에서 한계 판정 시 초과확률을 1 % 이하로 관리하려면 w = 2.33 × 0.125 ≈ 0.29, 즉 약 1.16U의 보호대역이 필요하다.

이 표에서 두 가지를 읽을 수 있다. 첫째, 널리 쓰이는 w = U가 사실상 초과 확률 약 2.3 %(z ≈ 2) 기준에 해당한다는 점이다. 국제적으로 통용되는 관행이 통계적으로도 명확한 근거를 갖는다는 뜻이다. 둘째, 위험 수준을 10배 강화(2 % → 0.2 % 수준)해도 보호대역 폭은 약 1.4배 늘어날 뿐이라는 점이다. 보호대역 확대의 한계효용은 빠르게 감소하므로, 극단적으로 낮은 위험 수준이 필요하다면 보호대역 확대보다 불확도 자체를 축소(u를 줄이는 투자)하는 것이 더 효과적인 경우가 많다.

4. 현장 적용 시 고려사항

(1) TUR이 낮은 경우의 보호대역 영향

그림 4는 측정값의 위치에 따른 특정 소비자 위험

(한계 초과확률)을 TUR별로 나타낸 것이다. TUR 10:1이라면 한계 바로 근처의 측정값에서만 위험이 급증하므로 좁은 보호대역으로도 충분하지만, TUR 2:1에서는 한계에서 상당히 떨어진 측정값도 무시할 수 없는 위험을 가지므로 같은 위험 수준(예: 2 %)을 달성하기 위해 훨씬 넓은 보호대역이 필요하다. 보호대역이 넓어진다는 것은 곧 수용구간이 좁아진다는 뜻이므로, 낮은 TUR의 비용은 결국 재검사율 상승과 실질적인 사용 범위의 축소로 나타난다. 1회에서 강조한 ‘충분한 TUR 확보’가 보호대역 설계 이전의 선결 과제인 이유이다.

(2) 고객 합의·계약 검토 단계에서의 보호대역 협의

보호대역은 판정 결과를 직접 좌우하므로, 성적서 발행 후가 아니라 계약 검토 단계에서 합의되어야 한다. 교정기관 입장에서는 의뢰 접수 시 적합성진술 요구 여부를 확인하고, 요구가 있다면 적용 가능한 규칙(예: ILAC-G8 기반 w = U 보수적 수용)을 제안하여 합의 내용을 의뢰서와 계약 검토 기록에 남긴다. 사용 조직 입장에서는 자사의 품질 요구(고객사 SQM 요구, 내부 신뢰수준 정책)에 맞는 규칙을 지정하여 의뢰하는 것이 바람직하다. 고객이 규칙을 지정하지 않는 경우의 처리 방법은 4회에서 상세히 다룬다. 

(3) 보호대역 적용 전후 판정 결과 변화 사례

표 4는 허용한계 1.00, U = 0.25(k = 2) 조건에서 측정값 4점에 대해 보호대역 적용 전후의 판정이 어떻게 달라지는지를 보여준다. 측정값 B(0.80)와 C(0.95)는 Simple Acceptance에서는 적합하지만, w = U 적용 시 수용한계(0.75)를 벗어나 기각된다. 판정이 뒤집힌 두 값의 한계 초과확률(각각 약 5 %, 34 %)을 보면, 보호대역이 무엇을 걸러낸 것인지 분명해진다.

 이 사례에서 주의할 점은 ‘기각’이 곧 “참값이 부적합하다”는 것을 의미하지 않는다. 측정값 B의 참값은 여전히 한계 이내에 있을 가능성이 더 높다. 보수적 수용에서의 기각은 “적합하다고 확신할 수 없다”는 판정이며, 후속 조치(더 낮은 불확도의 재측정, 사용 등급 하향, 고객 협의)로 연결되는 운영 절차도 함께 설계되어야 한다. 

(4) 재검사율의 사전 추정과 운영 설계

보호대역 도입을 검토할 때 경영진과 현장이 가장 궁금해하는 것은 “기각이 얼마나 늘어나는가”이다. 이는 사전에 추정할 수 있다. 측정값이 보호대역 구간(AL~TL)에 들어올 빈도는 판정 대상 특성값의 분포에 달려 있으므로, 과거 교정·검사 데이터에서 측정값의 분포(평균과 산포)를 구하고 그 분포에서 보호대역 구간이 차지하는 비율을 계산하면 예상 추가 기각률을 구할 수 있다. 공정 능력이 좋아 측정값이 한계에서 충분히 떨어져 분포한다면 w = U를 적용해도 추가 기각은 미미하며, 반대로 측정값이 한계 근처에 몰려 있다면 추가 기각률이 수십 %에 이를 수 있다.

후자의 경우 규칙 탓을 하기 전에 근본 원인을 살펴보아야 한다. 한계 근처에 측정값이 몰린다는 것 자체가 해당 특성의 공정 여유 또는 장비 여유가 소진되었다는 신호이며, 보호대역은 그 위험을 드러냈을 뿐이다. 이때의 대응은 규칙 완화가 아니라 세트포인트 조정, 장비 등급 상향, 허용공차 재검토와 같은 원류 개선이 되어야 한다. 보호대역 도입 검토가 공정·장비 관리 개선의 계기가 되는 것은 이런 이유에서다.

〈핵심 요약〉

•측정불확도가 존재하는 한 규격한계 근처의 판정에는 잘못 채택·잘못 기각 위험이 필연적으로 따르며, 두 위험은 상충 관계에 있다.

•JCGM 106:2012의 체계에서 허용한계(TL)는 참값에 대한 요구, 수용한계(AL)는 측정값에 대한 판정 기준이며, 그 간격이 보호대역(w)이다. 방향에 따라 보수적 수용과 보수적 기각으로 나뉜다.

•보호대역 폭은 w = U 단순 방식, w = rU 배수 방식, PFA 기반 역산 방식 등으로 결정하며, 각각 위험 수준·재검사율·산정 비용의 균형점이 다르다. TUR이 낮을수록 같은 위험 수준에서 더 넓은 보호대역이 필요하다.

•보호대역은 판정 결과를 직접 바꾸므로 계약 검토 단계에서 고객과 합의하고 기록해야 하며, 기각 시 후속 조치 절차까지 함께 설계해야 한다.

 

<참고 문헌>

(1) JCGM 106:2012, Evaluation of measurement data — The role of measurement uncertainty in conformity assessment

(2) ILAC-G8:09/2019, Guidelines on Decision Rules and Statements of Conformity

(3) ISO/IEC 17025:2017, General requirements for the competence of testing and calibration laboratories

(4) ANSI/NCSL Z540.3-2006 (R2013), Requirements for the Calibration of Measuring and Test Equipment

(5) ASME B89.7.3.1-2001, Guidelines for Decision Rules: Considering Measurement Uncertainty in Determining Conformance to Specifications

(6) EURACHEM/CITAC Guide, Use of uncertainty information in compliance assessment

(7) JCGM 100:2008 (GUM), Evaluation of measurement data — Guide to the expression of uncertainty in measurement

 

 

보호대역이 “어디에 선을 그을 것인가”의 문제라면, 다음 회(3회)의 주제인 의사결정규칙은 “그 선을 누가, 언제, 어떻게 합의하고 문서화할 것인가”의 문제이다. 

ISO/IEC 17025:2017의 계약 검토·보고 요구사항과 ILAC-G8:09/2019의 대표적인 규칙 체계, JCGM 106:2012의 위험 기반 프레임워크를 비교·해설한다.

kishhs@kic21.co.kr