1. 기계적 변형 문제
일반적으로 측정할 때에는 측정기와 측정물과의 사이에는 기계적인 접촉이 있고 측정력이 작용한다. 측정기 끝부분과 측정물 표면사이의 접촉을 확실히 하기 위해서는 일정 크기의 측정력이 요구된다. 따라서 측정력에 의한 변형이 발생하게된다. 이런 변형은 반드시 탄성한계 내에 있어야한다. 기계적 변형에는 이러한 측정력 이외에도 측정기 및 측정물의 자중에 의한 변형도 있다.

가. 측정력에 의한 압축 변형

측정물을 측정력이 작용하는 사이에 넣으면 측정물은 힘이 가해진 방향으로 압축되고 점접촉 또는 선접촉 하에 힘이 가하진 때에는 접촉 부위에서 부분적으로 자국이 생기게된다. 압축 변형량을 측정하기 위해서는 후크의 법칙을 적용하여 계산할 수 있다.

나. 측정력에 의한 굽힘 변형

외팔보 형태의 측정력이 작용할 때, 길이 L, 지름 d인 막대의 한 끝이 지지되고 다른 끝에 측정기를 달아 측정력을 위로 가할 때 끝의 처짐이 발생한다.

다. 측정력에 의한 압축과 자중에 의한 변형

측정 대상의 높이(L)은 측정력 F의 영향과 대상물 자체 하중의 영향으로 압축된다.

라. 자중에 의한 굽힘 변형

길이가 긴 봉 모양의 물체는 정반과 같은 면 위에 놓으면 지지점의 위치에 따라 물체는 자중 때문에 구부러져 오차가 발생한다. 이러한 경우 지지점이 명확하므로 측정 결과를 보정(補正)할 수 있다.

① 에어리 점(Airy point)

양 끝점이 항상 평행으로 유지되어야 할 필요가 있는 물체는 그 지지점이 a = 0.2113 L로 한다. 이 점을 에어리 점이라 한다.


② 베셀 점(Bessel point)

전체 측정 오차를 최소로 하기 위한 지지점이 a = 0.2203L로 한다. 이 점을 베셀 점이라 한다.

2. 기하학적 문제
가. 아베의 원리(Abbe's Principle)

길이 측정의 경우 치환법(substitution method)을 응용하면 기하학적 위치에 의한 측정 오차를 가장 확실하게 피할 수 있다. 예를 들면 측정기를 표준편(블록 게이지 등)으로 조정하여 위치를 정하고 다음에 표준편 대신에 측정물을 놓는 방법이다. 이 경우에는 이동하는 측정대의 위치오차 등은 생기지 않는다. 그러나 이 치환법을 채용할 수 없을 때, 특히 스케일로 비교하는 경우에는 1893년 E. Abbe가 발표한 아베의 원리(Abbe's Principle)를 지켜야 한다. 즉 "측정하려는 길이를 물차(物差)로써 사용하는 눈금의 연장선에 둔다" 라고 말한 것인데, 일반적인 표현으로 하면 "측정물과 표준자와는 측정 방향에 있어서 일직선 위에 배치하여야 한다"로 할 수 있다.

나. 접촉오차
측정자를 사용한 측정기에 있어서는 측정물의 형상에 부적당한 측정자를 사용할 때나 측정기의 측정면이 마모되거나 측정면이 평행이 아닐 때 생기는 오차이다. 이런 오차를 줄이는 방법은 다음과 같다.

① 측정기의 측정면 모양은 측정물의 외형이 곡면일 때는 평면, 또는 안지름에는 구면이나 곡면을 사용한다.

② 측정기의 측정면은 내마모성이 있는 재질(초경합금)을 사용하며 특히 측정물이 운동 중인 것은 마모가 심하므로 되도록 피한다.

③ 두 측정면 사이의 평행, 홈의 유무 및 기준 게이지와 비교하여 지시값을 확인한다.

또한 측정물의 일부로서 측정물에 접촉하는 측정자 또는 측정면의 형상은 측정물의 형상에 적합해야한다. 점접촉을 얻기 위하여 측정물이 원통 또는 구 모양인 경우에는 평탄한 측정면을 사용하고, 평탄한 측정면은 대개 구모양을 사용한다.

또 나사의 측정에 있어서는 원추, 원통 및 구모양 측정편이 쓰이고 있다. 측정물과 측정 자와의 접촉은 한쪽의 형상오차 때문에 희망하는 기하학적 일치에 적응한 정확한 관계가 아닌 경우에는 접촉오차가 발생한다.

다. 측정물의 기하학적 형상

실제로 제작된 물품은 일반적으로 치수뿐만 아니라 기하학적인 형상에 있어서도 이상과는 상당히 다른 것이 된다. 예를 들면 평면에 대해서는 거칠기, 파형(wave), 평면도 오차 등이 있지만 여기에서 특히 주의할 것은 실제의 표면을 전체로 보았을 때의 형상의 편차로 이는 측정법에 영향을 준다. 면의 평면도 측정의 경우 적어도 서로 직각인 2방향으로 측정해야 한다. 또 축 등과 같은 원통형부품은 각각의 위치에 있어서 단면이 진원으로부터 어긋나고 한편 축방향에 있어서 바른 원통형으로부터 틀린다. 그러므로 치수의 측정에 있어서는 항상 형상오차를 고려하여 적절한 특정방법을 선택하여야 한다.

라. 마모(磨耗)

측정자와 측정물의 접촉면 사이에 상대운동이 있으면 마찰 및 마모가 생긴다. 이로 인해 측정면의 기하학적 형상과 치수를 결정하는 위치가 변하고 측정오차를 주는 원인이 된다, 대부분의 경우, 마찰은 피할 수 없기 때문에 마모를 최소화하기 위해서는 내마모성이 큰 재료를 선택하는 것이 좋다. 예를 들면 초경합금, 경질크롬도금 또는 다이아몬드 등이다. 단, 조정이 가능한 측정기들은 마모가 그 수명을 결정하는 고정식게이지에 비해 마모의 문제가 중요하지 않다.

3. 물리학적 문제
가. 열팽창 문제

모든 길이 측정 관련 기준온도는 20℃(293˚K)이며, 이 온도를 표준온도라 말한다. 일반적으로 선팽창 계수 α인 물체의 온도가 Δt 만큼 변화하면, 길이 L 은 ΔL 만큼 변한다. 여기서 ΔL = L α Δt 이다.

실제 측정에 있어서 각각의 물체에 관한 선팽창계수를 구하기는 힘이 든다. 만약 20℃가 아닌 온도에서 측정한다면 측정물과 기준기와의 실제 선팽창계수의 차 및 측정 온도와 20℃와의 차의 각각에 비례한 값만큼 측정 오차가 발생된다. 따라서 정확한 측정을 위해서는 20℃에 가까운 온도에서 측정하는 것이 요구된다. 실제 측정에서는 측정물과 측정기 및 기준기의 온도는 엄밀하게 말하면 동일하지는 않다. 이것은 취급 중에 측정자의 손에서 전달되는 열에 의한 온도 상승, 실온의 변화, 전등 및 인체로부터의 복사열에 의한 국부적 온도 상승 등에 기인한 것이다. 일반적으로 측정물과 측정기 및 기준기의 온도를 각각 측정하는 것이 불가능하므로 가능한 한 온도가 서로 같은 상태에서 측정하는 것이 바람직하다. 또 측정물 및 기준기를 정위치에 두고 장시간 유지하여 시간에 의한 측정치의 변화가 없는 것을 확인하여 측정하는 것이 좋다.

나. 광학적 문제
육안으로 눈금을 읽을 때는 시차(parallax)를 피하여야 한다. 즉 두 방향의 눈금선이 동일 평면 위에 있으면 관측 방향에 관계없이 선의 상대위치는 동일하게 보인다. 다른 평면위에 있을 때(예, 버어니어 캘리퍼스)에는 관측 방향에 의해서 선의 상대위치가 다르게 보여 오차가 발생하므로 항상 눈금에 수직으로 관측하여야 한다.

확대경 또는 지침으로 눈금을 관측할 때에도 이와 같은 시차 현상이 발생한다. 지침은 눈금판으로 부터 일정한 간격만큼 떨어져 있으므로 지침의 경사 투영을 피하기 위해서 눈금판에 수직 방향으로부터 지침과 눈금선을 보도록 해야 한다. 시차는 버어니어 캘리퍼스, 마이크로 미터의 눈금 뿐 아니라, 다이얼 게이지, 전기 마이크로미터 등의 지침계의 지침을 읽는 경우에도 발생한다. 또 확대경을 사용할 때에도 시차는 생기게 마련이다. 시차를 줄이는 대책으로는 눈의 위치를 언제나 측정하고자 하는 눈금판에 대해 수직이 되도록 하여야 하나, 근본 대책으로는 측정값을 디지탈로 읽는 방법이 최선이다.

4. 히스테리시스

계측기의 측정량을 증가시킬 때와 감소시킬 때 동일 측정량에 대하여 지시치가 다를 때가 있다. 이와 같이 측정의 이력에 의해 생기는 동일 측정량에 대한 지시값의 차를 히스테리시스차(hysteresis error)라 한다. 히스테리시스차가 발생하는 것은 계측기 내부의 기계적, 전기적 재료의 히스테리시스 특성, 요소 사이의 마찰, 백래시(back lash)등의 원인에 기인한다. 예를 들면 스트레인 게이지(strain gauge)식 하중 변환기(load cell)에서는 게이지 형상, 베이스 재질, 접착제 등에 기인하여 하중의 증감, 감소 사이클에 있어서 동일하중에 대하여 스트레인의 지시값에 차가 생길 때가 있다. 이것을 표시하는데 이 히스테리시스차의 최대치 또는 이것을 최대 하중에 대한 스트레인량으로 나눈 백분율로 표시한다. 지금까지 설명한 여러 가지 원인으로 시간적으로 변화하지 않은 측정량에 대한 계측기 오차를 정적 오차라 한다. 그리고 일정한 환경 조건하에서, 측정량이 일정함에도 불구하고 계측기의 지시가 시간과 함께 계속적으로 느슨하게 변화하는 현상이 전기적으로 증폭기를 갖는 계측계에서 많이 볼 수 있다. 이와 같은 현상을 드리프트(drift)라 하며 이것은 자기 가열이나 재료의 크리프(creep) 현상 등에 기인한다.