精度について

ある物理量を測定する場合、使用する測定器がもつ最小測定可能量(最小目盛り)として、感度が定められてる。感度は分解能といわれることもある。言い換えればこの値を下回る測定値の差は、意味をなさないとされる量のことである。

一般的に、測定の精度とは、誤差の割合の最大値を示すもので、測定する物理量の値と、測定器感度の比の絶対値で与えられる。



精度＝｜測定感度/測定物理量の値｜ｘ100


絶対値を用いるのは、本来、正と負の誤差確率が等しいためである。