Описание слайда:
Пример: Вольтметр класса 2,5 с пределом 300 В, зафиксировал x = 267,5В.
Пример: Вольтметр класса 2,5 с пределом 300 В, зафиксировал x = 267,5В.
Определяем абсолютную погрешность:
Относительная погрешность:
Замечание: Первая значащая цифра абсолютной погрешности > 3, поэтому, согласно правилам, должно быть произведено округление до 8В, но в значении относительной погрешности первая значащая цифра < 3, поэтому в ответе должны быть сохранены два десятичных разряда и указано 2,8%.
Результат: Измерение произведено с относительной погрешностью γ(х)=2,8%, измеренное напряжение x = (268±8)В, или 268В ± 8В или пределы неопределенности измеренной величины x = 260÷276В или 260 <x < 276В.
Замечание: Недостаток правила 100,5 - скачек от округления относительной погрешности при переходе, например от числа 0,29 (0,3-0,29)/0,3 = 3% к числу 0,3 (0,4-0,3)/0,3 = 30%.
Практический вывод: Для устранения скачка относительной погрешности округления предлагается каждую декаду округляемых значений делить на три части 0,1-0,2, 0,2-0,5 и 0,5-1, с шагом округления 0,02, 0,05 и 0,1. Получаем ряд: 0,1-0,12-…-0,2-0,25-0,3-…-0,5-0,6-…-1,0. с погрешностью округления 5 … 10%. Однако в этом случае последние цифры результата после округления должны также соответствовать этому ряду.