Правила округления и представления результатов измерений

1. Количество значащих цифр в числовом значении результата измерений должно свидетельствовать о точности измерения (значащая цифра – все цифры от первой слева до последней справа, кроме нулей множителя 10ⁿ).

Выражение результата измерения	Возможная погрешность округления
1 значащая цифра (от 1 до 9)	от 5,6 до 50%.
2 зн. цифры (от 10 до 99)	от 0,5 до 5%,
3 зн. цифры (от 100 до 999)	от 0,05 до 0,5%.
и так далее

Поскольку погрешности измерений определяют лишь зону неопределенности результатов, их не требуется знать очень точно.

2. Погрешность результата измерения указывается двумя значащими цифрами, если первая из них равна 1 или 2, и одной — если первая цифра равна 3 или более (если отсутствуют специальные требования к выражению погрешности например эталона, физической константы, или отсутствуют специальные требования к представлению результата измерения.

При выполнении правила не учитываемая при округлении величина не превысит 16% от определенной погрешности, т.е., если погрешность составляет 5% от результата, неучтенная величина не превысит 0,8%) .

3. Результат измерения округляется до того же десятичного знака, которым оканчивается округленное значение абсолютной погрешности. Если десятичная дробь в числовом значении результата измерений оканчивается нулями, то нули отбрасываются до того разряда, который соответствует разряду числового значения погрешности.

4. Если цифра старшего из отбрасываемых разрядов меньше 5, то остальные цифры числа не изменяются. Если цифра старшего из отбрасываемых разрядов больше или равна 5, но за ней следуют отличные от нуля цифры, то последнюю оставляемую цифру увеличивают на единицу.

5. Если отбрасываемая цифра равна 5, а следующие за ней цифры неизвестны или нули, то последнюю сохраняемую цифру числа не изменяют, если она четная, и увеличивают на единицу, если она нечетная.

6. Округление производится лишь в окончательном ответе, а все предварительные вычисления проводят с двумя-тремя лишними знаками.

Примеры

Округляемое значение	Округленное значение
12345 ± 345	(123 ± 3)*10^2
0,1000 ± 0,001000	0,1000 ± 0,0010
9999 ± 99	(1000 ± 10)*10

оглавление

практическая часть