Свердловская обл.,
г. Заречный, ул. Попова 9А
+7 (343-77) 7-29-11 Написать нам
Главная / ЧаВо / ОКРУГЛЕНИЕ ЗНАЧЕНИЙ СВОЙСТВ И ИХ НЕОПРЕДЕЛЕННОСТЕЙ
RSS-канал новостей

ОКРУГЛЕНИЕ ЗНАЧЕНИЙ СВОЙСТВ И ИХ НЕОПРЕДЕЛЕННОСТЕЙ

Как происходит приписывание результатов измерения? 

Почему для некоторых концентраций значение выражается 5 знаками после запятой, а для других – всего двумя?

Для расчета значений концентраций и неопределенностей используются электронные таблицы, позволяющие увидеть результат с бесконечным числом цифр. Такое представление результата создает ощущение большой точности и одновременно вводит в заблуждение. Все промежуточные расчеты производятся без округления, с сохранением максимально большого числа значащих цифр, округление производится только перед выписыванием паспорта. 

После расчета значения расширенной неопределенности, определяется первая значащая цифра в расширенной неопределенности. Если это 1 или 2, то округление производится до двух значащих цифр, если 3 и больше – то до одной. Расширенная неопределенность концентрации выражается не более чем двумя значащими цифрами, при этом 0 – тоже является значащей цифрой. 

Почему достаточно всего 1-2 значащих цифр? 

Вычисленная неопределенность посчитана с собственной погрешностью, как правило выше 10-20 процентов, следовательно, нет необходимости описывать её более чем двумя знаками. Например, числа - 0,610 и 0,616 отличаются друг от друга не более чем на 1%.  Чем первая значащая цифра больше, тем результат округления внесёт меньшую погрешность, поэтому если первая значащая цифра в погрешности больше 3, погрешность округляют до одной значащей цифры.

После округления значения расширенной неопределенности результат измерений округляется таким образом, чтобы число знаков после запятой измеряемой величины совпадало с числом знаков после запятой расширенной неопределенности. Округление результата производится с помощью стандартного математического округления, когда значения ≥5 округляются в большую сторону, значения <5 – в меньшую.

Примеры:

  • До округления значение - 0,004639145, неопределенность – 0,00019756; 
  • после округления: значение – 0,00464, неопределенность – 0,00019,
  • До округления значение - 0,0080152, неопределенность – 0,0003852; 
  • после округления: значение – 0,0080, неопределенность – 0,0004.

Назад

Заказать звонок:


Ставя отметку, я даю свое согласие на обработку моих персональных данных в соответствии с законом № 152-ФЗ "О персональных данных" от 27.07.2006 и принимаю условия Пользовательского соглашения

Заказать звонок

Ставя отметку, я даю свое согласие на обработку персональных данных

Заявка успешно отправлена

В ближайшее время с Вами свяжутся наши специалисты.

Заявка не отправлена

Не удалось отправить заявку. Попробуйте позже.

Ваша заявка уже отправлена

Мы уже получили Ваше сообещние и в ближайшее время свяжемся с Вами.

Заявка не отправлена

Размер загружаемого файла не должен превышать 5Мб. Пожалуйста выберите другой файл для загрузки.

Вверх
Вниз