О точности вычислений

Точность обработки числового массива экспериментальных данных должна быть согласована с точностью измерений. Вычисления, проведенные с большим, чем необходимо, числом значащих цифр, требуют лишних затрат труда и создают ложное впечатление о высокой точности измерений. Например, вычисляя объем куба, сторону которого Вы измерили штангенциркулем и получили 1.01 см, Вы должны списывать с калькулятора не все знаки V = 1.030301 см³, а только три цифры, поскольку точность Ваших измерений определяет и точность окончательного результата: V = 1.03 см³. Мнемоническое правило (от Мнемозины – матери муз) здесь таково: число исходных значащих цифр (здесь три цифры: «1», «0», «1») должно быть равно числу значащих цифр в результате [9]: 1.03. Следует сказать, что для отбрасывания излишних (неверных) цифр в окончательном ответе требуется немалое мужество. В нашем примере начинающему расчетчику число 1.030301 кажется более «точным», хотя это совсем не так, поскольку исходное число 1.01 имеет ошибку в определении последней цифры и, если учитывать эту ошибку, изменяется и результат.

Чтобы быть уверенным, что математическая обработка данных не исказит ощутимым образом наш результат, необходимо следить, чтобы ошибка, получающаяся в результате вычислений, была примерно на порядок меньше погрешности измерений. Во многих случаях для соблюдения этого условия точность чисел при арифметических операциях должна быть на порядок выше точности окончательного результата.

Сказанное выше обосновывает одно из основных правил, которые следует учитывать при планировании и подготовке экспериментов. В силу исключительной важности выделим это правило:

· Точность, необходимая для получения определенного результата, диктует постановку всего опыта и выбор приборов для измерения.

Не нашли, что искали? Воспользуйтесь поиском: