Введение.............................................................................................................
ЗАДАЧА № 1. Ряды предпочтительных чисел...............................................
ЗАДАЧА № 2. Округление результатов измерений.......................................
ЗАДАЧА № 3. Обработка результатов измерений.........................................
ЗАДАЧА № 4. Допуски и посадки гладких цилиндрических соединений...
ЗАДАЧА № 5. Допуски формы и расположения...........................................
ЗАДАЧА № 6. Шероховатость поверхности.................................................
ЗАДАЧА № 7. Размерные цепи........................................................................
Список литературы............................................................................................

Задача № 1. Округление результатов измерений

При выполнении измерений важно соблюдать определенные правила округления и записи их результатов в технической документации, так как при несоблюдении этих правил возможны существенные ошибки в интерпретации результатов измерений.

Правила записи чисел

1. Значащие цифры данного числа - все цифры от первой слева, не равной нулю, до последней справа. При этом нули, следующие из множителя 10, не учитывают.

Примеры.

а) Число 12,0 имеет три значащие цифры.

б) Число 30 имеет две значащие цифры.

в) Число 12010 8 имеет три значащие цифры.

г) 0,51410 -3 имеет три значащие цифры.

д) 0,0056 имеет две значащие цифры.

2. Если необходимо указать, что число является точным, после числа указывают слово "точно" или последнюю значащую цифру печатают жирным шрифтом. Например: 1 кВт / ч = 3600 Дж (точно) или 1 кВт / ч = 3600 Дж.

3. Различают записи приближенных чисел по количеству значащих цифр. Например, различают числа 2,4 и 2,40. Запись 2,4 означает, что верны только целые и десятые доли, истинное значение числа может быть, например, 2,43 и 2,38. Запись 2,40 означает, что верны и сотые доли: истинное значение числа может быть 2,403 и 2,398, но не 2,41 и не 2,382. Запись 382 означает, что все цифры верны: если за последнюю цифру ручаться нельзя, то число должно быть записано 3,810 2 . Если в числе 4720 верны лишь две первые цифры, оно должно быть записано в виде: 4710 2 или 4,710 3 .

4. Число, для которого указывают допустимое отклонение, должно иметь последнюю значащую цифру того же разряда, как и последняя значащая цифра отклонения.

Примеры.

а) Правильно: 17,0 + 0,2. Неправильно: 17 + 0,2 или 17,00 + 0,2.

б) Правильно: 12,13+ 0,17. Неправильно: 12,13+ 0,2.

в) Правильно: 46,40+ 0,15. Неправильно: 46,4+ 0,15 или 46,402+ 0,15.

5. Числовые значения величины и её погрешности (отклонения) целесообразно записывать с указанием одной и той же единицы величины. Например: (80,555 + 0,002) кг.

6. Интервалы между числовыми значениями величин иногда целесообразно записывать в текстовом виде, тогда предлог "от" означает "", предлог "до"– "", предлог "свыше" – ">", предлог "менее" – "<":

"d принимает значения от 60 до 100" означает "60d 100",

"d принимает значения свыше 120 менее 150" означает "120 <d < 150",

"d принимает значения свыше 30 до 50" означает "30 <d 50".

Правила округления чисел

1. Округление числа представляет собой отбрасывание значащих цифр справа до определенного разряда с возможным изменением цифры этого разряда.

2. В случае если первая из отбрасываемых цифр (считая слева направо) менее 5, то последнюю сохраняемую цифру не меняют.

Пример: Округление числа 12,23 до трех значащих цифр дает 12,2.

3. В случае если первая из отбрасываемых цифр (считая слева направо) равна 5, то последнюю сохраняемую цифру увеличивают на единицу.

Пример: Округление числа 0,145 до двух цифр дает 0,15.

Примечание . В тех случаях, когда следует учитывать результаты предыдущих округлений, поступают следующим образом.

4. Если отбрасываемая цифра получена в результате округления в меньшую сторону, то последнюю оставшуюся цифру увеличивают на единицу (с переходом при необходимости в следующие разряды) , иначе – наоборот. Это касается и дробных и целых чисел.

Пример: Округление числа 0,25 (полученного в результате предыдущего округления числа 0,252) дает 0,3.

4. В случае если первая из отбрасываемых цифр (считая слева направо) более 5, то последнюю сохраняемую цифру увеличивают на единицу.

Пример: Округление числа 0,156 до двух значащих цифр дает 0,16.

5. Округление выполняют сразу до желаемого количества значащих цифр, а не по этапам.

Пример: Округление числа 565,46 до трех значащих цифр дает 565.

6. Целые числа округляют по тем же правилам, что и дробные.

Пример: Округление числа 23456 до двух значащих цифр дает 2310 3

Числовое значение результата измерения должно оканчиваться цифрой того же разряда, что и значение погрешности.

Пример: Число 235,732 + 0,15 должно быть округлено до 235,73 + 0,15, но не до 235,7 + 0,15.

7. Если первая из отбрасываемых цифр (считая слева направо) меньше пяти, то остающиеся цифры не меняются.

Пример: 442,749+ 0,4 округляется до 442,7+ 0,4.

8. Если первая из отбрасываемых цифр больше или равна пяти, то последняя сохраняемая цифра увеличивается на единицу.

Пример: 37,268 + 0,5 округляется до 37,3 + 0,5; 37,253 + 0,5 должно быть округлено до 37,3 + 0,5.

9. Округление следует выполнять сразу до желаемого числа значащих цифр, поэтапное округление может привести к ошибкам.

Пример: Поэтапное округление результата измерения 220,46+ 4 дает на первом этапе 220,5+ 4 и на втором 221+ 4, в то время как правильный результат округления 220+ 4.

10. Если погрешность средств измерения указывается всего с одной или двумя значащими цифрами, а рассчетное значение погрешности получают с большим числом знаков, в окончательном значении рассчитанной погрешности должны быть оставлены соответственно только первые одна или две значащие цифры. При этом, если полученное число начинается с цифр 1 или 2, то отбрасывание второго знака приводит к очень большой ошибке (до 3050 %), что недопустимо. Если же полученное число начинается с цифры 3 и более, например, с цифры 9, то сохранение второго знака, т.е. указание погрешности, например, 0,94 вместо 0,9, является дезинформацией, так как исходные данные не обеспечивают такой точности.

Исходя из этого на практике установилось такое правило: если полученное число начинается со значащей цифры, равной или большей 3, то в нем сохраняется лишь она одна; если же оно начинается со значащих цифр, меньших 3, т.е. с цифр 1 и 2, то в нем сохраняют две значащих цифры. В соответствии с этим правилом установлены и нормируемые значения погрешностей средств измерений: в числах 1,5 и 2,5 % указываются две значащих цифры, но в числах 0,5; 4; 6 % указывается лишь одна значащая цифра.

Пример: На вольтметре класса точности 2,5 с пределом измерений х К = 300 В был получен отсчет измеряемого напряжения х = 267,5 В. В каком виде должен быть записан результат измерения в отчете?

Расчет погрешности удобнее вести в следующем порядке: вначале необходимо найти абсолютную погрешность, а затем – относительную. Абсолютная погрешность х =  0 х К /100, для приведенной погрешности вольтметра  0 = 2,5 % и пределов измерения (диапазона измерения) прибора х К = 300 В: х = 2,5300/100 = 7,5 В ~ 8 В; относительная погрешность  = х 100/х = 7,5100/267,5 = 2,81 % ~ 2,8 % .

Так как первая значащая цифра значения абсолютной погрешности (7,5 В) больше трех, то это значение должно быть округлено по обычным правилам округления до 8 В, но в значении относительной погрешности (2,81 %) первая значащая цифра меньше 3, поэтому здесь должны быть сохранены в ответе два десятичных разряда и указано  = 2,8 %. Полученное значение х = 267,5 В должно быть округлено до того же десятичного разряда, которым оканчивается округленное значение абсолютной погрешности, т.е. до целых единиц вольт.

Таким образом, в окончательном ответе должно быть сообщено: "Измерение произведено с относительной погрешностью = 2,8 % . Измеренное напряжениеХ = (268+ 8) В".

При этом более наглядно указать пределы интервала неопределенности измеренной величины в виде Х = (260276) В или 260 ВX276 В.

Округляют числа в Excel несколькими способами. С помощью формата ячеек и с помощью функций. Эти два способа следует различать так: первый только для отображения значений или вывода на печать, а второй способ еще и для вычислений и расчетов.

С помощью функций возможно точное округление, в большую или меньшую сторону, до заданного пользователем разряда. А полученные значения в результате вычислений, можно использовать в других формулах и функциях. В то же время округление с помощью формата ячеек не даст желаемого результата, и результаты вычислений с такими значениями будут ошибочны. Ведь формат ячеек, по сути, значение не меняет, меняется лишь его способ отображения. Чтобы в этом быстро и легко разобраться и не совершать ошибок, приведем несколько примеров.

Как округлить число форматом ячейки

Впишем в ячейку А1 значение 76,575. Щелкнув правой кнопкой мыши, вызываем меню «Формат ячеек». Сделать то же самое можно через инструмент «Число» на главной странице Книги. Или нажать комбинацию горячих клавиш CTRL+1.

Выбираем числовой формат и устанавливаем количество десятичных знаков – 0.

Результат округления:

Назначить количество десятичных знаков можно в «денежном» формате, «финансовом», «процентном».

Как видно, округление происходит по математическим законам. Последняя цифра, которую нужно сохранить, увеличивается на единицу, если за ней следует цифра больше или равная «5».

Особенность данного варианта: чем больше цифр после запятой мы оставим, тем точнее получим результат.



Как правильно округлить число в Excel

С помощью функции ОКРУГЛ() (округляет до необходимого пользователю количества десятичных разрядов). Для вызова «Мастера функций» воспользуемся кнопкой fx. Нужная функция находится в категории «Математические».

Аргументы:

1. «Число» - ссылка на ячейку с нужным значением (А1).
2. «Число разрядов» - количество знаков после запятой, до которого будет округляться число (0 – чтобы округлить до целого числа, 1 – будет оставлен один знак после запятой, 2 – два и т.д.).

Теперь округлим целое число (не десятичную дробь). Воспользуемся функцией ОКРУГЛ:

• первый аргумент функции – ссылка на ячейку;
• второй аргумент – со знаком «-» (до десятков – «-1», до сотен – «-2», чтобы округлить число до тысяч – «-3» и т.д.).

Как округлить число в Excel до тысяч?

Пример округления числа до тысяч:

Формула: =ОКРУГЛ(A3;-3).

Округлить можно не только число, но и значение выражения.

Допустим, есть данные по цене и количеству товара. Необходимо найти стоимость с точностью до рубля (округлить до целого числа).

Первый аргумент функции – числовое выражение для нахождения стоимости.

Как округлить в большую и меньшую сторону в Excel

Для округления в большую сторону – функция «ОКРУГЛВВЕРХ».

Первый аргумент заполняем по уже знакомому принципу – ссылка на ячейку с данными.

Второй аргумент: «0» - округление десятичной дроби до целой части, «1» - функция округляет, оставляя один знак после запятой, и т.д.

Формула: =ОКРУГЛВВЕРХ(A1;0).

Результат:

Чтобы округлить в меньшую сторону в Excel, применяется функция «ОКРУГЛВНИЗ».

Пример формулы: =ОКРУГЛВНИЗ(A1;1).

Полученный результат:

Формулы «ОКРУГЛВВЕРХ» и «ОКРУГЛВНИЗ» используются для округления значений выражений (произведения, суммы, разности и т.п.).

Как округлить до целого числа в Excel?

Чтобы округлить до целого в большую сторону используем функцию «ОКРУГЛВВЕРХ». Чтобы округлить до целого в меньшую сторону используем функцию «ОКРУГЛВНИЗ». Функция «ОКРУГЛ» и формата ячеек так же позволяют округлить до целого числа, установив количество разрядов – «0» (см.выше).

В программе Excel для округления до целого числа применяется также функция «ОТБР». Она просто отбрасывает знаки после запятой. По сути, округления не происходит. Формула отсекает цифры до назначенного разряда.

Сравните:

Второй аргумент «0» - функция отсекает до целого числа; «1» - до десятой доли; «2» - до сотой доли и т.д.

Специальная функция Excel, которая вернет только целое число, – «ЦЕЛОЕ». Имеет единственный аргумент – «Число». Можно указать числовое значение либо ссылку на ячейку.

Недостаток использования функции «ЦЕЛОЕ» - округляет только в меньшую сторону.

Округлить до целого в Excel можно с помощью функций «ОКРВВЕРХ» и «ОКРВНИЗ». Округление происходит в большую или меньшую сторону до ближайшего целого числа.

Пример использования функций:

Второй аргумент – указание на разряд, до которого должно произойти округление (10 – до десятков, 100 – до сотен и т.д.).

Округление до ближайшего целого четного выполняет функция «ЧЕТН», до ближайшего нечетного – «НЕЧЕТ».

Пример их использования:

Почему Excel округляет большие числа?

Если в ячейки табличного процессора вводятся большие числа (например, 78568435923100756), Excel по умолчанию автоматически округляет их вот так: 7,85684E+16 – это особенность формата ячеек «Общий». Чтобы избежать такого отображения больших чисел нужно изменить формат ячейки с данным большим числом на «Числовой» (самый быстрый способ нажать комбинацию горячих клавиш CTRL+SHIFT+1). Тогда значение ячейки будет отображаться так: 78 568 435 923 100 756,00. При желании количество разрядов можно уменьшить: «Главная»-«Число»-«Уменьшить разрядность».

Чтобы рассмотреть особенность округления того или иного числа, необходимо проанализировать конкретные примеры и некоторую основную информацию.

Как округлять числа до сотых

• Для округления числа до сотых необходимо оставлять после запятой две цифры, остальные, конечно же, отбрасываются. Если первая цифра, которая отбрасывается, это 0, 1, 2, 3 или 4, то предыдущая цифра остается неизменной.
• Если же отбрасываемая цифра – это 5, 6, 7, 8 или 9, то нужно увеличить предыдущую цифру на единицу.
• К примеру, если нужно округлить число 75,748 , то после округления мы получаем 75,75 . Если мы имеем 19,912 , то в результате округления, а точнее, в отсутствии необходимости его использования, мы получаем 19,91 . В случае с 19,912 цифра, которая идет после сотых, не округляется, поэтому она просто отбрасывается.
• Если речь идет о числе 18,4893 , то округление до сотых происходит следующим образом: первая цифра, которую нужно отбросить, это 3, поэтому никаких изменений не происходит. Получается 18,48 .
• В случае с числом 0,2254 мы имеем первую цифру, которая отбрасывается при округлении до сотых. Это пятерка, которая указывает на то, что предыдущее число нужно увеличить на единицу. То есть, мы получаем 0,23 .
• Бывают и случаи, когда округления изменяет все цифры в числе. К примеру, чтобы округлить до сотых число 64,9972 , мы видим, что число 7 округляет предыдущие. Получаем 65,00 .

Как округлять числа до целых

При округлении чисел до целых ситуация такая же. Если мы имеем, к примеру, 25,5 , то после округления мы получаем 26 . В случае с достаточным количеством цифр после запятой округление происходит таким образом: после округления 4,371251 мы получаем 4 .

Округление до десятых происходит таким же образом, как и в случае с сотыми. К примеру, если нужно округлить число 45,21618 , то мы получаем 45,2 . Если вторая цифра после десятой – это 5 или больше, то предыдущая цифра увеличивается на единицу. В качестве примера можно округлить 13,6734 , и в итоге получится 13,7 .

Важно обращать внимание на цифру, которая расположена перед той, которая отсекается. К примеру, если мы имеет число 1,450 , то после округления получаем 1,4 . Однако в случае с 4,851 целесообразно округлять до 4,9 , так как после пятерки еще идет единица.

Округлять числа в жизни приходится чаще, чем кажется многим. Особенно это актуально для людей тех профессий, которые связаны с финансами. Этой процедуре люди, работающие в данной сфере, обучены хорошо. Но и в повседневной жизни процесс приведения значений к целому виду не редкость. Многие люди благополучно забыли, как округлять числа, сразу же после школьной скамьи. Напомним основные моменты этого действия.

Вконтакте

Круглое число

Перед тем как перейти к правилам округления значений, стоит разобраться, что представляет собой круглое число . Если речь идет о целых, то оно обязательно заканчивается нулем.

На вопрос, где в повседневной жизни пригодиться такое умение, можно смело ответить – при элементарных походах по магазинам.

С помощью правила приблизительного подсчета можно прикинуть, сколько будут стоить покупки и какую сумму необходимо взять с собой.

Именно с круглыми числами легче выполнять подсчеты, не используя при этом калькулятор.

К примеру, если в супермаркете или на рынке покупают овощи весом 2 кг 750 г, то в простом разговоре с собеседником зачастую не называют точный вес, а говорят, что приобрели 3 кг овощей. При определении расстояния между населенными пунктами также применяют слово «около». Это и значит приведение результата к удобному виду.

Следует отметить, что при некоторых подсчетах в математике и решении задач также не всегда используются точные значения. Особенно это актуально в тех случаях, когда в ответе получают бесконечную периодическую дробь . Приведем несколько примеров, когда используются приближенные значения:

• некоторые значения постоянных величин представляются в округленном виде (число «пи» и прочее);
• табличные значения синуса, косинуса, тангенса, котангенса, которые округлены до определенного разряда.

Обратите внимание! Как показывает практика, приближение значений к целому, конечно, дает погрешность, но сосем незначительную. Чем выше разряд, тем точнее будет результат.

Получение приближенных значений

Это математическое действие осуществляется по определенным правилам.

Но для каждого множества чисел они разные. Отмечают, что округлить можно целые числа и десятичные .

А вот с обыкновенными дробями действие не выполняется.

Сначала их необходимо перевести в десятичные дроби , а затем приступить к процедуре в необходимом контексте.

Правила приближения значений заключаются в следующем:

• для целых – замена разрядов, следующих за округляемым, нулями;
• для десятичных дробей – отбрасывания всех чисел, которые находятся за округляемым разрядом.

К примеру, округляя 303 434 до тысяч, необходимо заменить сотни, десятки и единицы нулями, то есть 303 000. В десятичных дробях 3,3333 округляя до десяты х, просто отбрасывают все последующие цифры и получают результат 3,3.

Точные правила округления чисел

При округлении десятичных дробей недостаточно просто отбросить цифры после округляемого разряда . Убедиться в этом можно на таком примере. Если в магазине куплено 2 кг 150 г конфет, то говорят, что приобретено около 2 кг сладостей. Если же вес составляет 2 кг 850 г, то производят округление в большую сторону, то есть около 3 кг. То есть видно, что иногда округляемый разряд изменен. Когда и как это проделывают, смогут ответить точные правила:

1. Если после округляемого разряда следует цифра 0, 1, 2, 3 или 4, то округляемый оставляют неизменным, а все последующие цифры отбрасываются.
2. Если после округляемого разряда следует цифра 5, 6, 7, 8 или 9, то округляемый увеличивают на единицу, а все последующие цифры также отбрасываются.

К примеру, как правильно дробь 7,41 приблизить к единицам . Определяют цифру, которая следует за разрядом. В данном случае это 4. Следовательно, согласно правилу, число 7 оставляют неизменным, а цифры 4 и 1 отбрасывают. То есть получаем 7.

Если округляется дробь 7,62, то после единиц следует цифра 6. Согласно правилу, 7 необходимо увеличить на 1, а цифры 6 и 2 отбросить. То есть в результате получится 8.

Представленные примеры показывают, как округлить десятичные дроби до единиц.

Приближение до целых

Отмечено, что округлять до единиц можно точно так же, как и до целых. Принцип один и тот же. Остановимся подробнее на округлении десятичных дробей до определенного разряда в целой части дроби. Представим пример приближения 756,247 до десятков. В разряде десятых располагается цифра 5. После округляемого разряда следует цифра 6. Следовательно, по правилам необходимо выполнить следующие шаги :

• округление в большую сторону десятков на единицу;
• в разряде единиц цифру 6 заменяют ;
• цифры в дробной части числа отбрасываются;
• в результате получают 760.

Обратим внимание на некоторые значения, в которых процесс математического округления до целых по правилам не отображает объективную картину. Если взять дробь 8,499, то, преобразовывая его по правилу, получаем 8.

Но по сути это не совсем так. Если поразрядно округлить до целых, то вначале получим 8,5, а затем отбрасываем 5 после запятой, и осуществляем округление в большую сторону.

Методы

В разных сферах могут применяться различные методы округления. Во всех этих методах «лишние» знаки обнуляют (отбрасывают), а предшествующий им знак корректируется по какому-либо правилу.

• Округление к ближайшему целому (англ. rounding ) - наиболее часто используемое округление, при котором число округляется до целого, модуль разности с которым у этого числа минимален. В общем случае, когда число в десятичной системе округляют до N-ого знака, правило может быть сформулировано следующим образом:
  • если N+1 знак < 5 , то N-ый знак сохраняют, а N+1 и все последующие обнуляют;
  • если N+1 знак ≥ 5 , то N-ый знак увеличивают на единицу, а N+1 и все последующие обнуляют;
  Например: 11,9 → 12; −0,9 → −1; −1,1 → −1; 2,5 → 3.
• Округление к меньшему по модулю (округление к нулю, целое англ. fix, truncate, integer ) - самое «простое» округление, поскольку после обнуления «лишних» знаков предшествующий знак сохраняют. Например, 11,9 → 11; −0,9 → 0; −1,1 → −1).
• Округление к большему (округление к +∞, округление вверх, англ. ceiling ) - если обнуляемые знаки не равны нулю, предшествующий знак увеличивают на единицу, если число положительное, или сохраняют, если число отрицательное. В экономическом жаргоне - округление в пользу продавца , кредитора (лица, получающего деньги). В частности, 2,6 → 3, −2,6 → −2.
• Округление к меньшему (округление к −∞, округление вниз, англ. floor ) - если обнуляемые знаки не равны нулю, предшествующий знак сохраняют, если число положительное, или увеличивают на единицу, если число отрицательное. В экономическом жаргоне - округление в пользу покупателя , дебитора (лица, отдающего деньги). Здесь 2,6 → 2, −2,6 → −3.
• Округление к большему по модулю (округление к бесконечности, округление от нуля) - относительно редко используемая форма округления. Если обнуляемые знаки не равны нулю, предшествующий знак увеличивают на единицу.

Варианты округления 0,5 к ближайшему целому

Отдельного описания требуют правила округления для специального случая, когда (N+1)-й знак = 5, а последующие знаки равны нулю . Если во всех остальных случаях округление до ближайшего целого обеспечивает меньшую погрешность округления, то данный частный случай характерен тем, что для однократного округления формально безразлично, производить его «вверх» или «вниз» - в обоих случаях вносится погрешность ровно в 1/2 младшего разряда. Существуют следующие варианты правила округления до ближайшего целого для данного случая:

• Математическое округление - округление всегда в бо́льшую по модулю сторону (предыдущий разряд всегда увеличивается на единицу).
• Банковское округление (англ. banker"s rounding ) - округление для этого случая происходит к ближайшему чётному , то есть 2,5 → 2, 3,5 → 4.
• Случайное округление - округление происходит в меньшую или большую сторону в случайном порядке, но с равной вероятностью (может использоваться в статистике).
• Чередующееся округление - округление происходит в меньшую или большую сторону поочерёдно.

Во всех вариантах в случае, когда (N+1)-й знак не равен 5 или последующие знаки не равны нулю, округление происходит по обычным правилам: 2,49 → 2; 2,51 → 3.

Математическое округление просто формально соответствует общему правилу округления (см. выше). Его недостатком является то, что при округлении большого числа значений может происходить накопление ошибки округления . Типичный пример: округление до целых рублей денежных сумм. Так, если в реестре из 10000 строк окажется 100 строк с суммами, содержащими в части копеек значение 50 (а это вполне реальная оценка), то при округлении всех таких строк «вверх» сумма «итого» по округлённому реестру окажется на 50 рублей больше точной.

Три остальных варианта как раз и придуманы для того, чтобы уменьшить общую погрешность суммы при округлении большого количества значений. Округление «до ближайшего чётного» исходит из предположения, что при большом числе округляемых значений, имеющих 0,5 в округляемом остатке, в среднем половина окажется слева, а половина - справа от ближайшего чётного, таким образом, ошибки округления взаимно погасятся. Строго говоря, предположение это верно лишь тогда, когда набор округляемых чисел обладает свойствами случайного ряда, что обычно верно в бухгалтерских приложениях, где речь идёт о ценах, суммах на счетах и так далее. Если же предположение будет нарушено, то и округление «до чётного» может приводить к систематическим ошибкам. Для таких случаев лучше работают два следующих метода.

Два последних варианта округления гарантируют, что примерно половина специальных значений будет округлена в одну сторону, половина - в другую. Но реализация таких методов на практике требует дополнительных усилий по организации вычислительного процесса.

Применения

Округление используется для того, чтобы работать с числами в пределах того количества знаков, которое соответствует реальной точности параметров вычислений (если эти значения представляют собой измеренные тем или иным образом реальные величины), реально достижимой точности вычислений либо желаемой точности результата. В прошлом округление промежуточных значений и результата имело прикладное значение (так как при расчётах на бумаге или с помощью примитивных устройств типа абака учёт лишних десятичных знаков может серьёзно увеличить объём работы). Сейчас оно остаётся элементом научной и инженерной культуры. В бухгалтерских приложениях, кроме того, использование округлений, в том числе промежуточных, может требоваться для защиты от вычислительных ошибок, связанных с конечной разрядностью вычислительных устройств.

Использование округлений при работе с числами ограниченной точности

Реальные физические величины всегда измеряются с некоторой конечной точностью, которая зависит от приборов и методов измерения и оценивается максимальным относительным или абсолютным отклонением неизвестного действительного значения от измеренного, что в десятичном представлении значения соответствует либо определённому числу значащих цифр, либо определённой позиции в записи числа, все цифры после (правее) которой являются незначащими (лежат в пределах ошибки измерения). Сами измеренные параметры записываются с таким числом знаков, чтобы все цифры были надёжными, возможно, последняя - сомнительной. Погрешность при математических операциях с числами ограниченной точности сохраняется и изменяется по известным математическим законам, поэтому когда в дальнейших вычислениях возникают промежуточные значения и результаты с больши́м числом цифр, из этих цифр только часть являются значимыми. Остальные цифры, присутствуя в значениях, фактически не отражают никакой физической реальности и лишь отнимают время на вычисления. Вследствие этого промежуточные значения и результаты при вычислениях с ограниченной точностью округляют до того количества знаков, которое отражает реальную точность полученных значений. На практике обычно рекомендуется при длинных «цепочных» ручных вычислениях сохранять в промежуточных значениях на одну цифру больше. При использовании компьютера промежуточные округления в научно-технических приложениях чаще всего теряют смысл, и округляется только результат.

Так, например, если задана сила 5815 гс с точностью до грамма силы и длина плеча 1,4 м с точностью до сантиметра, то момент силы в кгс по формуле , в случае формального расчёта со всеми знаками, окажется равным: 5,815 кгс 1,4 м = 8,141 кгс м . Однако если учесть погрешность измерения, то мы получим, что предельная относительная погрешность первого значения составляет 1/5815 ≈ 1,7 10 −4 , второго - 1/140 ≈ 7,1 10 −3 , относительная погрешность результата по правилу погрешности операции умножения (при умножении приближённых величин относительные погрешности складываются) составит 7,3 10 −3 , что соответствует максимальной абсолютной погрешности результата ±0,059 кгс м! То есть в реальности, с учётом погрешности, результат может составлять от 8,082 до 8,200 кгс м, таким образом, в рассчитанном значении 8,141 кгс м полностью надёжной является только первая цифра, даже вторая - уже сомнительна! Корректным будет округление результата вычислений до первой сомнительной цифры, то есть до десятых: 8,1 кгс м, или, при необходимости более точного указания рамок погрешности, представить его в виде, округлённом до одного-двух знаков после запятой с указанием погрешности: 8,14 ± 0,06 кгс м .

Эмпирические правила арифметики с округлениями

В тех случаях, когда нет необходимости в точном учёте вычислительных погрешностей, а требуется лишь приблизительно оценить количество точных цифр в результате расчёта по формуле, можно пользоваться набором простых правил округлённых вычислений :

1. Все исходные значения округляются до реальной точности измерений и записываются с соответствующим числом значащих цифр, так, чтобы в десятичной записи все цифры были надёжными (допускается, чтобы последняя цифра была сомнительной). При необходимости значения записываются со значащими правыми нулями, чтобы в записи указывалось реальное число надёжных знаков (например, если длина в 1 м реально измерена с точностью до сантиметров, записывается «1,00 м», чтобы было видно, что в записи надёжны два знака после запятой), или точность явно указывается (например, 2500±5 м - здесь надёжными являются только десятки, до них и следует округлять).
2. Промежуточные значения округляются с одной «запасной» цифрой.
3. При сложении и вычитании результат округляется до последнего десятичного знака наименее точного из параметров (например, при вычислении значения 1,00 м + 1,5 м + 0,075 м результат округляется до десятых метра, то есть до 2,6 м). При этом рекомендуется выполнять вычисления в таком порядке, чтобы избегать вычитания близких по величине чисел и производить действия над числами по возможности в порядке возрастания их модулей.
4. При умножении и делении результат округляется до наименьшего числа значащих цифр, которое имеют параметры (например, при вычислении скорости равномерного движения тела на дистанции 2,5 10 2 м, за 600 с результат должен быть округлён до 4,2 м/с, поскольку именно две цифры имеет расстояние, а время - три, предполагая, что все цифры в записи - значащие).
5. При вычислении значения функции f(x) требуется оценить значение модуля производной этой функции в окрестности точки вычисления. Если (|f"(x)| ≤ 1) , то результат функции точен до того же десятичного разряда, что и аргумент. В противном случае результат содержит меньше точных десятичных разрядов на величину log 10 (|f"(x)|) , округлённую до целого в большую сторону.

Несмотря на нестрогость, приведённые правила достаточно хорошо работают на практике, в частности, из-за достаточно высокой вероятности взаимопогашения ошибок, которая при точном учёте погрешностей обычно не учитывается.

Ошибки

Довольно часто встречаются злоупотребления некруглыми числами. Например:

• Записывают числа, имеющие невысокую точность, в неокруглённом виде. В статистике: если 4 человека из 17 ответили «да», то пишут «23,5 %» (в то время как верно «24 %»).
• Пользователи стрелочных приборов иногда размышляют так: «стрелка остановилась между 5,5 и 6 ближе к 6, пусть будет 5,8» - это также запрещено (градуировка прибора как правило соответствует его реальной точности). В таком случае надо говорить «5,5» или «6».

См. также

• Обработка наблюдений
• Ошибки округления

Примечания

Литература

• Генри С. Уоррен, мл. Глава 3. Округление к степени 2 // Алгоритмические трюки для программистов = Hacker"s Delight. - М .: «Вильямс», 2007. - С. 288. - ISBN 0-201-91465-4