Математическая энциклопедия - округление

числа приближенное представление числа в нек-рой системе счисления с помощью конечного количества цифр. Необходимость О. диктуется потребностями вычислений, в к-рых, как правило, окончательный результат не может быть получен абсолютно точно и следует избегать бесполезного выписывания лишних цифр, ограничивая все числа лишь нужным количеством знаков.

При О. числа оно заменяется другим числом (t-разрядным, т. е. имеющим t цифр), представляющим его приближенно. Возникающую при этом погрешность наз. погрешностью округления, или ошибкой округления.

Применяются различные способы О. числа. Простейший из них состоит в отбрасывании младших разрядов числа, выходящих за tразрядов. Абсолютная погрешность О. при атом не превосходит единицы t-го разряда числа. Способ О., обычно применяемый в ручных вычислениях, состоит в О. числа до ближайшего t-разрядного числа. Абсолютная ошибка О. при этом не превосходит половины t-го разряда округляемого числа. Этот способ дает минимально возможную ошибку среди всех способов О., использующих t разрядов.

Способы О., реализуемые на вычислительной машине, определяются ее назначением, технич. возможностями и, как правило, уступают по точности О. до ближайшего t-разрядного числа. В ЭВМ наиболее приняты два режима арифметич. вычислений: т. н. режим с плавающей запятой и режим с фиксированной запятой. В режиме с плавающей запятой результат О. числа имеет определенное количество значащих цифр; в режиме с фиксированной запятой определенное количество цифр после запятой. В первом случае принято говорить об О. до tразрядов, во втором об О. до tразрядов после запятой. При этом в первом случае контролируется относительная погрешность О., во втором абсолютная погрешность.

В связи с использованием вычислительных машин развились исследования накопления ошибок О. в больших вычислениях. Анализ накопления ошибок в численных методах позволяет характеризовать методы по чувствительности их к ошибкам О., строить стратегии реализации их в вычислительной практике, учитывающие ошибки О., и оценить точность окончательного результата.

Лит.:[1] Крылов А. Н., Лекции о приближенных вычислениях, 5 изд., М.Л., 1950; [2] Б е р е з и н И. С., Ж и д к о в Н. П., Методы вычислений, 3 изд., т. 1, М., 19S6; [3] Б а х в а л о в Н. С., Численные методы, 2 изд., М., 1975; [4] Воеводин В. В., Вычислительные основы линейной алгебры, М., 1977. Г. Д. Ким.

Математическая энциклопедия. — М.: Советская энциклопедия

И. М. Виноградов

1977—1985