Примеры в контексте "Roundoff - Округление"

Перевод

Примеры

Примеры: Roundoff — Округление

• Numerical diffusion is a mathematical term which ensures that roundoff and other errors in the calculation get spread out and do not add up to cause the calculation to "blow up".

  Численная диффузия - это математический термин, который гарантирует, что округление и другие ошибки в вычислениях распространяются и не суммируются, чтобы привести к «взрыву» вычислений.

• EPS() returns the machine epsilon; this is the difference between 1 and the next largest floating-point number. Because computers use a finite number of digits, roundoff error is inherent (but usually insignificant) in all calculations.

  Функция EPS () возвращает значение эпсилон - разницу между 1 и максимально большим числом с плавающей точкой. Поскольку компьютеры используют ограниченное количество знаков для представления чисел, округление является неотъемлемой (однако несущественной) частью вычислений.

Другие варианты перевода слова roundoff

• Округлять