Вам это поможет?

Как установить точность с плавающей запятой в Perl?

Есть ли способ установить точность с плавающей запятой в скрипте Perl (до 3 цифр), не изменяя ее специально для каждой переменной? Нечто похожее на TCL: global tcl_precision set tcl_precision 3

Я снова говорю вам свой вопрос. ниже здесь. спасибо, что ты пытаешься помочь мне

 работать правильно. В последние годы авторы компиляторов допускают неопределенное поведение, чтобы получить последний бит оптимизации в своем коде. То, что сработало вчера, может не сработать завтра.

Всегда ли Math.Round (double, decimal) возвращает согласованные результаты

Конечно, никогда не следует сравнивать значения с плавающей запятой, которые являются результатом вычисления на равенство, но всегда используйте небольшой допуск, например: double value1 = ... double value2 = ... if (Math.Abs(value1 - value2) ...

Поплавок дополнения повышен в два раза?

У меня был небольшой момент WTF этим утром. Это WTF можно суммировать с этим: float x = 0.2f; float y = 0.1f; float z = x + y; assert(z == x + y); //This assert is triggered! (Atleast with visual studio 2008)Причина в том, что выражениеx + y ...

@Martin: как указано выше. Виноват :(

мер, эти переменные:

потому что число находится в диапазоне от 2 ^ 6 до 2 ^ 7, поэтому интервал составляет 2 ^ -46 (= 1,42 e-14), поэтому число действует до 14-го знака после запятой

вопрос возник из чего-то странного, что я заметил после расследованияэтот вопрос в дальнейшем...Я всегда понимал переменные MATLAB какдвойная точность по умо...

 8, но не совсем.

Как вы округляете число с плавающей запятой в Perl?

Как можно округлить десятичное число (с плавающей запятой) до ближайшего целого числа? например 1.2 = 1 1.7 = 2