Результаты поиска по запросу "rounding"
Округлить до второго знака после запятой в Python
Как я могу округлить число до второго знака после запятой в Python? Например: 0.022499999999999999Должен округляться до0.03 0.1111111111111000Должен округляться до0.12 Если в третьем десятичном знаке есть какое-либо значение, я хочу, чтобы ...
Java округление до ближайшего 0,05
Я пытаюсь найти способ округлить значения до ближайшего 0,05. Например: 0,93 раунда до 0,950,81 раундов до 0,800,65 остается 0,65От 0,68 до 0,70От 0,67 до 0,65Есть ли простой способ сделать это в Java?
parseInt округляет неправильно
Я наткнулся на эту проблему сparseInt и я не уверен, почему это происходит. console.log(parseInt("16980884512690999")); // gives 16980884512691000 console.log(parseInt("169808845126909101")); // gives 169808845126909100Я явно не нарушаю никаких ...
Округление числа до ближайшего кратного 5
Кто-нибудь знает, как округлить число до ближайшего кратного 5? Я нашел алгоритм округления до ближайшего кратного 10, но я не могу найти этот. Это делает это в течение десяти. double number = Math.round((len + 5)/ 10.0) * 10.0;
Округление двойных значений в C #
Я хочу метод округления на двойные значения в C #. Он должен иметь возможность округлять двойное значение до любого значения точности округления. Мой код на руках выглядит так: public static double RoundI(double number, double roundingInterval) ...
Проблема округления с SQL Server и типом данных REAL
Я вижу странное поведение при округлении в SQL Server 2008. Учитывая следующий код: DECLARE @Value REAL SELECT @Value = .35 SELECT ROUND(@Value, 1)Я ожидал бы, что значение будет .4, однако оно выдает .3. Я должен предположить, что это ...
Всегда ли приведение типа double к float возвращает одно и то же значение?
Ли кастингdouble вfloat всегда дают один и тот же результат, или могут быть некоторые "различия округления"? Например, этоx в float x = (float)0.123456789d;всегда одинаковое значение? Как насчет того, чтобы бросить поплавок в удвоение, а затем ...
круглый BigDecimal до ближайших 5 центов
Я пытаюсь выяснить, как округлить денежную сумму до ближайших 5 центов. Ниже показаны мои ожидаемые результаты 1.03 => 1.05 1.051 => 1.10 1.05 => 1.05 1.900001 => 1.10Мне нужно, чтобы результат имел точность 2 (как показано ...
Почему Math.round (0.49999999999999994) возвращает 1?
В следующей программе вы можете увидеть, что каждое значение немного меньше, чем.5 округляется вниз, кроме0.5. for (int i = 10; i >= 0; i--) { long l = Double.doubleToLongBits(i + 0.5); double x; do { x = Double.longBitsToDouble(l); ...
Округление десятичных чисел в SQL Server 2008
Я прочитал все функции округления T-SQL, какRound, Floor, а такжеCeil, но ни один из них не округлил десятичные числа правильно для меня. У меня есть 2 вопроса: Как округлить десятичное число (3.69 ==>3.5)?Как округлить последние 3 цифры целого ...