Результаты поиска по запросу "floating-point-precision"
Почему использование модуля по нецелым значениям теряет точность с плавающей точкой? [Дубликат]
На этот вопрос уже есть ответ здесь: Почему я вижу двойную переменную, инициализированную некоторым значением, таким как 21.4, как ...
C ++ Как избежать арифметической ошибки с плавающей точкой
Я пишу цикл, который увеличивается с плавающей запятой, но я столкнулся с арифметической проблемой с плавающей запятой, показанной в следующем примере: for(float value = -2.0; value <= 2.0; value += 0.2) std::cout << value << std::endl;Вот ...
Ошибка с использованием (int) и (double) вместе, чтобы обрезать десятичные дроби
Когда я использую (int) с (double) несколько раз, это не работает правильно. Посмотрите на пример кода PHP: Мне нужно оставить 2 десятичных знака и удалить другие ... Я знаю number_format (); функция, но я не могу ее использовать. Потому что ...
Получить следующий наименьший двухместный номер
В рамках модульного теста мне нужно проверить некоторые граничные условия. Один метод принимаетSystem.Double аргумент. Есть ли способ получитьследующего Наименьшее двойное значение? (то есть уменьшить значение мантиссы на 1 единицу)? Я подумал ...