Результаты поиска по запросу "floating-point-precision"

1 ответ

Почему использование модуля по нецелым значениям теряет точность с плавающей точкой? [Дубликат]

На этот вопрос уже есть ответ здесь: Почему я вижу двойную переменную, инициализированную некоторым значением, таким как 21.4, как ...

6 ответов

C ++ Как избежать арифметической ошибки с плавающей точкой

Я пишу цикл, который увеличивается с плавающей запятой, но я столкнулся с арифметической проблемой с плавающей запятой, показанной в следующем примере: for(float value = -2.0; value <= 2.0; value += 0.2) std::cout << value << std::endl;Вот ...

5 ответов

Ошибка с использованием (int) и (double) вместе, чтобы обрезать десятичные дроби

Когда я использую (int) с (double) несколько раз, это не работает правильно. Посмотрите на пример кода PHP: Мне нужно оставить 2 десятичных знака и удалить другие ... Я знаю number_format (); функция, но я не могу ее использовать. Потому что ...

ТОП публикаций

2 ответа

Получить следующий наименьший двухместный номер

В рамках модульного теста мне нужно проверить некоторые граничные условия. Один метод принимаетSystem.Double аргумент. Есть ли способ получитьследующего Наименьшее двойное значение? (то есть уменьшить значение мантиссы на 1 единицу)? Я подумал ...