Результаты поиска по запросу "floating-point-precision"
Почему использование модуля по нецелым значениям теряет точность с плавающей точкой? [Дубликат]
На этот вопрос уже есть ответ здесь: Почему я вижу двойную переменную, инициализированную некоторым значением, таким как 21.4, как ...
C ++ Как избежать арифметической ошибки с плавающей точкой
Я пишу цикл, который увеличивается с плавающей запятой, но я столкнулся с арифметической проблемой с плавающей запятой, показанной в следующем примере: for(float value = -2.0; value <= 2.0; value += 0.2) std::cout << value << std::endl;Вот ...
Ошибка с использованием (int) и (double) вместе, чтобы обрезать десятичные дроби
Когда я использую (int) с (double) несколько раз, это не работает правильно. Посмотрите на пример кода PHP: Мне нужно оставить 2 десятичных знака и удалить другие ... Я знаю number_format (); функция, но я не могу ее использовать. Потому что ...
Получить следующий наименьший двухместный номер
В рамках модульного теста мне нужно проверить некоторые граничные условия. Один метод принимаетSystem.Double аргумент. Есть ли способ получитьследующего Наименьшее двойное значение? (то есть уменьшить значение мантиссы на 1 единицу)? Я подумал ...
Есть ли риск использования переменных с плавающей запятой в качестве счетчиков цикла и их дробного увеличения / уменьшения для условий, отличных от «==»?
Безопасно ли использовать поплавки в качестве счетчиков циклов и увеличивать / уменьшать их дробными величинами на каждой итерации, как в безвредной на вид программе ниже? Конечно, я знаю, что использование поплавков в качестве операндов ...
Спецификатор ширины Printf для поддержания точности значения с плавающей точкой
Есть лиprintf спецификатор ширины, который может быть применен к спецификатору с плавающей запятой, который автоматически форматирует выходные данные до необходимого числазначащие цифры так что при сканировании строки обратно, получается ...
двойное и плавающее сравнение [дубликаты]
На этот вопрос уже есть ответ здесь: Сравнивая поплавок и двойник [/questions/9014303/comparing-float-and-double] 3 ответаСогласно сэта ...
sizeof long double и точность не совпадают?
Рассмотрим следующий код C: #include <stdio.h> int main(int argc, char* argv[]) { const long double ld = 0.12345678901234567890123456789012345L; printf("%lu %.36Lf\n", sizeof(ld), ld); return 0; }Составлено сgcc 4.8.1 подUbuntu x64 13.04, он ...
Преврати плавание в строку
Я перешел к утверждению, когда мне нужно превратить числа одинарной и двойной точности IEEE-754 в строки с основанием10, ЕстьFXTRACT инструкция доступна, но она предоставляет только экспоненту и мантиссу для базы 2, так как формула вычисления ...
Как избежать ошибок с плавающей запятой?
Я пытался написать функцию для аппроксимации квадратных корней (я знаю, что есть математический модуль ... Я хочу сделать это сам), и меня облажала арифметика с плавающей запятой. Как вы можете избежать этого? def sqrt(num): root = 0.0 while ...