Результаты поиска по запросу "floating-point-precision"
C ++ Как избежать арифметической ошибки с плавающей точкой
Я пишу цикл, который увеличивается с плавающей запятой, но я столкнулся с арифметической проблемой с плавающей запятой, показанной в следующем примере:
Как сделать так, чтобы цифры не отображались в научной форме?
Я хочу записать массив чисел с плавающей точкой в файлы <?php $x=[0.000455,0.000123,0.00005690330203]; $fname='test.txt'; $str=''; foreach($x as $elem){ $str .= "$elem\n"; } file_put_contents($fname,$str); ?>но в test.txt я вижу 0.000455 ...
Ошибка с использованием (int) и (double) вместе, чтобы обрезать десятичные дроби
Когда я использую (int) с (double) несколько раз, это не работает правильно. Посмотрите на пример кода PHP: Мне нужно оставить 2 десятичных знака и удалить другие ... Я знаю number_format (); функция, но я не могу ее использовать. Потому что ...
двойное и плавающее сравнение [дубликаты]
На этот вопрос уже есть ответ здесь: Сравнивая поплавок и двойник [/questions/9014303/comparing-float-and-double] 3 ответаСогласно сэта ...
Точность функции C ++ sqrt для полных квадратов
Позволять,x является целым числом иy = x * x. Тогда гарантируется лиsqrt(y) == x? Например, могу ли я быть уверен, чтоsqrt(25) или жеsqrt(25.0) вернусь5.0не5.0000000003 или же4.999999998 ?
Почему использование модуля по нецелым значениям теряет точность с плавающей точкой? [Дубликат]
На этот вопрос уже есть ответ здесь: Почему я вижу двойную переменную, инициализированную некоторым значением, таким как 21.4, как ...
следующий выше / ниже IEEE номер двойной точности
Я делаю высокоточные научные вычисления. В поисках наилучшего представления различных эффектов я продолжаю придумывать причины, чтобы захотеть получить следу...