Результаты поиска по запросу "floating-point-precision"

6 ответов

C ++ Как избежать арифметической ошибки с плавающей точкой

Я пишу цикл, который увеличивается с плавающей запятой, но я столкнулся с арифметической проблемой с плавающей запятой, показанной в следующем примере:

2 ответа

Как сделать так, чтобы цифры не отображались в научной форме?

Я хочу записать массив чисел с плавающей точкой в файлы <?php $x=[0.000455,0.000123,0.00005690330203]; $fname='test.txt'; $str=''; foreach($x as $elem){ $str .= "$elem\n"; } file_put_contents($fname,$str); ?>но в test.txt я вижу 0.000455 ...

5 ответов

Ошибка с использованием (int) и (double) вместе, чтобы обрезать десятичные дроби

Когда я использую (int) с (double) несколько раз, это не работает правильно. Посмотрите на пример кода PHP: Мне нужно оставить 2 десятичных знака и удалить другие ... Я знаю number_format (); функция, но я не могу ее использовать. Потому что ...

ТОП публикаций

4 ответа

двойное и плавающее сравнение [дубликаты]

На этот вопрос уже есть ответ здесь: Сравнивая поплавок и двойник [/questions/9014303/comparing-float-and-double] 3 ответаСогласно сэта ...

2 ответа

Как сделать так, чтобы цифры не отображались в научной форме?

3 ответа

Точность функции C ++ sqrt для полных квадратов

Позволять,x является целым числом иy = x * x. Тогда гарантируется лиsqrt(y) == x? Например, могу ли я быть уверен, чтоsqrt(25) или жеsqrt(25.0) вернусь5.0не5.0000000003 или же4.999999998 ?

1 ответ

Почему использование модуля по нецелым значениям теряет точность с плавающей точкой? [Дубликат]

На этот вопрос уже есть ответ здесь: Почему я вижу двойную переменную, инициализированную некоторым значением, таким как 21.4, как ...

4 ответа

Есть ли риск использования переменных с плавающей запятой в качестве счетчиков цикла и их дробного увеличения / уменьшения для условий, отличных от «==»?

4 ответа

Python: Найти индекс минимального элемента в списке чисел [дубликаты]

6 ответов

следующий выше / ниже IEEE номер двойной точности

Я делаю высокоточные научные вычисления. В поисках наилучшего представления различных эффектов я продолжаю придумывать причины, чтобы захотеть получить следу...