Результаты поиска по запросу "floating-point-precision"
Установить конкретную точность BigDecimal
у меня естьXSD [https://en.wikipedia.org/wiki/XSD]это требует, чтобы я использовал BigDecimal для широты / долготы. В настоящее время у меня есть значения lat / lon как двойные, и я конвертирую их в BigDecimal, но мне нужно использовать только 12 ...
Python: Найти индекс минимального элемента в списке чисел [дубликаты]
На этот вопрос уже есть ответ здесь: Получение индекса возвращенного элемента max или min с использованием max () / min () в списке [/questions/2474015/getting-the-index-of-the-returned-max-or-min-item-using-max-min-on-a-list] 21 ответКак я ...
Есть ли риск использования переменных с плавающей запятой в качестве счетчиков цикла и их дробного увеличения / уменьшения для условий, отличных от «==»?
Безопасно ли использовать поплавки в качестве счетчиков циклов и увеличивать / уменьшать их дробными величинами на каждой итерации, как в безвредной на вид программе ниже? Конечно, я знаю, что использование поплавков в качестве операндов ...
двойное и плавающее сравнение [дубликаты]
На этот вопрос уже есть ответ здесь: Сравнивая поплавок и двойник [/questions/9014303/comparing-float-and-double] 3 ответаСогласно сэта ...
sizeof long double и точность не совпадают?
Рассмотрим следующий код C: #include <stdio.h> int main(int argc, char* argv[]) { const long double ld = 0.12345678901234567890123456789012345L; printf("%lu %.36Lf\n", sizeof(ld), ld); return 0; }Составлено сgcc 4.8.1 подUbuntu x64 13.04, он ...
Похоже, что Pow () один из здесь
Что тут происходит: #include <stdio.h> #include <math.h> int main(void) { printf("17^12 = %lf\n", pow(17, 12)); printf("17^13 = %lf\n", pow(17, 13)); printf("17^14 = %lf\n", pow(17, 14)); }Я получаю этот вывод: 17^12 = 582622237229761.000000 ...
Ошибка с использованием (int) и (double) вместе, чтобы обрезать десятичные дроби
Когда я использую (int) с (double) несколько раз, это не работает правильно. Посмотрите на пример кода PHP: Мне нужно оставить 2 десятичных знака и удалить другие ... Я знаю number_format (); функция, но я не могу ее использовать. Потому что ...
следующий выше / ниже IEEE номер двойной точности
Я делаю высокоточные научные вычисления. В поисках наилучшего представления различных эффектов я продолжаю придумывать причины, чтобы захотеть получить следу...
следующий выше / ниже IEEE номер двойной точности
Я делаю высокоточные научные вычисления. В поисках наилучшего представления различных эффектов я продолжаю придумывать причины, чтобы захотеть получить следу...
C ++ Как избежать арифметической ошибки с плавающей точкой
Я пишу цикл, который увеличивается с плавающей запятой, но я столкнулся с арифметической проблемой с плавающей запятой, показанной в следующем примере: