Результаты поиска по запросу "floating-point-precision"
Установить конкретную точность BigDecimal
у меня естьXSD [https://en.wikipedia.org/wiki/XSD]это требует, чтобы я использовал BigDecimal для широты / долготы. В настоящее время у меня есть значения lat / lon как двойные, и я конвертирую их в BigDecimal, но мне нужно использовать только 12 ...
Является ли это действительным сравнением с плавающей запятой, которое учитывает определенное количество десятичных знаков?
Я пишу метод расширения для сравнения двух чисел с использованием заданного количества десятичных знаков (значащих цифр), чтобы определить, равны ли они вместо допуска или разницы в процентах. Просматривая другие вопросы, касающиеся сравнения с ...
Точное двоичное представление двойного [дубликата]
Возможный дубликат: Перейдите в двоичный файл в C ++ [https://stackoverflow.com/questions/2746380/float-to-binary-in-c] У меня очень маленькая двойная переменная, и когда я ее печатаю, я получаю -0. (используя C ++). Теперь, чтобы получить ...
следующий выше / ниже IEEE номер двойной точности
Я делаю высокоточные научные вычисления. В поисках наилучшего представления различных эффектов я продолжаю придумывать причины, чтобы захотеть получить следу...