Результаты поиска по запросу "floating-point-precision"
Как распространяется ошибка с плавающей точкой при выполнении математических операций в C ++?
Допустим, мы объявили следующие переменные
Преобразование Int в Float теряет точность для больших чисел в Swift
XCode 6.3.1 Swift 1.2
Является ли точность с плавающей точкой изменчивой или инвариантной?
Я продолжаю получать смешанные ответы о том, являются ли числа с плавающей запятой (т.е.
Точное двоичное представление двойного [дубликата]
Возможный дубликат: Перейдите в двоичный файл в C ++ [https://stackoverflow.com/questions/2746380/float-to-binary-in-c] У меня очень маленькая двойная переменная, и когда я ее печатаю, я получаю -0. (используя C ++). Теперь, чтобы получить ...
Является ли это действительным сравнением с плавающей запятой, которое учитывает определенное количество десятичных знаков?
Я пишу метод расширения для сравнения двух чисел с использованием заданного количества десятичных знаков (значащих цифр), чтобы определить, равны ли они вместо допуска или разницы в процентах. Просматривая другие вопросы, касающиеся сравнения с ...
Установить конкретную точность BigDecimal
у меня естьXSD [https://en.wikipedia.org/wiki/XSD]это требует, чтобы я использовал BigDecimal для широты / долготы. В настоящее время у меня есть значения lat / lon как двойные, и я конвертирую их в BigDecimal, но мне нужно использовать только 12 ...
Как сделать так, чтобы цифры не отображались в научной форме?
Я хочу записать массив чисел с плавающей точкой в файлы <?php $x=[0.000455,0.000123,0.00005690330203]; $fname='test.txt'; $str=''; foreach($x as $elem){ $str .= "$elem\n"; } file_put_contents($fname,$str); ?>но в test.txt я вижу 0.000455 ...
Python: Найти индекс минимального элемента в списке чисел [дубликаты]
На этот вопрос уже есть ответ здесь: Получение индекса возвращенного элемента max или min с использованием max () / min () в списке [/questions/2474015/getting-the-index-of-the-returned-max-or-min-item-using-max-min-on-a-list] 21 ответКак я ...