Результаты поиска по запросу "floating-point-precision"

3 ответа

Как распространяется ошибка с плавающей точкой при выполнении математических операций в C ++?

Допустим, мы объявили следующие переменные

1 ответ

Точность repr (f), str (f), print (f), когда f является плавающим

Если я бегу:

2 ответа

Преобразование Int в Float теряет точность для больших чисел в Swift

XCode 6.3.1 Swift 1.2

ТОП публикаций

10 ответов

Является ли точность с плавающей точкой изменчивой или инвариантной?

Я продолжаю получать смешанные ответы о том, являются ли числа с плавающей запятой (т.е.

3 ответа

Является ли точность наиболее значимой десятичной цифры, которую можно преобразовать в двоичную и обратно в десятичную без потери значимости 6 или 7,225?

3 ответа

Точное двоичное представление двойного [дубликата]

Возможный дубликат: Перейдите в двоичный файл в C ++ [https://stackoverflow.com/questions/2746380/float-to-binary-in-c] У меня очень маленькая двойная переменная, и когда я ее печатаю, я получаю -0. (используя C ++). Теперь, чтобы получить ...

2 ответа

Является ли это действительным сравнением с плавающей запятой, которое учитывает определенное количество десятичных знаков?

Я пишу метод расширения для сравнения двух чисел с использованием заданного количества десятичных знаков (значащих цифр), чтобы определить, равны ли они вместо допуска или разницы в процентах. Просматривая другие вопросы, касающиеся сравнения с ...

4 ответа

Установить конкретную точность BigDecimal

у меня естьXSD [https://en.wikipedia.org/wiki/XSD]это требует, чтобы я использовал BigDecimal для широты / долготы. В настоящее время у меня есть значения lat / lon как двойные, и я конвертирую их в BigDecimal, но мне нужно использовать только 12 ...

2 ответа

Как сделать так, чтобы цифры не отображались в научной форме?

Я хочу записать массив чисел с плавающей точкой в файлы <?php $x=[0.000455,0.000123,0.00005690330203]; $fname='test.txt'; $str=''; foreach($x as $elem){ $str .= "$elem\n"; } file_put_contents($fname,$str); ?>но в test.txt я вижу 0.000455 ...

4 ответа

Python: Найти индекс минимального элемента в списке чисел [дубликаты]

На этот вопрос уже есть ответ здесь: Получение индекса возвращенного элемента max или min с использованием max () / min () в списке [/questions/2474015/getting-the-index-of-the-returned-max-or-min-item-using-max-min-on-a-list] 21 ответКак я ...