Результаты поиска по запросу "floating-point-precision"
Точность функции C ++ sqrt для полных квадратов
Позволять,x является целым числом иy = x * x. Тогда гарантируется лиsqrt(y) == x? Например, могу ли я быть уверен, чтоsqrt(25) или жеsqrt(25.0) вернусь5.0не5.0000000003 или же4.999999998 ?
Как избежать ошибок с плавающей запятой?
Я пытался написать функцию для аппроксимации квадратных корней (я знаю, что есть математический модуль ... Я хочу сделать это сам), и меня облажала арифметика с плавающей запятой. Как вы можете избежать этого? def sqrt(num): root = 0.0 while ...
Точное двоичное представление двойного [дубликата]
Возможный дубликат: Перейдите в двоичный файл в C ++ [https://stackoverflow.com/questions/2746380/float-to-binary-in-c] У меня очень маленькая двойная переменная, и когда я ее печатаю, я получаю -0. (используя C ++). Теперь, чтобы получить ...
Что такое суффикс C ++ для длинных двойных литералов?
В C ++ (и C) литерал с плавающей точкой без суффикса по умолчанию равенdoubleв то время как суффиксf подразумеваетfloat, Но что такое суффикс, чтобы получитьlong double? Не зная, я бы определил, скажем, const long double x = ...
Существует ли parseDouble в JavaScript?
В JavaScript у меня есть число, состоящее из 21 цифры, и я хочу его проанализировать. Существует ли метод parseDouble в JavaScript?
Является ли это действительным сравнением с плавающей запятой, которое учитывает определенное количество десятичных знаков?
Я пишу метод расширения для сравнения двух чисел с использованием заданного количества десятичных знаков (значащих цифр), чтобы определить, равны ли они вместо допуска или разницы в процентах. Просматривая другие вопросы, касающиеся сравнения с ...
Установить конкретную точность BigDecimal
у меня естьXSD [https://en.wikipedia.org/wiki/XSD]это требует, чтобы я использовал BigDecimal для широты / долготы. В настоящее время у меня есть значения lat / lon как двойные, и я конвертирую их в BigDecimal, но мне нужно использовать только 12 ...
Похоже, что Pow () один из здесь
Что тут происходит: #include <stdio.h> #include <math.h> int main(void) { printf("17^12 = %lf\n", pow(17, 12)); printf("17^13 = %lf\n", pow(17, 13)); printf("17^14 = %lf\n", pow(17, 14)); }Я получаю этот вывод: 17^12 = 582622237229761.000000 ...
Как сделать так, чтобы цифры не отображались в научной форме?
Я хочу записать массив чисел с плавающей точкой в файлы <?php $x=[0.000455,0.000123,0.00005690330203]; $fname='test.txt'; $str=''; foreach($x as $elem){ $str .= "$elem\n"; } file_put_contents($fname,$str); ?>но в test.txt я вижу 0.000455 ...
Python: Найти индекс минимального элемента в списке чисел [дубликаты]
На этот вопрос уже есть ответ здесь: Получение индекса возвращенного элемента max или min с использованием max () / min () в списке [/questions/2474015/getting-the-index-of-the-returned-max-or-min-item-using-max-min-on-a-list] 21 ответКак я ...