Результаты поиска по запросу "floating-point-precision"

1 ответ

Существует ли parseDouble в JavaScript?

1 ответ

Как избежать ошибок с плавающей запятой?

Я пытался написать функцию для аппроксимации квадратных корней (я знаю, что есть математический модуль ... Я хочу сделать это сам), и меня облажала арифметика с плавающей запятой. Как вы можете избежать этого? def sqrt(num): root = 0.0 while ...

6 ответов

следующий выше / ниже IEEE номер двойной точности

Я делаю высокоточные научные вычисления. В поисках наилучшего представления различных эффектов я продолжаю придумывать причины, чтобы захотеть получить следу...

ТОП публикаций

3 ответа

Точность функции C ++ sqrt для полных квадратов

Позволять,x является целым числом иy = x * x. Тогда гарантируется лиsqrt(y) == x? Например, могу ли я быть уверен, чтоsqrt(25) или жеsqrt(25.0) вернусь5.0не5.0000000003 или же4.999999998 ?

1 ответ

эпсилон для различных значений с плавающей точкой

Есть

3 ответа

Что такое суффикс C ++ для длинных двойных литералов?

В C ++ (и C) литерал с плавающей точкой без суффикса по умолчанию равенdoubleв то время как суффиксf подразумеваетfloat, Но что такое суффикс, чтобы получитьlong double? Не зная, я бы определил, скажем, const long double x = ...

6 ответов

C ++ Как избежать арифметической ошибки с плавающей точкой

Я пишу цикл, который увеличивается с плавающей запятой, но я столкнулся с арифметической проблемой с плавающей запятой, показанной в следующем примере: for(float value = -2.0; value <= 2.0; value += 0.2) std::cout << value << std::endl;Вот ...

2 ответа

Является ли это действительным сравнением с плавающей запятой, которое учитывает определенное количество десятичных знаков?

Я пишу метод расширения для сравнения двух чисел с использованием заданного количества десятичных знаков (значащих цифр), чтобы определить, равны ли они вместо допуска или разницы в процентах. Просматривая другие вопросы, касающиеся сравнения с ...

1 ответ

Как избежать ошибок с плавающей запятой?

Я пытался написать функцию для аппроксимации квадратных корней (я знаю, чтос математическим модулем ... я хочу сделать это сам), и меня облажала арифметика с...

1 ответ

Точность repr (f), str (f), print (f), когда f является плавающим

Если я бегу: