Результаты поиска по запросу "floating-point-precision"

4 ответа

sizeof long double и точность не совпадают?

Рассмотрим следующий код C:

3 ответа

Является ли точность наиболее значимой десятичной цифры, которую можно преобразовать в двоичную и обратно в десятичную без потери значимости 6 или 7,225?

7 ответов

Спецификатор ширины Printf для поддержания точности значения с плавающей точкой

ТОП публикаций

6 ответов

C ++ Как избежать арифметической ошибки с плавающей точкой

Я пишу цикл, который увеличивается с плавающей запятой, но я столкнулся с арифметической проблемой с плавающей запятой, показанной в следующем примере:

1 ответ

Существует ли parseDouble в JavaScript?

В JavaScript у меня есть число, состоящее из 21 цифры, и я хочу его проанализировать. Существует ли метод parseDouble в JavaScript?

3 ответа

Точность функции C ++ sqrt для полных квадратов

Позволять,x является целым числом иy = x * x. Тогда гарантируется лиsqrt(y) == x? Например, могу ли я быть уверен, чтоsqrt(25) или жеsqrt(25.0) вернусь5.0не5.0000000003 или же4.999999998 ?

1 ответ

Как избежать ошибок с плавающей запятой?

Я пытался написать функцию для аппроксимации квадратных корней (я знаю, что есть математический модуль ... Я хочу сделать это сам), и меня облажала арифметика с плавающей запятой. Как вы можете избежать этого? def sqrt(num): root = 0.0 while ...

3 ответа

Преврати плавание в строку

Я перешел к утверждению, когда мне нужно превратить числа одинарной и двойной точности IEEE-754 в строки с основанием10, ЕстьFXTRACT инструкция доступна, но она предоставляет только экспоненту и мантиссу для базы 2, так как формула вычисления ...

1 ответ

эпсилон для различных значений с плавающей точкой

Есть

4 ответа

двойное и плавающее сравнение [дубликаты]

На этот вопрос уже есть ответ здесь: Сравнивая поплавок и двойник [/questions/9014303/comparing-float-and-double] 3 ответаСогласно сэта ...