Результаты поиска по запросу "floating-point-precision"

1 ответ

Существует ли parseDouble в JavaScript?

В JavaScript у меня есть число, состоящее из 21 цифры, и я хочу его проанализировать. Существует ли метод parseDouble в JavaScript?

1 ответ

Существует ли parseDouble в JavaScript?

3 ответа

Точность функции C ++ sqrt для полных квадратов

Позволять,x является целым числом иy = x * x. Тогда гарантируется лиsqrt(y) == x? Например, могу ли я быть уверен, чтоsqrt(25) или жеsqrt(25.0) вернусь5.0не5.0000000003 или же4.999999998 ?

ТОП публикаций

3 ответа

Точность функции C ++ sqrt для полных квадратов

Позволять,

1 ответ

Как избежать ошибок с плавающей запятой?

Я пытался написать функцию для аппроксимации квадратных корней (я знаю, что есть математический модуль ... Я хочу сделать это сам), и меня облажала арифметика с плавающей запятой. Как вы можете избежать этого? def sqrt(num): root = 0.0 while ...

1 ответ

Как избежать ошибок с плавающей запятой?

Я пытался написать функцию для аппроксимации квадратных корней (я знаю, чтос математическим модулем ... я хочу сделать это сам), и меня облажала арифметика с...

3 ответа

Преврати плавание в строку

Я перешел к утверждению, когда мне нужно превратить числа одинарной и двойной точности IEEE-754 в строки с основанием10, ЕстьFXTRACT инструкция доступна, но она предоставляет только экспоненту и мантиссу для базы 2, так как формула вычисления ...

4 ответа

sizeof long double и точность не совпадают?

Рассмотрим следующий код C: #include <stdio.h> int main(int argc, char* argv[]) { const long double ld = 0.12345678901234567890123456789012345L; printf("%lu %.36Lf\n", sizeof(ld), ld); return 0; }Составлено сgcc 4.8.1 подUbuntu x64 13.04, он ...

4 ответа

sizeof long double и точность не совпадают?

Рассмотрим следующий код C:

4 ответа

двойное и плавающее сравнение [дубликаты]

На этот вопрос уже есть ответ здесь: Сравнивая поплавок и двойник [/questions/9014303/comparing-float-and-double] 3 ответаСогласно сэта ...