Результаты поиска по запросу "floating-point-precision"
Существует ли parseDouble в JavaScript?
В JavaScript у меня есть число, состоящее из 21 цифры, и я хочу его проанализировать. Существует ли метод parseDouble в JavaScript?
Точность функции C ++ sqrt для полных квадратов
Позволять,x является целым числом иy = x * x. Тогда гарантируется лиsqrt(y) == x? Например, могу ли я быть уверен, чтоsqrt(25) или жеsqrt(25.0) вернусь5.0не5.0000000003 или же4.999999998 ?
Как избежать ошибок с плавающей запятой?
Я пытался написать функцию для аппроксимации квадратных корней (я знаю, что есть математический модуль ... Я хочу сделать это сам), и меня облажала арифметика с плавающей запятой. Как вы можете избежать этого? def sqrt(num): root = 0.0 while ...
Как избежать ошибок с плавающей запятой?
Я пытался написать функцию для аппроксимации квадратных корней (я знаю, чтос математическим модулем ... я хочу сделать это сам), и меня облажала арифметика с...
Преврати плавание в строку
Я перешел к утверждению, когда мне нужно превратить числа одинарной и двойной точности IEEE-754 в строки с основанием10, ЕстьFXTRACT инструкция доступна, но она предоставляет только экспоненту и мантиссу для базы 2, так как формула вычисления ...
sizeof long double и точность не совпадают?
Рассмотрим следующий код C: #include <stdio.h> int main(int argc, char* argv[]) { const long double ld = 0.12345678901234567890123456789012345L; printf("%lu %.36Lf\n", sizeof(ld), ld); return 0; }Составлено сgcc 4.8.1 подUbuntu x64 13.04, он ...
sizeof long double и точность не совпадают?
Рассмотрим следующий код C:
двойное и плавающее сравнение [дубликаты]
На этот вопрос уже есть ответ здесь: Сравнивая поплавок и двойник [/questions/9014303/comparing-float-and-double] 3 ответаСогласно сэта ...