Результаты поиска по запросу "floating-point-precision"
Преврати плавание в строку
Я перешел к утверждению, когда мне нужно превратить числа одинарной и двойной точности IEEE-754 в строки с основанием10, ЕстьFXTRACT инструкция доступна, но она предоставляет только экспоненту и мантиссу для базы 2, так как формула вычисления ...
Преобразование Int в Float теряет точность для больших чисел в Swift
XCode 6.3.1 Swift 1.2
Является ли это действительным сравнением с плавающей запятой, которое учитывает определенное количество десятичных знаков?
Я пишу метод расширения для сравнения двух чисел с использованием заданного количества десятичных знаков (значащих цифр), чтобы определить, равны ли они вместо допуска или разницы в процентах. Просматривая другие вопросы, касающиеся сравнения с ...
двойное и плавающее сравнение [дубликаты]
На этот вопрос уже есть ответ здесь:Сравнивая поплавок и двойник 3 ответаВ соответствии сэта почтапри сравнении числа с плавающей точкой и числа с двойным чи...
sizeof long double и точность не совпадают?
Рассмотрим следующий код C: #include <stdio.h> int main(int argc, char* argv[]) { const long double ld = 0.12345678901234567890123456789012345L; printf("%lu %.36Lf\n", sizeof(ld), ld); return 0; }Составлено сgcc 4.8.1 подUbuntu x64 13.04, он ...