Результаты поиска по запросу "floating-point-precision"

3 ответа

Преврати плавание в строку

Я перешел к утверждению, когда мне нужно превратить числа одинарной и двойной точности IEEE-754 в строки с основанием10, ЕстьFXTRACT инструкция доступна, но она предоставляет только экспоненту и мантиссу для базы 2, так как формула вычисления ...

4 ответа

Похоже, что Pow () один из здесь

2 ответа

Преобразование Int в Float теряет точность для больших чисел в Swift

XCode 6.3.1 Swift 1.2

ТОП публикаций

3 ответа

Что такое суффикс C ++ для длинных двойных литералов?

3 ответа

Является ли точность наиболее значимой десятичной цифры, которую можно преобразовать в двоичную и обратно в десятичную без потери значимости 6 или 7,225?

3 ответа

Беда с поплавками в Objective-C

2 ответа

Является ли это действительным сравнением с плавающей запятой, которое учитывает определенное количество десятичных знаков?

Я пишу метод расширения для сравнения двух чисел с использованием заданного количества десятичных знаков (значащих цифр), чтобы определить, равны ли они вместо допуска или разницы в процентах. Просматривая другие вопросы, касающиеся сравнения с ...

4 ответа

двойное и плавающее сравнение [дубликаты]

На этот вопрос уже есть ответ здесь:Сравнивая поплавок и двойник 3 ответаВ соответствии сэта почтапри сравнении числа с плавающей точкой и числа с двойным чи...

1 ответ

Точность repr (f), str (f), print (f), когда f является плавающим

Если я бегу:

4 ответа

sizeof long double и точность не совпадают?

Рассмотрим следующий код C: #include <stdio.h> int main(int argc, char* argv[]) { const long double ld = 0.12345678901234567890123456789012345L; printf("%lu %.36Lf\n", sizeof(ld), ld); return 0; }Составлено сgcc 4.8.1 подUbuntu x64 13.04, он ...