Результаты поиска по запросу "precision"
В чем разница между операциями с плавающей запятой одинарной и двойной точности?
В чем разница между операцией с плавающей запятой одинарной точности и операцией с плавающей запятой двойной точности? Меня особенно интересуют практические термины в отношении игровых приставок. Например, есть ли в Nintendo 64 64-битный ...
Усечение числа с плавающей запятой без округления
У меня есть число с плавающей запятой, которое я хочу обрезать до 3 мест, но не хочу округлять. Например, конвертировать1.0155555555555555 в1.015 (не1.016). Как бы я поступил так в Ruby?
Objective-C - Как повысить точность числа с плавающей точкой
Может кто-нибудь, пожалуйста, покажите мне способ установить точность числа с плавающей запятой до желаемой длины. Скажем, у меня есть номер 2504.6. Как видите, здесь точность равна 1. Я хочу установить ее на шесть. Мне это нужно, потому что я ...
Есть ли надежный способ в JavaScript получить количество десятичных разрядов произвольного числа?
Важно отметить, что я не ищу функцию округления. Я ищу функцию, которая возвращает количество десятичных знаков в упрощенном десятичном представлении произвольного числа. То есть имеем следующее: decimalPlaces(5555.0); //=> 0 ...
Точность в поплавках C
Обычно мы говорим, что число с плавающей точкой имеет точность 6 цифр после десятичной точки. Но если мы храним большое число порядка 10 ^ 30, мы не получим 6 цифр после десятичной точки. Так правильно ли говорить, что числа с плавающей точкой ...
Синхронизация PTP на сервере Windows (по сравнению с Linux) - какая точность может быть гарантирована
Я хотел бы знать, если все знают, как точноPTP [http://en.wikipedia.org/wiki/Precision_Time_Protocol]синхронизация может быть гарантирована на Windows Server 2008. Я знаю об этой теме:Какое минимальное гарантированное время для процесса ...
ошибка точности gcc?
Я могу только предположить, что это ошибка. Первое утверждение проходит, а второе не проходит: double sum_1 = 4.0 + 6.3; assert(sum_1 == 4.0 + 6.3); double t1 = 4.0, t2 = 6.3; double sum_2 = t1 + t2; assert(sum_2 == t1 + t2);Если не ошибка, то ...
Точность умножения на 1,0 и преобразования в целочисленные значения
Можно ли предположить, что условие(int)(i * 1.0f) == i верно для любого целого числаi?
В чем разница между float и double?
Я читал о разнице между двойной точностью и одинарной точностью. Однако в большинстве случаевfloat а такжеdouble кажутся взаимозаменяемыми, то есть использование одного или другого, похоже, не влияет на результаты. Это действительно так? Когда ...
печатать дважды с точностью 4, используя cout [duplicate]
Возможный дубликат: Конвертировать двойную в фиксированную десятичную точку в C ++ [https://stackoverflow.com/questions/3844010/convert-a-double-to-fixed-decimal-point-in-c] Предположим, у меня естьdouble a = 0 и я хочу напечатать как0.0000 . Я ...