Результаты поиска по запросу "floating-point"
Снижение диапазона Плохая точность для плавающей запятой одинарной точности
Я пытаюсь реализовать уменьшение диапазона в качестве первого шага реализации функции синуса. Я следую методу, описанному в статье«АРГУМЕНТНОЕ СОКРАЩЕНИЕ ДЛЯ ОГРОМНЫХ АРГУМЕНТОВ» К.С. NG ...
Objective-C - Как повысить точность числа с плавающей точкой
Может кто-нибудь, пожалуйста, покажите мне способ установить точность числа с плавающей запятой до желаемой длины. Скажем, у меня есть номер 2504.6. Как видите, здесь точность равна 1. Я хочу установить ее на шесть. Мне это нужно, потому что я ...
Объясните это поведение с плавающей запятой
Пожалуйста, объясните, почему следующие части кода ведут себя по-разному. #include<stdio.h> int main(){ float a=0.1; if(a<0.1) printf("less"); else printf("greater than equal"); getchar(); }Output:greater than equal #include<stdio.h> int ...
Рассчитать единицу на последнем месте (ULP) для двойников
Есть ли в .NET встроенный метод для вычисленияULP [https://en.wikipedia.org/wiki/Unit_in_the_last_place]данного дубля или поплавка? Если нет, какой самый эффективный способ сделать это?
Операция с плавающей точкой по модулю
Я пытаюсь реализовать операцию уменьшения диапазона для тригонометрии. Но вместо этого я думаю, что может быть лучше просто выполнить операцию по модулю pi / 2 для входящих данных. Мне было интересно, какие алгоритмы существуют и эффективны для ...
Почему эти цифры не равны?
Следующий код явно неверен. В чем проблема? i <- 0.1 i <- i + 0.05 i ## [1] 0.15 if(i==0.15) cat("i equals 0.15") else cat("i does not equal 0.15") ## i does not equal 0.15
Есть ли надежный способ в JavaScript получить количество десятичных разрядов произвольного числа?
Важно отметить, что я не ищу функцию округления. Я ищу функцию, которая возвращает количество десятичных знаков в упрощенном десятичном представлении произвольного числа. То есть имеем следующее: decimalPlaces(5555.0); //=> 0 ...
Правильно ли сравнивать двойное с нулевым, если вы ранее инициализировали его нулевым?
Я узнал, что сравнение двойного использования== это не мудрая практика. Однако мне было интересно, может ли быть опасной проверка, инициализирована ли двойная инициализация. Например, зная, что переменная doubleVar не может быть нулевой, если она ...
Есть ли способ проверить, является ли переменная целым числом? C ++
Мне нужно проверить, является ли переменная целым числом, скажем, у меня есть код: double foobar = 3; //Pseudocode if (foobar == whole) cout << "It's whole"; else cout << "Not whole";Как бы я это сделал?
Динамический спецификатор формата с плавающей точкой в C
Есть ли какой-нибудь способ иметь пользовательский спецификатор формата float? Например, если я распечатаю это. float c = 15.0123 printf("%.2f", c); // outputs: 15.01Как я могу назначить количество знаков после запятой для переменной? ...