Результаты поиска по запросу "floating-point"
между двумя NaNs возвращает ложь.
я есть следующий код: double x = 0; { ...do stuff ...} if(x == 0){ }Меня всегда учили, что не стоит проверять поплавки на равенство. Проверяется ли оно на ноль по-другому?
nan создается, когда мы программируем, содержат значение, такое как 0.0 / 0.0, как сказано @Dan Cecile OR sqrt (-1).
float f = (float)'a'; if(f < 0){ } else if(f == 0){ } else if(f > 0){ } else{ printf("NaN\n"); }fудет больше / равно / меньше0 если этоNaN. Но как произвести такойf на первом месте? Я пробовал разные способы произвестиNaN, но никто не работает ..
ошибка в Lua. То же самое происходит в программе на C ниже. Как объяснили другие, это связано с неточностью с плавающей точкой, точнее с тем, что 0,05 не является двоичной дробью (то есть не имеет конечного двоичного представления).
уверен, является ли это ошибкой или нет, поэтому я подумал, что, возможно, вы, ребята, захотите взглянуть. Проблема заключается в следующем коде: for i=0,1,.05 do print(i) endВыход должен быть: 0 .05 .1 --snip-- .95 1Вместо этого вывод: 0 .05 ...
На самом деле я знаю расширение BCMath, но эти функции не будут полезны, потому что им нужно целочисленное значение в виде строки - но у меня есть только поток байтов, который должен быть преобразован во что-то, что PHP (или BCMath или GMP) может использовать как число...
тим, у меня есть поток байтов, в котором я знаю расположение 64-битного значения (одноразового номера 64-битного). Порядок байтов является Little-Endian. Поскольку целочисленный тип данных PHP ограничен 32-разрядным (по крайней мере, в ...
Преобразовать подписанное число IEEE 754 с плавающей точкой в шестнадцатеричное представление
Я использую внешний интерфейс Lua, который, к сожалению, устарел, поэтому я застрял здесь с версией 5.1, то естьbit32 библиотека недоступна (что я, вероятно, мог бы использовать, чтобы преобразовать это). Поэтому мне интересно, знает ли ...
Преобразовать число с плавающей точкой в округленный десятичный эквивалент
Когда вы конвертируетеfloat вDecimal,Decimal будет содержать как можно более точное представление двоичного числа. Приятно быть точным, но это не всегда то, что вы хотите. Поскольку многие десятичные числа не могут быть представлены точно в ...
К сожалению, нет стандартной функции для включения обработки исключений с плавающей запятой.
я есть небольшая программа, выполняющая деление с плавающей запятой на ноль, поэтому я ожидаю SIGFPE. #include <sys/types.h> #include <signal.h> #include <stdio.h> #include <stdlib.h> #include <iostream> void signal_handler (int signo) { ...
привет, попробуй этот, он может помочь твоему требованию
я очень простое деление на Java (это количество продукта / производство в час), однако всякий раз, когда я делаю это деление, я получаю странные ошибки: float res = quantity / standard;Я пробовал вышеупомянутое деление с несколькими значениями, ...
вместо этого или только используйте синтаксис диапазона для границ между ячейками, но добавляйте точные внешние границы отдельно.
у поведение записи диапазона Haskell отличается для чисел с плавающей точкой от целых чисел и символов? Prelude> [1, 3 .. 10] :: [Int] [1,3,5,7,9] Prelude> [1, 3 .. 10] :: [Float] [1.0,3.0,5.0,7.0,9.0,11.0] Prelude> ['a', 'c' .. 'f'] "ace"Я бы ...
Я надеюсь, что это сработает.
веденном ниже коде, когда я даю ввод в виде 1 10 2 1 2 2, сумма печатается как 52, а сумма 3 как 31.200001, тогда как она должна быть 31.200000 int main(){ int t,n,i,a[2000],m,j,f; scanf("%d",&t); while(t--){ scanf("%d",&n); scanf("%d",&f); ...