Результаты поиска по запросу "floating-point"
и бывает больше, чем
етил кое-что действительно странное. Если вы запустите этот код в Swift:
В чем разница между тихим NaN и сигнальным NaN?
Я читал о плавающей точке, и я понимаю, что NaN может быть результатом операций. но я не могу понять, что это за понятия. Какая разница? Какой из них можно создать во время программирования на C ++? Как программист, могу ли я написать программу, ...
Это обычное поведение для типа данных с плавающей точкой из-за специфики операций с плавающей точкой на компьютерах. Используйте десятичный (числовой) тип данных с фиксированными цифрами после десятичной точки. Например, десятичный (10, 6).
я возникли проблемы с преобразованием некоторых данных, хранящихся в типе данных FLOAT, в данные, хранящиеся в типе данных INT. Приведенный ниже пример иллюс...
Вы знаете, как рассчитать это? Я не уверен, как преобразовать 0x4014 в значение 5. Может быть, где-нибудь есть документация по этой теме?
тоящее время я изучаю smali / "кодовый обфускатор" и сейчас пытаюсь ознакомиться с декомпилированными исходными кодами. Для этого я создал простое ...
Numpy longdouble арифметика, кажется, не в long double с преобразованием
Я играл в C99четверная точность [http://en.wikipedia.org/wiki/Quadruple-precision_floating-point_format]длинный двойной Насколько я понимаю, (конкретная платформа) NumPy ...
Я не уверен, что вы имеете в виду под этим. Похоже, вы хотите добавить утверждения assert, но обернуть это в макрос? Как это поможет?
ли способ настроить Visual Studio (только что обновленный с 2008 до 2010), чтобы сломать, как если бы утверждение не удалось, всякий раз, когдалюбой число с ...
; тем не менее, вам нужно сделать два умножения с плавающей точкой, которых нельзя избежать.
нтересован в написании быстрой C-программы, которая переворачивает показатель в два раза. Например, эта программа должна конвертировать 1e300 в 1e-300. Я думаю, что лучшим способом были бы некоторые битовые операции, но мне не хватает знаний, ...