Результаты поиска по запросу "ieee-754"
Принуждение с плавающей точкой быть детерминированным в .NET?
Я много читал о детерминизме с плавающей точкой в .NET, то есть о том, что один и тот же код с одинаковыми входными данными будет давать одинаковые результаты на разных машинах. Поскольку в .NET отсутствуют такие параметры, как fpstrict в Java и ...
Денормализованные числа - IEEE 754 с плавающей точкой
Поэтому я пытаюсь узнать больше о денормализованных числах, как это определено в стандарте IEEE 754 для чисел с плавающей точкой. Благодаря результатам поиска Google я уже прочитал несколько статей, а также просмотрел несколько сообщений ...
В двоичной записи, что означает значение цифр после радикальной точки «.»?
У меня есть этот пример о том, как преобразовать из числа 10 базы в представление IEEE 754 с плавающей точкой Number: 45.25 (base 10) = 101101.01 (base 2) Sign: 0 Normalized form N = 1.0110101 * 2^5 Exponent esp = 5 E = 5 + 127 = 132 (base 10) = ...
Получить следующий наименьший двухместный номер
В рамках модульного теста мне нужно проверить некоторые граничные условия. Один метод принимаетSystem.Double аргумент. Есть ли способ получитьследующего Наименьшее двойное значение? (то есть уменьшить значение мантиссы на 1 единицу)? Я подумал ...
Каково обоснование для всех сравнений, возвращающих ложь для значений NaN IEEE754?
Почему сравнения значений NaN ведут себя иначе, чем все другие значения? То есть все сравнения с операторами ==, <=,> =, <,> где одним или обоими значениями является NaN, возвращают false, что противоречит поведению всех других значений. Я ...
реализация двойной-двойной устойчивости к режиму округления FPU
Контекст: двойная двойная арифметика«Дабл-дабл»представление чисел в виде суммы двух чисел двойной точности [http://en.wikipedia.org/wiki/Double-double_arithmetic#Double-double_arithmetic] без пересечения в значениях. Это представление использует ...
Объяснение Леймана, почему у JavaScript странная плавающая математика - стандарт IEEE 754 [дубликат]
На этот вопрос уже есть ответ: Математика с плавающей точкой нарушена? [/questions/588004/is-floating-point-math-broken] 28 ответов Я никогда точно не понимаю, что происходит с JavaScript, когда выполняю математические операции над числами с ...
Жонглирование типов и (строгое) большее / меньшее сравнение в PHP
PHP славится жонглированием шрифтами. Я должен признать, что это озадачивает меня, и мне трудно находить основные логические / фундаментальные вещи в сравнениях. Например: если$a > $b верно и$b > $c верно, это должно означать, что$a > ...
Почему NaN не равно NaN? [Дубликат]
На этот вопрос уже есть ответ: Каково обоснование для всех сравнений, возвращающих false для значений NaN IEEE75 [/questions/1565164/what-is-the-rationale-for-all-comparisons-returning-false-for-ieee754-nan-values] 13 ответов Соответствующий ...
Как работает это приближение квадратного корня с плавающей точкой?
Я нашел довольно странное, но работающее приближение квадратного корня дляfloats; Я действительно не понимаю. Может кто-нибудь объяснить мне, почему этот код работает? float sqrt(float f) { const int result = 0x1fbb4000 + (*(int*)&f >> 1); ...