Результаты поиска по запросу "ieee-754"

3 ответа

Преобразование Int в Float или Float в Int с использованием побитовых операций (программная плавающая точка)

3 ответа

Что такое субнормальное число с плавающей точкой?

ссылка isnormal () [http://en.cppreference.com/w/cpp/numeric/math/isnormal] говорит: Определяет, является ли данное число с плавающей точкой arg нормальным, то есть не является ли оно нулевым, субнормальным, бесконечным или NaN. Число ноль, ...

2 ответа

Арифметическая ошибка с плавающей точкой

Я использую следующую функцию, чтобы приблизить производную функции в точке: def prime_x(f, x, h): if not f(x+h) == f(x) and not h == 0.0: return (f(x+h) - f(x)) / h else: raise PrecisionErrorВ качестве теста я прохожуf какfx а такжеx как 3.0. ...

ТОП публикаций

3 ответа

Жонглирование типов и (строгое) большее / меньшее сравнение в PHP

PHP славится жонглированием шрифтами. Я должен признать, что это озадачивает меня, и мне трудно находить основные логические / фундаментальные вещи в сравнениях. Например: если$a > $b верно и$b > $c верно, это должно означать, что$a > ...

2 ответа

Получить следующий наименьший двухместный номер

В рамках модульного теста мне нужно проверить некоторые граничные условия. Один метод принимаетSystem.Double аргумент. Есть ли способ получитьследующего Наименьшее двойное значение? (то есть уменьшить значение мантиссы на 1 единицу)? Я подумал ...

2 ответа

Найти мин / макс с плавающей / двойной, который имеет такое же внутреннее представление

Обновление наплавающие точки [http://docs.sun.com/source/806-3568/ncg_goldberg.html](такжеPDF [http://www.validlab.com/goldberg/paper.pdf]), IEEE-754 и участиев этом обсуждении округления с плавающей запятой при преобразовании в ...

6 ответов

В двоичной записи, что означает значение цифр после радикальной точки «.»?

У меня есть этот пример о том, как преобразовать из числа 10 базы в представление IEEE 754 с плавающей точкой Number: 45.25 (base 10) = 101101.01 (base 2) Sign: 0 Normalized form N = 1.0110101 * 2^5 Exponent esp = 5 E = 5 + 127 = 132 (base 10) = ...

3 ответа

Каковы другие значения NaN?

документация дляjava.lang.Double.NaN [https://docs.oracle.com/javase/8/docs/api/java/lang/Double.html#NaN]говорит, что это Константа, содержащая значение типа Not-a-Number (NaN) типаdouble, Это эквивалентно ...

1 ответ

Максимальное количество десятичных цифр, которые могут повлиять на двойной

Рассмотрим десятичные представления вида d1.d2d3d4d5 ... dnExxx, где xxx - произвольный показатель степени, а оба d1 и dn отличны от нуля. Известно ли максимальное значение n, для которого существует десятичное представление d1.d2d3d4d5 ... ...

4 ответа

Кодируется в формате одинарной точности:

у следующий код ведет себя так же, как в C? float x = 2147483647; //2^31 printf("%f\n", x); //Outputs 2147483648Вот мой мыслительный процесс: 2147483647 = 0 1001 1101 1111 1111 1111 1111 1111 111 (0.11111111111111111111111)base2 = ...