Результаты поиска по запросу "ieee-754"
У меня есть друг, который работает в этом. Он работает над библиотекой для обработки чисел с плавающей запятой размером в гигабайты. Конечно, это что-то связанное с научными вычислениями (вычисления с плазмой), и, вероятно, только такие вычисления работают с такими большими числами
хотел сказать80-битный, Это не опечатка ... Мой опыт работы с переменными с плавающей запятой всегда включал 4-байтовые множители, такие как синглы (32 бита), двойные (64 бита) и длинные двойные (которые я видел как 96-битные или 128-битные). ...
А для субнормальных тестов:
ли где-нибудь библиотека Java, которая может выполнять вычисления наIEEE 754 с половинной точностью [http://en.wikipedia.org/wiki/Half_precision_floating-point_format]числа или преобразовать их в и из двойной точности? Любой из этих подходов ...
Если e равно 255, а f не равно нулю, объект является NaN (не числом). Значение поля f NaN зависит от реализации; это не полностью определено стандартом. Обычно, если первый бит равен нулю, это сигнал NaN; в противном случае это тихий NaN.
й викистатья [http://en.wikipedia.org/wiki/Single_precision_floating-point_format]он показывает 23 бита для точности, 8 для показателя степени и 1 для знака Где скрытый 24-й бит в типе float, который составляет (23 + 1) для 7 значащих и цифр?
Почти правильно. Просто опустите двойные кавычки в вызове valueOf:
аюсь преобразовать следующую шестнадцатеричную строку: "41630D54FFF68872" в 9988776.0 (float-64). С одинарной точностью float-32 я бы сделал: int intBits = Long.valueOf("hexFloat32", 16).intValue(); float floatValue ...
Почему IEEE 754 резервирует так много значений NaN?
Кажется, что стандарт IEEE 754 определяет 16 777 214 32-битных значений с плавающей запятой как NaN, или 0,4% от всех возможных значений. Интересно, каково обоснование для того, чтобы зарезервировать так много полезных значений, в то время как ...
, Как я сказал в комментарии к другому ответу, в .NET,
у (почти) IEEE 854-совместимую реализацию с плавающей запятой в TeX (которая поддерживает только 32-разрядные целые числа). Этот стандарт определяет только результат+, -, *, /, сравнение, остаток иsqrt: для этих операций результат должен быть ...
используя арифметику 20 десятичных цифр, и результат
ел бы поиграть с этими ловушками в образовательных целях. Общая проблема с поведением по умолчанию в числовом исчислении состоит в том, что мы «пропускаем» Nan (или + -inf), который появился в неправильной операции. Поведение по умолчанию - это ...
Кодируется в формате одинарной точности:
у следующий код ведет себя так же, как в C? float x = 2147483647; //2^31 printf("%f\n", x); //Outputs 2147483648Вот мой мыслительный процесс: 2147483647 = 0 1001 1101 1111 1111 1111 1111 1111 111 (0.11111111111111111111111)base2 = ...
функции.
е языки программирования, использующие двойники IEEE 754, предоставляют библиотечную функцию для преобразования этих двойников в строки. Например, C имеетsprintf, C ++ имеетstringstreamJava имеетDouble.toString, и т.д. Внутренне, как эти функции ...
Почему IEEE-754 с плавающей точкой не подлежит обмену между платформами?
Это былоутверждал [https://stackoverflow.com/questions/4733147/portability-of-binary-serialization-of-double-float-type-in-c] что (даже учитывая байтовый порядок байтов) IEEE754 с плавающей запятой не гарантируется для обмена между ...