Результаты поиска по запросу "ieee-754"
Найти мин / макс с плавающей / двойной, который имеет такое же внутреннее представление
Обновление наплавающие точки (такжеPDF), IEEE-754 и участиев этом обсуждении округления с плавающей запятой при преобразовании в строки, привел меня к возить...
Каково обоснование для всех сравнений, возвращающих ложь для значений NaN IEEE754?
Почему сравнения значений NaN ведут себя иначе, чем все другие значения? То есть все сравнения с операторами ==, <=,> =, <,> где одним или обоими значениями является NaN, возвращают false, что противоречит поведению всех других значений. Я ...
Каково обоснование для всех сравнений, возвращающих ложь для значений NaN IEEE754?
Почему сравнения значений NaN ведут себя иначе, чем все другие значения? То есть все сравнения с операторами ==, <=,>=, <,> где одно или оба знач...
Большие числа, ошибочно округленные в JavaScript
Смотрите этот код:
следующий выше / ниже IEEE номер двойной точности
Я делаю высокоточные научные вычисления. В поисках наилучшего представления различных эффектов я продолжаю придумывать причины, чтобы захотеть получить следу...
Двухбайтовый размер в 32-битной и 64-битной ОС
Есть ли разница вдвойной размер при запуске приложения в 32- и 64-разрядной среде? Если я не ошибаюсь, двойная в 32-битной среде займет 16 цифр после 0, тог...
используя арифметику 20 десятичных цифр, и результат
ел бы поиграть с этими ловушками в образовательных целях. Общая проблема с поведением по умолчанию в числовом исчислении состоит в том, что мы «пропускаем» Nan (или + -inf), который появился в неправильной операции. Поведение по умолчанию - это ...
У меня есть друг, который работает в этом. Он работает над библиотекой для обработки чисел с плавающей запятой размером в гигабайты. Конечно, это что-то связанное с научными вычислениями (вычисления с плазмой), и, вероятно, только такие вычисления работают с такими большими числами
хотел сказать80-битный, Это не опечатка ... Мой опыт работы с переменными с плавающей запятой всегда включал 4-байтовые множители, такие как синглы (32 бита), двойные (64 бита) и длинные двойные (которые я видел как 96-битные или 128-битные). ...
Самый простой способ:
у взять число с плавающей запятой в C ++, например 2.25125, и массив int, заполненный двоичным значением, которое используется для хранения числа с плавающей запятой в памяти (IEEE 754). Таким образом, я могу взять число и получить массив типа ...