Результаты поиска по запросу "ieee-754"
Почему Excel не округляется в соответствии с 8-байтовым IEEE 754
Следующее выражение оценивает
Я верю этому результату, но все же нахожу его чрезвычайно удивительным.
твует ли двойной стандарт IEEE?
, Например:
могу изменить 32-битное шестнадцатеричное значение на значение с плавающей запятой в соответствии с IEEE 754? РЕДАКТИРОВАТЬ: ... data = fread(fid,1,'float32'); disp(data); ...Я получаю этот ответ: 4.2950e + 009 1.6274e + 009 ... Но как мне ...
потому что тип совместим только с IEEE 754. Только 99,99% была ли семантика IEEE точно соблюдена. Следовательно, будут ложные негативы, но поскольку то, что на самом деле хотел знать спрашивающий, формально не определено, выхода из этого нет.
ел бы задать вопрос, который следуетэтот [https://stackoverflow.com/questions/752309/ensuring-c-doubles-are-64-bits]на который довольно хорошо отвечает проверка определения, использует ли компилятор стандарт. Однако это работает только для C. ...
Как вычесть IEEE 754 номера?
Как вычесть числа IEEE 754? Например: 0,546875 - 32,875 ... -> 0,546875 - это 0 01111110 10001100000000000000000 в IEEE-754 -> -32,875 - 1 10000111 01000101111000000000000 в IEEE-754 Итак, как мне сделать вычитание? Я знаю, что должен сделать ...
Причудливость в JavaScript или IEEE-754?
Я столкнулся с любопытной проблемой в одном из моих модульных тестов, где я получаю неожиданные результаты округления в JavaScript: (2.005).toFixed(2) // produces "2.00" (2.00501).toFixed(2) // produces "2.01" Первоначально я подозревал, что это ...
Денормализованные числа - IEEE 754 с плавающей точкой
Поэтому я пытаюсь узнать больше о денормализованных числах, как это определено в стандарте IEEE 754 для чисел с плавающей точкой. Благодаря результатам поиска Google я уже прочитал несколько статей, а также просмотрел несколько сообщений ...
реализация двойной-двойной устойчивости к режиму округления FPU
Контекст: двойная двойная арифметика«Дабл-дабл»представление чисел в виде суммы двух чисел двойной точности [http://en.wikipedia.org/wiki/Double-double_arithmetic#Double-double_arithmetic] без пересечения в значениях. Это представление использует ...
Максимальное количество десятичных цифр, которые могут повлиять на двойной
Рассмотрим десятичные представления вида d1.d2d3d4d5 ... dnExxx, где xxx - произвольный показатель степени, а оба d1 и dn отличны от нуля. Известно ли максимальное значение n, для которого существует десятичное представление d1.d2d3d4d5 ... ...