Результаты поиска по запросу "ieee-754"
Почему значение с плавающей точкой 4 * 0.1 выглядит хорошо в Python 3, а 3 * 0.1 - нет?
Я знаю, что большинство десятичных чисел не имеют точного представления с плавающей запятой (Математика с плавающей точкой нарушена?).Но я не понимаю почему
Вычисление правильно округленного / почти правильно округленного кубического корня с плавающей точкой
Предположим, что правильно округленные стандартные библиотечные функции, такие как найденные вCRlibm [http://lipforge.ens-lyon.fr/www/crlibm/]доступны. Тогда как можно вычислить правильно округленный кубический корень из входных данных двойной ...
Почему IEEE-754 с плавающей точкой не подлежит обмену между платформами?
Это былоутверждал [https://stackoverflow.com/questions/4733147/portability-of-binary-serialization-of-double-float-type-in-c] что (даже учитывая байтовый порядок байтов) IEEE754 с плавающей запятой не гарантируется для обмена между ...
А для субнормальных тестов:
ли где-нибудь библиотека Java, которая может выполнять вычисления наIEEE 754 с половинной точностью [http://en.wikipedia.org/wiki/Half_precision_floating-point_format]числа или преобразовать их в и из двойной точности? Любой из этих подходов ...
Типичным случаем для фиксированной точки являются протоколы связи для встроенных систем или других устройств.
арт C ++ не обсуждает базовую компоновку типов с плавающей точкой и типа double, а только диапазон значений, которые они должны представлять. (Это также верно для подписанных типов, это комплимент двух или что-то еще) Мой вопрос: какие методы ...
Самый простой способ:
у взять число с плавающей запятой в C ++, например 2.25125, и массив int, заполненный двоичным значением, которое используется для хранения числа с плавающей запятой в памяти (IEEE 754). Таким образом, я могу взять число и получить массив типа ...
Реализация деления с одинарной точностью как умножение с двойной точностью
ВопросДля компилятора C99, реализующего точную арифметику IEEE 754, сделайте значенияf, divisor типаfloat существуют такие, чтоf / divisor != (float)(f * (1.0 / divisor))? РЕДАКТИРОВАТЬ: Под «реализацией точной арифметики IEEE 754» я ...
3 * x + x всегда точно?
Предполагая строгий стандарт IEEE 754 (без повышенной точности) и режим округления до ближайшего четного,