Результаты поиска по запросу "ieee-754"
Получить следующий наименьший двухместный номер
В рамках модульного теста мне нужно проверить некоторые граничные условия. Один метод принимаетSystem.Double аргумент. Есть ли способ получитьследующего Наименьшее двойное значение? (то есть уменьшить значение мантиссы на 1 единицу)? Я подумал ...
Можно ли заставить isnan () работать в gfortran -O3 -fast-math?
Я хотел бы скомпилировать программу с gfortran и-O3 -ffast-math включен, так как это дает хороший прирост производительности. Я был довольно смущен, что Gfortran'sisnan() поймал некоторые NaN, но не все из них. После прочтения Проверка, является ...
Найти мин / макс с плавающей / двойной, который имеет такое же внутреннее представление
Обновление наплавающие точки [http://docs.sun.com/source/806-3568/ncg_goldberg.html](такжеPDF [http://www.validlab.com/goldberg/paper.pdf]), IEEE-754 и участиев этом обсуждении округления с плавающей запятой при преобразовании в ...
Вычисление правильно округленного / почти правильно округленного кубического корня с плавающей точкой
Предположим, что правильно округленные стандартные библиотечные функции, такие как найденные вCRlibm [http://lipforge.ens-lyon.fr/www/crlibm/]доступны. Тогда как можно вычислить правильно округленный кубический корень из входных данных двойной ...
Арифметическая ошибка с плавающей точкой
Я использую следующую функцию, чтобы приблизить производную функции в точке: def prime_x(f, x, h): if not f(x+h) == f(x) and not h == 0.0: return (f(x+h) - f(x)) / h else: raise PrecisionErrorВ качестве теста я прохожуf какfx а такжеx как 3.0. ...
Точность двойной после десятичной точки
В обеденный перерыв мы начали спорить о точности
Как я могу преобразовать 4 байта, хранящие число с плавающей точкой IEEE 754, в значение с плавающей запятой в C?
Моя программа считывает в 4 байта число IEEE 754 с плавающей запятой из файла. Мне нужно преобразовать эти байты в переносимый тип моих компиляторов Си. Друг...
Пересмотрено сравнение с плавающей точкой
Эта тема много раз поднималась в StackOverflow, но я считаю, что это новый подход. Да я прочиталБрюс Доусонстатьи а такжеЧто каждый ученый должен знать об ар...