Результаты поиска по запросу "ieee-754"
Арифметическая ошибка с плавающей точкой
Я использую следующую функцию, чтобы приблизить производную функции в точке: def prime_x(f, x, h): if not f(x+h) == f(x) and not h == 0.0: return (f(x+h) - f(x)) / h else: raise PrecisionErrorВ качестве теста я прохожуf какfx а такжеx как 3.0. ...
В чем разница между тихим NaN и сигнальным NaN?
Я читал о плавающей точке, и я понимаю, что NaN может быть результатом операций. но я не могу понять, что это за понятия. Какая разница? Какой из них можно создать во время программирования на C ++? Как программист, могу ли я написать программу, ...
В чем разница между тихим NaN и сигнальным NaN?
Я читал о плавающей точке, и я понимаю, что NaN может быть результатом операций. Но я могу'Я не понимаю, что это за понятия. Какая разница?Какой из них м...
Вычисление правильно округленного / почти правильно округленного кубического корня с плавающей точкой
Предположим, что правильно округленные стандартные библиотечные функции, такие как найденные вCRlibm [http://lipforge.ens-lyon.fr/www/crlibm/]доступны. Тогда как можно вычислить правильно округленный кубический корень из входных данных двойной ...
Объяснение Леймана, почему у JavaScript странная плавающая математика - стандарт IEEE 754 [дубликат]
На этот вопрос уже есть ответ: Математика с плавающей точкой нарушена? [/questions/588004/is-floating-point-math-broken] 28 ответов Я никогда точно не понимаю, что происходит с JavaScript, когда выполняю математические операции над числами с ...
Преврати плавание в строку
Я перешел к утверждению, когда мне нужно превратить числа одинарной и двойной точности IEEE-754 в строки с основанием10, ЕстьFXTRACT инструкция доступна, но она предоставляет только экспоненту и мантиссу для базы 2, так как формула вычисления ...
Максимальное количество десятичных цифр, которые могут повлиять на двойной
Рассмотрим десятичные представления вида d1.d2d3d4d5 ... dnExxx, где xxx - произвольный показатель степени, а оба d1 и dn отличны от нуля. Известно ли максимальное значение n, для которого существует десятичное представление d1.d2d3d4d5 ... ...
Максимальное количество десятичных цифр, которые могут повлиять на двойной
Рассмотрим десятичные представления вида d1.d2d3d4d5 ... dnExxx, где xxx - произвольный показатель степени, а оба d1 и dn отличны от нуля. Известно ли максимальное значение n, для которого существует десятичное представление d1.d2d3d4d5 ... ...