Результаты поиска по запросу "ieee-754"
Диапазоны типа данных с плавающей точкой в C?
Я читаю книгу на языке C, говоря о диапазонах с плавающей запятой, автор дал таблицу:
Точность двойной после десятичной точки
В обеденный перерыв мы начали спорить о точности
Как работает это приближение квадратного корня с плавающей точкой?
Я нашел довольно странное, но работающее приближение квадратного корня дляfloats; Я действительно не понимаю. Может кто-нибудь объяснить мне, почему этот код работает? float sqrt(float f) { const int result = 0x1fbb4000 + (*(int*)&f >> 1); ...
Я верю этому результату, но все же нахожу его чрезвычайно удивительным.
твует ли двойной стандарт IEEE?
Почему значение с плавающей точкой 4 * 0.1 выглядит хорошо в Python 3, а 3 * 0.1 - нет?
Я знаю, что большинство десятичных чисел не имеют точного представления с плавающей запятой (Математика с плавающей точкой нарушена?).Но я не понимаю почему
Есть ли способ увидеть число в его представлении IEEE754 с плавающей запятой 64 бит
Javascript сохраняет все числа как значения IEEE 754 64-битного формата двойной точности в соответствии сспекуляция:Тип Number имеет ровно 184377368744548106...
Почему Excel не округляется в соответствии с 8-байтовым IEEE 754
Следующее выражение оценивает
Matlab против C ++ Double Precision
Я портирую некоторый код из Matlab на C ++.В Matlab