Результаты поиска по запросу "ieee-754"
Преобразовать IEEE с плавающей запятой в десятичную?
Если у меня есть плавающий гекс IEEE 42F6E979, как мне преобразовать его в десятичную? Я полагаю, что десятичное представление = 123.456001
Почему значение с плавающей точкой 4 * 0.1 выглядит хорошо в Python 3, а 3 * 0.1 - нет?
Я знаю, что большинство десятичных чисел не имеют точного представления с плавающей запятой (Математика с плавающей точкой нарушена?).Но я не понимаю почему
Кодируется в формате одинарной точности:
у следующий код ведет себя так же, как в C? float x = 2147483647; //2^31 printf("%f\n", x); //Outputs 2147483648Вот мой мыслительный процесс: 2147483647 = 0 1001 1101 1111 1111 1111 1111 1111 111 (0.11111111111111111111111)base2 = ...
функции.
е языки программирования, использующие двойники IEEE 754, предоставляют библиотечную функцию для преобразования этих двойников в строки. Например, C имеетsprintf, C ++ имеетstringstreamJava имеетDouble.toString, и т.д. Внутренне, как эти функции ...
Почему деление на ноль в стандарте IEEE754 приводит к бесконечному значению?
Мне просто любопытно, почему вIEEE-754 любое ненулевое число с плавающей точкой, деленное на ноль, приводит к бесконечному значению? Это чепуха с математической точки зрения. Поэтому я считаю, что правильным результатом этой операции является ...
Как работает это приближение квадратного корня с плавающей точкой?
Я нашел довольно странное, но работающее приближение квадратного корня дляfloats; Я действительно не понимаю. Может кто-нибудь объяснить мне, почему этот код работает? float sqrt(float f) { const int result = 0x1fbb4000 + (*(int*)&f >> 1); ...