Результаты поиска по запросу "ieee-754"

6 ответов

Диапазоны типа данных с плавающей точкой в C?

Я читаю книгу на языке C, говоря о диапазонах с плавающей запятой, автор дал таблицу:

3 ответа

Точность двойной после десятичной точки

В обеденный перерыв мы начали спорить о точности

4 ответа

Как работает это приближение квадратного корня с плавающей точкой?

Я нашел довольно странное, но работающее приближение квадратного корня дляfloats; Я действительно не понимаю. Может кто-нибудь объяснить мне, почему этот код работает? float sqrt(float f) { const int result = 0x1fbb4000 + (*(int*)&f >> 1); ...

ТОП публикаций

1 ответ

Я верю этому результату, но все же нахожу его чрезвычайно удивительным.

твует ли двойной стандарт IEEE?

1 ответ

Что такое переполнение и переполнение в плавающей точке

4 ответа

Почему значение с плавающей точкой 4 * 0.1 выглядит хорошо в Python 3, а 3 * 0.1 - нет?

Я знаю, что большинство десятичных чисел не имеют точного представления с плавающей запятой (Математика с плавающей точкой нарушена?).Но я не понимаю почему

2 ответа

Преобразование IEEE 754 из потока битов в float в JavaScript

2 ответа

Есть ли способ увидеть число в его представлении IEEE754 с плавающей запятой 64 бит

Javascript сохраняет все числа как значения IEEE 754 64-битного формата двойной точности в соответствии сспекуляция:Тип Number имеет ровно 184377368744548106...

1 ответ

Почему Excel не округляется в соответствии с 8-байтовым IEEE 754

Следующее выражение оценивает

2 ответа

Matlab против C ++ Double Precision

Я портирую некоторый код из Matlab на C ++.В Matlab