Результаты поиска по запросу "ieee-754"
Двухбайтовый размер в 32-битной и 64-битной ОС
Есть ли разница вдвойной размер при запуске приложения в 32- и 64-разрядной среде? Если я не ошибаюсь, двойная в 32-битной среде займет 16 цифр после 0, тог...
Диапазоны типа данных с плавающей точкой в C?
Я читаю книгу на языке C, говоря о диапазонах с плавающей запятой, автор дал таблицу:
Стандарт IEEE-754 на графическом процессоре NVIDIA (sm_13)
Если я выполню операцию с плавающей запятой (одинарной точности) на хосте и устройстве (GPU arch sm_13), будут ли значения другими?
Любые IEEE754 (r) совместимые реализации для Java?
Существуют ли какие-либо полностью совместимые реализации IEEE754r для Java, которые предлагают поддержку всех функций, которые Java выбрала опустить (или, с...
Точность двойной после десятичной точки
В обеденный перерыв мы начали спорить о точности
Как я могу преобразовать 4 байта, хранящие число с плавающей точкой IEEE 754, в значение с плавающей запятой в C?
Моя программа считывает в 4 байта число IEEE 754 с плавающей запятой из файла. Мне нужно преобразовать эти байты в переносимый тип моих компиляторов Си. Друг...
следующий выше / ниже IEEE номер двойной точности
Я делаю высокоточные научные вычисления. В поисках наилучшего представления различных эффектов я продолжаю придумывать причины, чтобы захотеть получить следу...
следующий выше / ниже IEEE номер двойной точности
Я делаю высокоточные научные вычисления. В поисках наилучшего представления различных эффектов я продолжаю придумывать причины, чтобы захотеть получить следу...