Результаты поиска по запросу "floating-point"

4 ответа

Как я могу получить первые n бит числа с плавающей запятой как целое число в Python

1 ответ

Golang, конвертирующий float64 в int error

Как я могу избежать ошибок с плавающей точкой при преобразовании чисел с плавающей точкой в ​​int. Например, распечатывается следующий код:

7 ответов

Почему числа с плавающей точкой нельзя сравнивать? [Дубликат]

Возможный дубликат:странный вывод при сравнении float с литералом float

ТОП публикаций

1 ответ

Имеет ли JavaScript двойную точность чисел с плавающей точкой?

Я знаю, что это странный вопрос, но способен ли JavaScript работать с double, а не с одинарными числами? (64-разрядные числа с плавающей запятой против 32-ра...

6 ответов

получить целочисленное значение представления переменной типа с плавающей запятой в C

У меня есть номер 20 (0x14), хранящийся в 32-битном регистре. Регистр присваивается переменной с плавающей запятой C, представляющей значение 2.8e-44. Теперь...

0 ответов

Как отследить NaN в C ++

Я собираюсь сделать некоторые математические вычисления с использованием C ++. Входное число с плавающей запятой является действительным числом, но после выч...

4 ответа

Как определить максимальную точность для двойной

1 ответ

Бесконечный цикл с поплавком

Рассмотрим следующий код:

1 ответ

Почему Excel не округляется в соответствии с 8-байтовым IEEE 754

Следующее выражение оценивает

1 ответ

Есть ли стандартная библиотека для преобразования float64 в строку с фиксированной шириной с максимальным количеством значащих цифр?