Результаты поиска по запросу "floating-point"

1 ответ

Go: Преобразование float64 в int с множителем

1 ответ

Почему Clang оптимизирует x * 1.0, а НЕ x + 0.0?

1 ответ

Javascript: сравнение двух значений с плавающей запятой

У меня есть эта функция JavaScript:

ТОП публикаций

2 ответа

Математическое объяснение, почему преобразование десятичного числа в двойное не работает, а Decimal.GetHashCode разделяет равные экземпляры

Я не уверен, является ли этот нестандартный способ постановки вопроса переполнения стека хорошим или плохим, но здесь идет речь:Какое лучшее (математическое ...

1 ответ

Точность и равенство с плавающей точкой в ​​Java

Известно, что числа с плавающей запятой, даже те, которые имеют фиксированные цифры после десятичной точки в десятичном формате, не могут быть представлены т...

2 ответа

сколько целых чисел в IEEE 754

9 ответов

Ограничить точность с плавающей точкой?

Есть ли способ округлить числа с плавающей точкой до 2? Например.:

4 ответа

Неожиданный результат в PHP для типа float to int

Я пытаюсь преобразовать число с плавающей точкой в ​​значение типа php:

2 ответа

Является ли `x! = X` портативным способом проверки на NaN?

В C вы можете проверить, если двойной, если NaN, используя

2 ответа

Для чего нужны полезные нагрузки NaN с плавающей запятой?

Я знаю, что IEEE 754 определяет NaN, чтобы иметь следующее побитовое представление:Знаковый бит может быть либо