Результаты поиска по запросу "floating-point"
Javascript: сравнение двух значений с плавающей запятой
У меня есть эта функция JavaScript:
Математическое объяснение, почему преобразование десятичного числа в двойное не работает, а Decimal.GetHashCode разделяет равные экземпляры
Я не уверен, является ли этот нестандартный способ постановки вопроса переполнения стека хорошим или плохим, но здесь идет речь:Какое лучшее (математическое ...
Точность и равенство с плавающей точкой в Java
Известно, что числа с плавающей запятой, даже те, которые имеют фиксированные цифры после десятичной точки в десятичном формате, не могут быть представлены т...
Ограничить точность с плавающей точкой?
Есть ли способ округлить числа с плавающей точкой до 2? Например.:
Неожиданный результат в PHP для типа float to int
Я пытаюсь преобразовать число с плавающей точкой в значение типа php:
Является ли `x! = X` портативным способом проверки на NaN?
В C вы можете проверить, если двойной, если NaN, используя
Для чего нужны полезные нагрузки NaN с плавающей запятой?
Я знаю, что IEEE 754 определяет NaN, чтобы иметь следующее побитовое представление:Знаковый бит может быть либо