Результаты поиска по запросу "floating-point"
Почему моя целочисленная математика с std :: pow дает неправильный ответ?
Рассмотрим следующий фрагмент кода:
Преобразовать «float» в байты в Javascript без Float32Array
Хорошо, так что ям довольно неприятная ситуация, когда я неОн не имеет доступа к типизированным массивам, таким как Float32Array, но все же должен иметь возм...
Сортировать многомерный массив по десятичным значениям
Что я'я пытаюсь сделать, это отсортировать многомерный массив, который содержит десятичные значения. Из того, что яВ результате тестирования поплавки исп...
PHP float расчет 2 десятичной точки
Снова возникла другая математическая задача.
Арифметика с плавающей точкой и машинный эпсилон
м пытается вычислить аппроксимацию значения эпсилон для
Самый быстрый способ обнулить низкие значения в массиве?
Итак, допустим, у меня есть 100 000 массивов с плавающей точкой по 100 элементов в каждой. Мне нужно наибольшее количество значений X, НО только в том случае...
Проверка на равенство с плавающей точкой и дополнительная точность: может ли этот код не сработать?
Обсуждение началось вмой ответ на другой вопрос, Следующий код определяетмашина эпсилон:
Нахождение ближайшего значения с плавающей точкой меньше, чем конкретное целочисленное значение в C ++?
У меня есть входное значение с плавающей запятой, которое 0,0f <= значение < 1.0f (примечание меньше одного).При умножении этого значения на больший ди...