Результаты поиска по запросу "floating-point"
Правильно ли сравнивать двойное с нулевым, если вы ранее инициализировали его нулевым?
Я узнал, что сравнение двойного использования
Преобразовать «float» в байты в Javascript без Float32Array
Итак, я довольно раздражающая ситуация, когда у меня нет доступа к типизированным массивам, таким как Float32Array, но мне все еще нужно иметь возможность преобразовывать число Javascript в байты. Теперь целое число, которое я могу обработать ...
Сортировать многомерный массив по десятичным значениям
Я пытаюсь отсортировать многомерный массив, содержащий десятичные значения. Судя по тому, что я проверял, поплавки испытывают трудности при правильном заказе. Array ( [0] => Array ( [company] => Ebay [weight] => 4.6 ) [1] => Array ( [company] => ...
Для цикла с поплавком в качестве счетчика, увеличивающимся на 0,01, не выводятся ожидаемые значения с плавающей запятой [дубликат]
На этот вопрос уже есть ответ здесь: Неточности с плавающей точкой [/questions/4575643/floating-point-inaccuracies] 2 ответаСумма с плавающей точкой не является точной [закрыто] [/questions/12878655/sum-of-float-is-not-exact] 2 ответаfor (float ...
Арифметика с плавающей точкой и машинный эпсилон
Я пытаюсь вычислить приближение значения эпсилон дляfloat типа (и я знаю, что это уже в стандартной библиотеке). Значения эпсилона на этой машине (напечатаны с некоторым приближением): FLT_EPSILON = 1.192093e-07 DBL_EPSILON = 2.220446e-16 ...
PHP float расчет 2 десятичной точки
Снова возникла другая математическая задача. $a = 34.56 $b = 34.55$a сделать некоторые расчеты, чтобы получить эту цифру $b делает округление до 0,05, чтобы получить эту цифру что случилось $c = $b - $aпредположительно я должен быть -0,01, но ...
Есть ли какой-нибудь простой способ округлить число с однозначным числом в задаче c?
Да. Ты прав. Конечно, это двойной вопрос. Прежде чем пометить мой вопрос, пожалуйста, продолжайте читать ниже. Я хочу округлить значение с плавающей точкой, которое 56.6748939 to 56.7 56.45678 to 56.5 56.234589 to 56.2На самом деле это ...
Преобразование значений с плавающей точкой в шестнадцатеричное значение цвета в градациях серого
этот вопрос быстрый и простой. У меня есть двумерный массив чисел с плавающей точкой (от 0,0000000 до 1,0000000), и я хочу преобразовать эти числа в значение цвета (от # 000000 до #ffffff). обратите внимание, что я говорю только о значениях в ...