Результаты поиска по запросу "floating-point"

5 ответов

Почему моя целочисленная математика с std :: pow дает неправильный ответ?

Рассмотрим следующий фрагмент кода:

3 ответа

Преобразовать «float» в байты в Javascript без Float32Array

Хорошо, так что ям довольно неприятная ситуация, когда я неОн не имеет доступа к типизированным массивам, таким как Float32Array, но все же должен иметь возм...

4 ответа

Сортировать многомерный массив по десятичным значениям

Что я'я пытаюсь сделать, это отсортировать многомерный массив, который содержит десятичные значения. Из того, что яВ результате тестирования поплавки исп...

ТОП публикаций

7 ответов

PHP float расчет 2 десятичной точки

Снова возникла другая математическая задача.

2 ответа

Арифметика с плавающей точкой и машинный эпсилон

м пытается вычислить аппроксимацию значения эпсилон для

1 ответ

Для цикла с поплавком в качестве счетчика, увеличивающимся на 0,01, не выводятся ожидаемые значения с плавающей запятой [дубликат]

9 ответов

Самый быстрый способ обнулить низкие значения в массиве?

Итак, допустим, у меня есть 100 000 массивов с плавающей точкой по 100 элементов в каждой. Мне нужно наибольшее количество значений X, НО только в том случае...

3 ответа

Преобразование значений с плавающей точкой в шестнадцатеричное значение цвета в градациях серого

1 ответ

Проверка на равенство с плавающей точкой и дополнительная точность: может ли этот код не сработать?

Обсуждение началось вмой ответ на другой вопрос, Следующий код определяетмашина эпсилон:

2 ответа

Нахождение ближайшего значения с плавающей точкой меньше, чем конкретное целочисленное значение в C ++?

У меня есть входное значение с плавающей запятой, которое 0,0f <= значение < 1.0f (примечание меньше одного).При умножении этого значения на больший ди...