Результаты поиска по запросу "floating-point"

6 ответов

Как я могу превратить число с плавающей запятой в ближайшую дробь, представленную байтовым числителем и знаменателем?

Как я могу написать алгоритм с заданным числом с плавающей запятой и попытками его представления с максимально возможной точностью, используя числитель и знаменатель, оба из которых ограничены диапазоном байта Java? Причиной этого является то, ...

2 ответа

Найти мин / макс с плавающей / двойной, который имеет такое же внутреннее представление

Обновление наплавающие точки (такжеPDF), IEEE-754 и участиев этом обсуждении округления с плавающей запятой при преобразовании в строки, привел меня к возить...

1 ответ

, В качестве альтернативы вы можете использовать небольшую степень два для приращения вместо того, что не может быть представлено, например

аю, что схожу с ума. «counter» и «interval» оба являются двойными. Это происходит на акселерометре: didAccelerate с интервалом (0,01). «counter» должен постепенно увеличиваться до «interval». По какой-то причине я не могу заставить это "если" ...

ТОП публикаций

2 ответа

Джанго, разделение между двумя аннотированными результатами не будет правильно рассчитываться

Я пытаюсь получить разделение между двумя аннотированными результатами в наборе запросов. Показ намного больше, чем клик, поэтому я должен получить десятую ч...

9 ответов

грех, кос, загар и ошибка округления

Я делаю некоторые вычисления тригонометрии в C / C ++ и сталкиваюсь с проблемами с ошибками округления. Например, в моей системе Linux: #include <stdio.h> #include <math.h> int main(int argc, char *argv[]) { printf("%e\n", sin(M_PI)); return 0; ...

2 ответа

Эффективный способ округления чисел с двойной точностью до более низкой точности, заданной числом бит

В C # я хочу округлить двойные числа с меньшей точностью, чтобы я мог хранить их в контейнерах различного размера в ассоциативном массиве. В отличие от обычного округления, я хочу округлить до нескольких значащих битов. Таким образом, большие ...

1 ответ

Стандарт IEEE-754 на графическом процессоре NVIDIA (sm_13)

Если я выполню операцию с плавающей запятой (одинарной точности) на хосте и устройстве (GPU arch sm_13), будут ли значения другими?

2 ответа

Всегда ли Math.Round (double, decimal) возвращает согласованные результаты

Конечно, никогда не следует сравнивать значения с плавающей запятой, которые являются результатом вычисления на равенство, но всегда используйте небольшой допуск, например: double value1 = ... double value2 = ... if (Math.Abs(value1 - value2) ...

6 ответов

iOS Objective-C Как получить 2 десятичных округленных значения с плавающей точкой?

у меня есть float a = 1412.244019;и мне нужно округлить до ближайшего второго десятичного знака, как 1412.24000000. Я понимаю, что если я хочу представить только два десятичных знака, я использую% .2f, но это не так. Мне нужно новое ...

2 ответа

Преобразовать число с плавающей точкой в округленный десятичный эквивалент

Когда вы конвертируетеfloat вDecimal,Decimal будет содержать как можно более точное представление двоичного числа. Приятно быть точным, но это не всегда то, что вы хотите. Поскольку многие десятичные числа не могут быть представлены точно в ...