Результаты поиска по запросу "floating-point"
float128 и двойная двойная арифметика
Я видел в википедии, что в некоторой степени для реализации четверной точности нужно использовать двойную арифметику, даже если она не совсем одинакова с точ...
Поплавки не оцениваются как отрицательные (Python)
Я пытаюсь удалить значения с плавающей запятой в списке, которые являются отрицательными. Исходный список со всеми значениями выглядит так:
Точность C ++: строка удваивается
У меня возникла проблема с точностью до двойного после выполнения некоторых операций над преобразованной строкой в удвоение.
Как ограничить десятичное число? [Дубликат]
Возможный дубликат:Как отформатировать десятичнуюКак я могу ограничить свое десятичное число, чтобы получить только 3 цифры после запятой?
Джанго, разделение между двумя аннотированными результатами не будет правильно рассчитываться
Я пытаюсь получить разделение между двумя аннотированными результатами в наборе запросов. Показ намного больше, чем клик, поэтому я должен получить десятую ч...
Точность с плавающей точкой при переходе с i386 на x86_64
У меня есть приложение, которое было разработано для Linux x86 32 бит. Есть много операций с плавающей точкой и множество тестов в зависимости от результатов...
Создание компактных / дружественных для человека поплавков с использованием вульгарных фракций Unicode
Существуют ли какие-либо модули (желательно в стандартной библиотеке), которые могут превратить число с плавающей точкой в нечто более удобное для человека...