Результаты поиска по запросу "floating-point"

1 ответ

float128 и двойная двойная арифметика

Я видел в википедии, что в некоторой степени для реализации четверной точности нужно использовать двойную арифметику, даже если она не совсем одинакова с точ...

2 ответа

Поплавки не оцениваются как отрицательные (Python)

Я пытаюсь удалить значения с плавающей запятой в списке, которые являются отрицательными. Исходный список со всеми значениями выглядит так:

2 ответа

Точность C ++: строка удваивается

У меня возникла проблема с точностью до двойного после выполнения некоторых операций над преобразованной строкой в ​​удвоение.

ТОП публикаций

1 ответ

Оптимизированное низкоточное приближение к `rootn (x, n)`

4 ответа

Расширенная (80-битная) двойная плавающая точка в x87, а не SSE2 - мы не пропустили это?

6 ответов

Как ограничить десятичное число? [Дубликат]

Возможный дубликат:Как отформатировать десятичнуюКак я могу ограничить свое десятичное число, чтобы получить только 3 цифры после запятой?

1 ответ

Панды: Dataframe.replace () с регулярным выражением

2 ответа

Джанго, разделение между двумя аннотированными результатами не будет правильно рассчитываться

Я пытаюсь получить разделение между двумя аннотированными результатами в наборе запросов. Показ намного больше, чем клик, поэтому я должен получить десятую ч...

4 ответа

Точность с плавающей точкой при переходе с i386 на x86_64

У меня есть приложение, которое было разработано для Linux x86 32 бит. Есть много операций с плавающей точкой и множество тестов в зависимости от результатов...

1 ответ

Создание компактных / дружественных для человека поплавков с использованием вульгарных фракций Unicode

Существуют ли какие-либо модули (желательно в стандартной библиотеке), которые могут превратить число с плавающей точкой в ​​нечто более удобное для человека...