Результаты поиска по запросу "precision"

1 ответ

Как эти значения двойной точности с точностью до 20 знаков после запятой?

Я тестирую некоторые очень простые ошибки эквивалентности, когда точность является проблемой, и надеялся выполнить операции с расширенной двойной точностью (...

1 ответ

Установить точность с помощью fstream для выходного файла - формат двойной

Я не могу найти ответ о том, как я могу использовать уже открытый fstream для вывода отформатированных парных чисел в текстовый файл. В настоящее время мой к...

2 ответа

Как удвоить число без знака, используя побитовый и логический оператор в C

ТОП публикаций

1 ответ

Использование функции math.isclose со значениями, близкими к 0

4 ответа

BigDecimal, точность и масштаб

2 ответа

Matlab против C ++ Double Precision

Я портирую некоторый код из Matlab на C ++.В Matlab

1 ответ

Golang, конвертирующий float64 в int error

Как я могу избежать ошибок с плавающей точкой при преобразовании чисел с плавающей точкой в ​​int. Например, распечатывается следующий код:

4 ответа

Как определить максимальную точность для двойной

1 ответ

Есть ли стандартная библиотека для преобразования float64 в строку с фиксированной шириной с максимальным количеством значащих цифр?

3 ответа

Есть ли способ получить «значащие цифры» десятичной дроби?