Результаты поиска по запросу "precision"

2 ответа

Какова точность вычислений с плавающей точкой в ​​Scilab?

Примечание. Я использовал тег Matlab только на тот случай, если они поддерживают одинаковую точность. (Из того, что я могу сказать, обе программы очень похож...

1 ответ

Есть ли стандартная библиотека для преобразования float64 в строку с фиксированной шириной с максимальным количеством значащих цифр?

4 ответа

Как определить максимальную точность для двойной

ТОП публикаций

1 ответ

Golang, конвертирующий float64 в int error

Как я могу избежать ошибок с плавающей точкой при преобразовании чисел с плавающей точкой в ​​int. Например, распечатывается следующий код:

2 ответа

Matlab против C ++ Double Precision

Я портирую некоторый код из Matlab на C ++.В Matlab

4 ответа

BigDecimal, точность и масштаб

1 ответ

Использование функции math.isclose со значениями, близкими к 0

2 ответа

Как удвоить число без знака, используя побитовый и логический оператор в C

1 ответ

Установить точность с помощью fstream для выходного файла - формат двойной

Я не могу найти ответ о том, как я могу использовать уже открытый fstream для вывода отформатированных парных чисел в текстовый файл. В настоящее время мой к...

1 ответ

Как эти значения двойной точности с точностью до 20 знаков после запятой?

Я тестирую некоторые очень простые ошибки эквивалентности, когда точность является проблемой, и надеялся выполнить операции с расширенной двойной точностью (...