Результаты поиска по запросу "precision"

1 ответ

Как работать с большими числами в R?

Я хотел бы изменить точность вычисления R. Например, я хотел бы рассчитать

1 ответ

Арифметика с плавающей точкой - оператор по модулю двойного типа

Поэтому я пытаюсь выяснить, почему оператор по модулю возвращает такое большое необычное значение.Если у меня есть код:

1 ответ

Что именно является параметром «разрешения» numpy float

Я ищу больше понимания о параметре «разрешения» для numpy float (я думаю, что любой компьютер определил float по этому вопросу).Рассмотрим следующий скрипт:

ТОП публикаций

1 ответ

Как конвертировать в поплавки в JavaScript?

Я хочу иметь возможность использовать

1 ответ

Реализован ли numpy.sum таким образом, чтобы избежать числовых ошибок?

Хорошо известно, что сложение чисел может привести к числовым ошибкам (например, если первое число действительно большое, тогда как есть много других небольш...

1 ответ

Как эти значения двойной точности с точностью до 20 знаков после запятой?

Я тестирую некоторые очень простые ошибки эквивалентности, когда точность является проблемой, и надеялся выполнить операции с расширенной двойной точностью (...

1 ответ

Установить точность с помощью fstream для выходного файла - формат двойной

Я не могу найти ответ о том, как я могу использовать уже открытый fstream для вывода отформатированных парных чисел в текстовый файл. В настоящее время мой к...

1 ответ

Использование функции math.isclose со значениями, близкими к 0

1 ответ

Golang, конвертирующий float64 в int error

Как я могу избежать ошибок с плавающей точкой при преобразовании чисел с плавающей точкой в ​​int. Например, распечатывается следующий код:

1 ответ

Есть ли стандартная библиотека для преобразования float64 в строку с фиксированной шириной с максимальным количеством значащих цифр?