Результаты поиска по запросу "precision"
Как работать с большими числами в R?
Я хотел бы изменить точность вычисления R. Например, я хотел бы рассчитать
Арифметика с плавающей точкой - оператор по модулю двойного типа
Поэтому я пытаюсь выяснить, почему оператор по модулю возвращает такое большое необычное значение.Если у меня есть код:
Что именно является параметром «разрешения» numpy float
Я ищу больше понимания о параметре «разрешения» для numpy float (я думаю, что любой компьютер определил float по этому вопросу).Рассмотрим следующий скрипт:
Как конвертировать в поплавки в JavaScript?
Я хочу иметь возможность использовать
Реализован ли numpy.sum таким образом, чтобы избежать числовых ошибок?
Хорошо известно, что сложение чисел может привести к числовым ошибкам (например, если первое число действительно большое, тогда как есть много других небольш...
Как эти значения двойной точности с точностью до 20 знаков после запятой?
Я тестирую некоторые очень простые ошибки эквивалентности, когда точность является проблемой, и надеялся выполнить операции с расширенной двойной точностью (...
Установить точность с помощью fstream для выходного файла - формат двойной
Я не могу найти ответ о том, как я могу использовать уже открытый fstream для вывода отформатированных парных чисел в текстовый файл. В настоящее время мой к...
Golang, конвертирующий float64 в int error
Как я могу избежать ошибок с плавающей точкой при преобразовании чисел с плавающей точкой в int. Например, распечатывается следующий код: