Результаты поиска по запросу "floating-accuracy"
Каково стандартное решение в JavaScript для обработки больших чисел (BigNum)? [закрыто]
Есть ли библиотека bignum для JavaScript или встроенная, которую я могу включить как
Получение десятичной части двойного в Swift
Я пытаюсь разделить десятичную и целую части двойного в быстрой. Я пробовал несколько подходов, но все они сталкиваются с той же проблемой ...
Точность C ++: строка удваивается
У меня возникла проблема с точностью до двойного после выполнения некоторых операций над преобразованной строкой в удвоение.
Что именно является параметром «разрешения» numpy float
Я ищу больше понимания о параметре «разрешения» для numpy float (я думаю, что любой компьютер определил float по этому вопросу).Рассмотрим следующий скрипт:
Среднее несоответствие поплавка
Выбор возвращает прямо на 23000 строкИсключение вернет от 60 до 200 строк (а не одинаковых строк)Исключение должно возвращать 0, так как оно выбирает, кроме ...
Функция pow () в C согласно заголовочному файлу <math.h> не работает должным образом
Я вижу, что для следующего кода получается результат, как показано ниже, есть идеи о том, почему вывод такой?
c ++ fmod возвращает 0.2 для fmod (0.6,0.2)
когда я использую fmod (0.6,0.2) в c ++, он возвращает 0.2Я знаю, что это вызвано точностью с плавающей запятой, но мне кажется, что мне нужно получить остат...