Результаты поиска по запросу "floating-accuracy"

2 ответа

Каково стандартное решение в JavaScript для обработки больших чисел (BigNum)? [закрыто]

Есть ли библиотека bignum для JavaScript или встроенная, которую я могу включить как

5 ответов

Получение десятичной части двойного в Swift

Я пытаюсь разделить десятичную и целую части двойного в быстрой. Я пробовал несколько подходов, но все они сталкиваются с той же проблемой ...

2 ответа

Точность C ++: строка удваивается

У меня возникла проблема с точностью до двойного после выполнения некоторых операций над преобразованной строкой в ​​удвоение.

ТОП публикаций

1 ответ

Что именно является параметром «разрешения» numpy float

Я ищу больше понимания о параметре «разрешения» для numpy float (я думаю, что любой компьютер определил float по этому вопросу).Рассмотрим следующий скрипт:

1 ответ

Среднее несоответствие поплавка

Выбор возвращает прямо на 23000 строкИсключение вернет от 60 до 200 строк (а не одинаковых строк)Исключение должно возвращать 0, так как оно выбирает, кроме ...

2 ответа

Функция pow () в C согласно заголовочному файлу <math.h> не работает должным образом

Я вижу, что для следующего кода получается результат, как показано ниже, есть идеи о том, почему вывод такой?

6 ответов

Эффективно вычислять (a - K) / (a ​​+ K) с улучшенной точностью

1 ответ

Потеря точности при использовании read_csv в пандах

6 ответов

Большие числа, ошибочно округленные в JavaScript

3 ответа

c ++ fmod возвращает 0.2 для fmod (0.6,0.2)

когда я использую fmod (0.6,0.2) в c ++, он возвращает 0.2Я знаю, что это вызвано точностью с плавающей запятой, но мне кажется, что мне нужно получить остат...