Результаты поиска по запросу "floating-accuracy"

0 ответов

Точность C ++ с плавающей запятой [дубликат]

Возможный дубликат:Примеры неточностей с плавающей точкой

2 ответа

Реализация алгоритма Пейна Ханека в C

Я изо всех сил пытаюсь понять, как РЕАЛИЗОВАТЬ алгоритм уменьшения диапазона, опубликованный Пэйном и Ханеком (уменьшение диапазона для тригонометрических фу...

2 ответа

Каково стандартное решение в JavaScript для обработки больших чисел (BigNum)? [закрыто]

Есть ли библиотека bignum для JavaScript или встроенная, которую я могу включить как

ТОП публикаций

5 ответов

Получение десятичной части двойного в Swift

Я пытаюсь разделить десятичную и целую части двойного в быстрой. Я пробовал несколько подходов, но все они сталкиваются с той же проблемой ...

2 ответа

Точность C ++: строка удваивается

У меня возникла проблема с точностью до двойного после выполнения некоторых операций над преобразованной строкой в ​​удвоение.

1 ответ

Что именно является параметром «разрешения» numpy float

Я ищу больше понимания о параметре «разрешения» для numpy float (я думаю, что любой компьютер определил float по этому вопросу).Рассмотрим следующий скрипт:

1 ответ

Среднее несоответствие поплавка

Выбор возвращает прямо на 23000 строкИсключение вернет от 60 до 200 строк (а не одинаковых строк)Исключение должно возвращать 0, так как оно выбирает, кроме ...

2 ответа

Функция pow () в C согласно заголовочному файлу <math.h> не работает должным образом

Я вижу, что для следующего кода получается результат, как показано ниже, есть идеи о том, почему вывод такой?

6 ответов

Эффективно вычислять (a - K) / (a ​​+ K) с улучшенной точностью

1 ответ

Потеря точности при использовании read_csv в пандах