Результаты поиска по запросу "floating-accuracy"

6 ответов

Большие числа, ошибочно округленные в JavaScript

3 ответа

c ++ fmod возвращает 0.2 для fmod (0.6,0.2)

когда я использую fmod (0.6,0.2) в c ++, он возвращает 0.2Я знаю, что это вызвано точностью с плавающей запятой, но мне кажется, что мне нужно получить остат...

3 ответа

Почему операции со значениями двойной точности не дают ожидаемых результатов?

ТОП публикаций

4 ответа

Почему значение с плавающей точкой 4 * 0.1 выглядит хорошо в Python 3, а 3 * 0.1 - нет?

Я знаю, что большинство десятичных чисел не имеют точного представления с плавающей запятой (Математика с плавающей точкой нарушена?).Но я не понимаю почему

1 ответ

Могу ли я использовать pandas.dataframe.isin () с числовым параметром допуска?

Я предварительно просмотрел следующие посты. Есть ли способ использовать DataFrame.isin () с коэффициентом аппроксимации или значением допуска? Или есть друг...

5 ответов

Как установить точность с плавающей запятой в Perl?

Есть ли способ установить точность с плавающей запятой в скрипте Perl (до 3 цифр), не изменяя ее специально для каждой переменной? Нечто похожее на TCL: global tcl_precision set tcl_precision 3

2 ответа

@sascha Относительно второго вопроса: относительная ошибка, то есть (правильная - приблизительная) / правильная, должна быть в этом диапазоне. Для вашего примера, относительная ошибка 6,8533701764037842e-17.

отаю над портированием

11 ответов

Выходы:

число с плавающей запятой необходимо усечь до определенной цифры после числа с плавающей запятой, оказывается, что это сделать нелегко. Например, если усечение должно быть выполнено до второй цифры после точки, числа должны быть 45,8976 => ...

1 ответ

Это то, что я думал. Хотя, это приятно с подтверждением.

твует ли «наилучшая практика» сравнений с числами с плавающей запятой после ряда арифметических операций с плавающей запятой? У меня есть следующий пример в R, хотя вопрос касается не только R, но и любого языка, использующего числа с плавающей ...

4 ответа

Почему я не получаю ноль, когда вычитаю одно и то же число с плавающей запятой из себя в Perl? [Дубликат]

Возможные дубликаты: Почему арифметика с плавающей точкой в C # неточна? [https://stackoverflow.com/questions/753948/why-is-floating-point-arithmetic-in-c-imprecise] Почему ghci говорит, что 1.1 + 1.1 + 1.1> 3.3 - это ...