Результаты поиска по запросу "floating-point-precision"

1 ответ

эпсилон для различных значений с плавающей точкой

Есть

3 ответа

Беда с поплавками в Objective-C

6 ответов

следующий выше / ниже IEEE номер двойной точности

Я делаю высокоточные научные вычисления. В поисках наилучшего представления различных эффектов я продолжаю придумывать причины, чтобы захотеть получить следу...

ТОП публикаций

6 ответов

следующий выше / ниже IEEE номер двойной точности

Я делаю высокоточные научные вычисления. В поисках наилучшего представления различных эффектов я продолжаю придумывать причины, чтобы захотеть получить следу...

2 ответа

Как сделать так, чтобы цифры не отображались в научной форме?

4 ответа

Python: Найти индекс минимального элемента в списке чисел [дубликаты]

3 ответа

Java - максимальная потеря точности за одно двойное сложение / вычитание

Можно ли даже приблизительно определить, какой будет максимальная потеря точности при работе с двумя

1 ответ

Почему использование модуля по нецелым значениям теряет точность с плавающей точкой? [Дубликат]

На этот вопрос уже есть ответ здесь:Почему я вижу двойную переменную, инициализированную некоторым значением, таким как 21.4, как 21.399999618530273? 14 отве...

6 ответов

C ++ Как избежать арифметической ошибки с плавающей точкой

Я пишу цикл, который увеличивается с плавающей запятой, но я столкнулся с арифметической проблемой с плавающей запятой, показанной в следующем примере:

2 ответа

Получить следующий наименьший двухместный номер

В рамках модульного теста мне нужно проверить некоторые граничные условия. Один метод принимает