Результаты поиска по запросу "floating-accuracy"

4 ответа

Почему я не получаю ноль, когда вычитаю одно и то же число с плавающей запятой из себя в Perl? [Дубликат]

Возможные дубликаты:Почему арифметика с плавающей точкой в C # неточна?Почему ghci говорит, что 1.1 + 1.1 + 1.1> 3.3 это правда?

2 ответа

Нахождение ближайшего значения с плавающей точкой меньше, чем конкретное целочисленное значение в C ++?

У меня есть входное значение с плавающей запятой, которое составляет 0,0f <= значение <1,0f (обратите внимание, меньше, чем один). При умножении этого значения на больший диапазон, естественно, точность с плавающей запятой уменьшается, что ...

4 ответа

Целочисленное возведение в степень в OCaml

Есть ли функция для целочисленного возведения в степень в OCaml? ** только для поплавков. Хотя это кажется в основном точным, разве нет возможности ошибок точности, что-то вроде 2. ** 3. = 8. иногда возвращает false? Есть ли библиотечная функция ...

ТОП публикаций

2 ответа

Гарантированная точность функции sqrt в C / C ++

Все знают

3 ответа

C / C ++: 1.00000 <= 1.0f = False

Может кто-нибудь объяснить, почему 1.000000 &lt;= 1.0f ложно?Код:

1 ответ

Высокая числовая точность плавает с MySQL и SQLAlchemy ORM

Я храню некоторые числа в MySQL, используя ORM SQLAlchemy. Когда я получаю их позже, они усекаются так, что сохраняются только 6 значащих цифр, что теряет бо...

3 ответа

Условие «больше чем» в MySQL иногда возвращает строку с одинаковым значением

Я сталкиваюсь с непонятной проблемой с базовым запросом MySQL.Это мой стол:

4 ответа

Точное текстовое представление «двойника» IEEE

6 ответов

Что является простым примером ошибки с плавающей запятой / округления?

1 ответ

Эмпирические правила для минимизации ошибок с плавающей точкой в ​​C?

Что касается минимизации ошибки в операциях с плавающей запятой, если у меня есть такая операция, как в C: