Результаты поиска по запросу "approximation"
Я согласен с Питером, я тоже не вижу, чтобы это произошло. Однако, если это продолжает происходить с вами, и если число десятичных дробей известно и зафиксировано в вашем сценарии использования в любом случае, использование «int» может быть решением, это даже быстрее, чем операции с плавающей запятой. Конечно, для представлений вам придется преобразовать их в плавающие точки.
я есть проблема для управления десятичного числа в Java (JDK 1.4). У меня двадвойной чиселпервыйа такжевторой(как вывод отформатированногострока). Я делаю сумму между первой и второй и получаю число с большим количеством десятичных цифр! final ...
numpy.sin (pi) возвращает отрицательное значение
Следующий код: a = numpy.sin(2. * numpy.pi) print(a < 0)вернуть «True». Но на самом деле а = 0. Как я мог это исправить? Кроме того, у меня есть матрица с большим значением, например «а», и я хочу убедиться, что моя матрица содержит ...
Как сравнить эту последовательность двойников «примерно равных» в Java?
У меня есть метод в Java, который возвращает двойное число, и я хочу сравнивать каждое двойное число, которое возвращается каждый раз, когда я вызываю метод (скажем, 5 раз), так что я могу заключить, что возвращаемое число почти одинаково каждый ...
Округлите двойной до int
У меня есть номер ("двойной") из int / int (например, 10/3). Каков наилучший способ приближения Excess и преобразования его в int на C #?
плавающая странная ошибка неточности в c [дубликаты]
На этот вопрос уже есть ответ: Математика с плавающей точкой нарушена? [/questions/588004/is-floating-point-math-broken] 28 ответов Сегодня случилось со мной странная вещь, когда я пытаюсь скомпилировать и выполнить вывод этого кода не то, что ...
Страница 2 из 2