Результаты поиска по запросу "rounding-error"

5 ответов

Рабочий код члена php.net:

ользую PHP 5.2.13 на моем сервере Linux. Я получаю странную ошибку при округлении чисел. Это мой тестовый пример: <?php echo " " . round(1.505, 2) . "\n"; echo " " . round(11.505, 2) . "\n"; echo " " . round(111.505, 2) . "\n"; echo " " . ...

2 ответа

Есть ли тип данных «Десятичный» в R?

5 ответов

php intval () и floor () возвращают слишком низкое значение?

Поскольку тип данных с плавающей точкой в PHP является неточным, а FLOAT в MySQL занимает больше места, чем INT (и неточный), я всегда сохраняю цены как INT, умножая их на 100, прежде чем сохранять, чтобы гарантировать, что мы имеем ровно 2 ...

ТОП публикаций

3 ответа

Неточности округления при объединении областей в Java?

Я работаю сAreas на Яве. Моя тестовая программа рисует три случайных треугольника и объединяет их в один или несколько полигонов. ПослеAreas находятся.add()вместе, я используюPathIterator проследить края. Иногда, однако,Area объекты не будут ...

3 ответа

Если это не сработает, вы можете работать с целыми числами, увеличивая числа и всегда используя целочисленное деление. Если вам нужны расширенные функции, возможно, есть пакет, который выполняет детерминированную целочисленную математику. Целочисленное деление требуется во многих финансовых условиях из-за ошибки округления, которая может быть использована, как в фильме «Офис».

ько что читал об ошибках округления в C ++. Итак, если я делаю интенсивную математическую программу (или какие-либо важные вычисления), я должен просто отбросить все числа с плавающей запятой и использовать только двойные числа или есть более ...

1 ответ

Код Entity Framework Сначала усекает мои десятичные числа

Я использую Entity Framework 6.x с использованием подхода Code First в приложении MVC 5. В этой конкретной ситуации моя модель (среди прочего) содержит два с...

4 ответа

Но если вы допустите val = 12,5 и вычтете 0,125 в цикле, вы можете достичь нуля.

ющая программа: #include <stdio.h> int main() { double val = 1.0; int i; for (i = 0; i < 10; i++) { val -= 0.2; printf("%g %s\n", val, (val == 0.0 ? "zero" : "non-zero")); } return 0; }Производит этот вывод: 0.8 non-zero 0.6 non-zero 0.4 ...

4 ответа

 (и просто присваивая непосредственно двойному), чтобы убедиться, что это происходит в

я проблема в системах на основе UNIX. Sprintf не округляет значение должным образом. Например double tmp = 88888888888885.875 char out[512];Это 88,888,888,888,885,875, чтобы быть проще для глаз. Я привожу такой конкретный и большой пример, ...

1 ответ

Почему я получаю специфичный для платформы результат для std :: exp? [Дубликат]

На этот вопрос уже есть ответ: Математика с плавающей точкой нарушена? [/questions/588004/is-floating-point-math-broken] 28 ответов Математические требования к точности стандартов C и C ...