Результаты поиска по запросу "floating-accuracy"

2 ответа

PHP / MySQL: лучшие практики операций с деньгами / хранения?

Итак, я планирую создать приложение (PHP / MySQL), которое много работает с деньгами, и я думаю о том, как хранить и работать с деньгами, обращаясь к типу да...

7 ответов

печать неотъемлемой части числа с плавающей точкой

10 ответов

Насколько опасно сравнивать значения с плавающей запятой?

я знаю

ТОП публикаций

2 ответа

Деление и числа с плавающей запятой

Кто-нибудь может мне помочь, почему х2 печатает ноль. Я предполагаю, что из-за представления с плавающей запятой X1 округляется, есть ли способ сохранить пре...

5 ответов

Доступна ли произвольная точность Python с плавающей точкой?

Просто ради забавы и потому что это было действительно легко, я написал короткую программу для генерацииПрививка номера, но из-за проблем точности с плавающе...

5 ответов

Каков наиболее эффективный способ округлить значение с плавающей точкой до ближайшего целого числа в Java?

Я видел много обсуждений SO, связанных с округлением значений с плавающей запятой, но не было четкого Q & A с учетом аспекта эффективности. Итак, вот оно: К...

1 ответ

Результат приведения double к int неверен

Кажется, есть какая-то неясная ошибка округления, когда я запускаю следующий код:

3 ответа

SQL Server 2005 числовая потеря точности

Отладка некоторого связанного с финансами кода SQL обнаружила странную проблему с математической точностью (24,8). Запустив следующий запрос на вашем MSSQL,...

1 ответ

Результат приведения double к int неверен

3 ответа

SQL Server 2005 числовая потеря точности

Отладка некоторого связанного с финансами кода SQL обнаружила странную проблему с математической точностью (24,8).Запустив следующий запрос на вашем MSSQL, в...