Результаты поиска по запросу "double"
Я согласен с Питером, я тоже не вижу, чтобы это произошло. Однако, если это продолжает происходить с вами, и если число десятичных дробей известно и зафиксировано в вашем сценарии использования в любом случае, использование «int» может быть решением, это даже быстрее, чем операции с плавающей запятой. Конечно, для представлений вам придется преобразовать их в плавающие точки.
я есть проблема для управления десятичного числа в Java (JDK 1.4). У меня двадвойной чиселпервыйа такжевторой(как вывод отформатированногострока). Я делаю сумму между первой и второй и получаю число с большим количеством десятичных цифр! final ...
Пока вы не работаете с float, у которых есть размер по умолчанию.
у вас есть плавающий в MSSQLServer, что вы сопоставляете это в .NET? Можете ли вы преобразовать его в Double или вы потеряете числа?
Да, но часто довольно легко модифицировать фрактальные алгоритмы для работы с целыми числами или подделывать BigInteger как десятичную с фиксированной запятой.
double# не хватает точности для моих нужд. Я пишу фрактальную программу, и после увеличения в несколько раз я теряю точность. Имеется ли тип данных, который может содержать более точную информацию с плавающей точкой (т. Е. Больше десятичных ...
Функция возвращает количество двоичных цифр перед всеми нулями, и это также число десятичных цифр перед всеми нулями (последняя десятичная цифра всегда 5, если возвращаемое значение> 0).
я есть двойной, который не обязательно положительный, но обычно. Это может быть 0.xxxx000 или X.xxxx00000 или XX.00000 или 0.xxx0xxx00000, где в конечном итоге все 0 находятся справа от последнего числа. Мне нужно следить за количеством цифр. У ...
по-прежнему подвержен ошибкам точности / округления.
я есть следующий код: Double x = 17.0; Double y = 0.1; double remainder = x.doubleValue() % y.doubleValue();Когда я запускаю это, я получаю остаток = 0.09999999999999906 Есть идеи почему ?? Мне нужно проверить, что x полностью делится на y. ...
Ответ PMG кажется идеальным.
ользую функцию strtod () для извлечения переменной окружения в виде строки, а затем меняю ее на удвоение с помощью strtod: enter code here char strEnv[32]; strncpy(strEnv, getenv("LT_LEAK_START"), 31); // How to make sure before parsing that env ...
не удастся. в таком случае вы можете столкнуться с проблемой.
ормально делать это? double doubleVariable=0.0; if (doubleVariable==0) { ... }Или этот код будет страдать от потенциальных проблем округления?
Для хранения статистических данных мне нужны DECIMAL, FLOAT или DOUBLE?
Я занимаюсь творчеством, но все же хочу серьезно подойти к этому сайту, на котором проводятся различные тесты. С помощью этих тестов я надеюсь собрать статистические данные. Некоторые данные будут включать процент полноты тестов, как они ...
Используется для преобразования любого числа String в удвоенное значение, когда вам нужно int, просто преобразуйте тип данных из num и num2 в int; взял все случаи для любой двойной строки с англ: «Bader Qandeel»
могу конвертироватьString такие как"12.34" кdouble в Java?
В этой последовательности!
риложение читает файл Excel с помощью VSTO и добавляет прочитанные данные вStringDictionary, Добавляются только данные, представляющие собой числа с несколькими цифрами (1000 1000,2 1000,34 - запятая является разделителем в российских ...