Результаты поиска по запросу "double"
Лучший способ загрузить 64-битное целое число в регистр SSE2 двойной точности?
Каков наилучший / самый быстрый способ загрузки 64-битного целочисленного значения вxmm SSE2 зарегистрироваться в 32-битном режиме? В 64-битном режимеcvtsi2sd можно использовать, но в 32-битном режиме он поддерживает только 32-битные целые ...
Преобразование десятичного числа в двойное число в C # приводит к разнице
Краткое изложение проблемы: Для некоторых десятичных значений, когда мы конвертируем тип из десятичного в двойное, к результату добавляется небольшая дробь. Хуже всего то, что могут быть два «равных» десятичных значения, которые ...
Преобразовать строку в двойную с 2 цифрами после десятичного разделителя
Все началось с этих простых строк кода: string s = "16.9"; double d = Convert.ToDouble(s); d*=100;Результат должен быть 1690.0, но это не так. d равен 1689.9999999999998. Все, что я хочу сделать, это округлить двойное до значения с двумя цифрами ...
Почему мы не можем использовать '==' для сравнения двух чисел с плавающей запятой или двойных чисел [дубликата]
На этот вопрос уже есть ответ: Test для равенства с плавающей точкой. (FE_FLOATING_POINT_EQUALITY) [/questions/3832592/test-for-floating-point-equality-fe-floating-point-equality] 3 ответа Почему Double.NaN == Double.NaN возвращает ...
Двойной расчет, дающий странный результат [дубликата]
На этот вопрос уже есть ответ: Математика с плавающей точкой нарушена? [/questions/588004/is-floating-point-math-broken] 28 ответов У меня есть 2 числа, сохраненные как Double, 1.4300 и 1.4350. Когда я вычитаю 1.4350 - 1.4300, это дает мне ...
Почему Double.parseDouble составляет от 9999999999999999 до 10000000000000000? [Дубликат]
На этот вопрос уже есть ответ: Как решить проблему с Java Rounding Double [дубликат] [/questions/179427/how-to-resolve-a-java-rounding-double-issue] 13 ответов почему Double.parseDouble делает9999999999999999 в10000000000000000? Например ...
Работа с плавающей точностью в Javascript [дубликаты]
На этот вопрос уже есть ответ: Как справиться с точностью чисел с плавающей точкой в JavaScript? [/questions/1458633/how-to-deal-with-floating-point-number-precision-in-javascript] 34 ответа У меня большое количество числовых значенийy в ...
преобразование двойного в двоичное в java [дубликаты]
На этот вопрос уже есть ответ: Преобразовать двойное в двоичное представление? [/questions/6359847/convert-double-to-binary-representation] 5 ответов Я генерирую последовательность чисел типа double, например ...
Java: Почему мы должны использовать BigDecimal вместо Double в реальном мире? [Дубликат]
На этот вопрос уже есть ответ: Двойной против БольшогоДекального? [/questions/3413448/double-vs-bigdecimal] 8 ответов При работе с реальными денежными значениями мне рекомендуется использовать BigDecimal вместо Double.Но у меня нет ...
Как преобразовать из списка <Double> в double [] в Java?
У меня есть такая переменная: List<Double> frameList = new ArrayList<Double>(); /* Double elements has added to frameList */ Как я могу иметь новую переменную типаdouble[] из этой переменной в Java с высокой производительностью?