Результаты поиска по запросу "precision"
или же
то, что JavaBigDecimal может быть это больно? Double d = 13.3D; BigDecimal bd1 = new BigDecimal(d); BigDecimal bd2 = new BigDecimal(String.valueOf(d)); System.out.println("RESULT 1: "+bd1.toString()); System.out.println("RESULT 2: ...
как вы на самом деле строите эти алгоритмы
ель - решить: Kc=yс псевдообратным (т.е.минимальная норма решения): c=K^{+}yтакая, что модель является (мы надеемся) полиномиальной моделью высокой степениf(x) = sum_i c_i x^i, Меня особенно интересует недоопределенный случай, когда у нас ...
Привет Макс, спасибо за твой ответ. Перечитывая мой комментарий, я делаю вывод, что он более враждебен, чем я хотел. Мои извинения, если я каким-либо образом обидел вас. Я поместил это перед Вашим редактором однако; Ваш отредактированный ответ немного сужает поиск.
ация: Какой пакет Python или C-Library является лучшим вариантом для арифметических операций с очень высокой точностью? У меня есть некоторые функции, которые конвертируют дробные дни (0.0-0.99999..) в удобочитаемом формате (часы, минуты, ...
Точность типа данных SQL Server - Нео, что реально?
SQL Sever 2000документация [http://msdn.microsoft.com/en-us/library/ms173773.aspx]: Данные с плавающей запятой со следующими допустимыми значениями: от –3,40E + 38 до -1,18E - 38, 0 и 1,18E - от 38 до 3,40E + 38. Размер хранилища составляет ...
Спасибо. Если у вас есть какие-то новые открытия, снова комментируйте, пожалуйста, сделайте так, чтобы кодер знал эту проблему.
aScript каждый знает известный расчет:0.1 + 0.2 = 0.30000000000000004, Но почему JavaScript печатает это значение, а не печатает более точный и точный0.300000000000000044408920985006?
@Zboson: GPU mandelbrot, вероятно, не о масштабировании или его полезности, а скорее о хорошо известной и простой проблеме с очень высокой вычислительной интенсивностью / низкой пропускной способностью памяти. (И цепочка зависимости данных, которая может ограничивать ILP). На этой странице были и другие ориентиры, но мне нравится Мандельброт.
ли выполнить арифметику с плавающей запятой половинной точности на чипах Intel? Я знаю, как загружать / хранить / преобразовывать числа с плавающей запятой половинной точности [1], но я не знаю, как добавить / умножить их без преобразования в ...
Почему выходные данные inv () и pinv () не равны в Matlab и Octave?
Я заметил, что если A матрица NxN и имеет обратную матрицу. Но то, что выводят функции inv () и pinv (), отличается. - Моя среда - Win7x64 SP1, Matlab R2012a, Cygwin Octave 3.6.4, FreeMat 4.2 Посмотрите на примеры из Octave: A = rand(3,3) A = ...
(для реалов) варианты. Я не уверен, есть ли способ заставить компилятор интерпретировать литералы с двойной точностью, не задавая их как таковые (например, изменив 3.14159265359 на 3.14159265359D0) - мы столкнулись с этой проблемой некоторое время назад.
я есть очень большой код, который устанавливает итеративно решает систему нелинейных уравнений в частных производных, написанную на фортране. Мне нужно, чтобы все переменные были двойной точности. В дополнительном модуле, который я написал для ...
тип данных с большей точностью. Это должно работать для вас:
я есть представление в SQL-сервере, что-то вроде этого: select 6.71/3.41 as NewNumberРезультат1.967741 (примечание 6 десятичных знаков) ->decimal (38,6) Я пытаюсь сделать то же самое в калькуляторе, но результат1.967741935483871xxxx Я хочу ...
Да, но часто довольно легко модифицировать фрактальные алгоритмы для работы с целыми числами или подделывать BigInteger как десятичную с фиксированной запятой.
double# не хватает точности для моих нужд. Я пишу фрактальную программу, и после увеличения в несколько раз я теряю точность. Имеется ли тип данных, который может содержать более точную информацию с плавающей точкой (т. Е. Больше десятичных ...