Результаты поиска по запросу "precision"
Арифметическая ошибка с плавающей точкой
Я использую следующую функцию, чтобы приблизить производную функции в точке: def prime_x(f, x, h): if not f(x+h) == f(x) and not h == 0.0: return (f(x+h) - f(x)) / h else: raise PrecisionErrorВ качестве теста я прохожуf какfx а такжеx как 3.0. ...
тип данных с большей точностью. Это должно работать для вас:
я есть представление в SQL-сервере, что-то вроде этого: select 6.71/3.41 as NewNumberРезультат1.967741 (примечание 6 десятичных знаков) ->decimal (38,6) Я пытаюсь сделать то же самое в калькуляторе, но результат1.967741935483871xxxx Я хочу ...
Можно ли использовать вычисления Пи Монте-Карло для мирового рекорда?
У меня есть эта случайная функция для расчета пиСтиль Монте-Карло [http://math.fullerton.edu/mathews/n2003/montecarlopimod.html]: max=10000000; format long; in = 0; tic for k=1:max x = rand(); y = rand(); if sqrt(x^2 + y^2) < 1 in = in + 1; ...
Нет. Помимо того факта, что double является двоичным и, следовательно, не подходит для десятичных значений, double имеет максимум 15/16 десятичных цифр (53 бита). десятичное число имеет максимум 28/29 цифр (96 бит), поэтому было бы хорошо использовать его. Если у вас более высокая точность в базе данных, вам нужен собственный класс bignum для C #, ищите реализации в stackoverflow.
. У меня есть двойной (который я извлек из базы данных), который имеет точность 20 цифр. В Visual Studio (с использованием QuickWatch) я вижу значение двойного = 0.00034101243963859839. Я хочу отобразить это значение в текстовом поле, а затем ...
Привет Макс, спасибо за твой ответ. Перечитывая мой комментарий, я делаю вывод, что он более враждебен, чем я хотел. Мои извинения, если я каким-либо образом обидел вас. Я поместил это перед Вашим редактором однако; Ваш отредактированный ответ немного сужает поиск.
ация: Какой пакет Python или C-Library является лучшим вариантом для арифметических операций с очень высокой точностью? У меня есть некоторые функции, которые конвертируют дробные дни (0.0-0.99999..) в удобочитаемом формате (часы, минуты, ...
Библиотека .NET Framework для произвольной точности цифр
Я возвращаюсь к этому вопросу и уточняю его: существует ли библиотека фреймворков .NET, которая поддерживает числа с произвольными цифрами точности?
Как сгенерировать последовательность из n случайных натуральных чисел, которые складываются до некоторого значения?
Я пытаюсь сгенерировать массив целых чисел, содержащий случайные значения, складывающиеся до определенного значения. Вот мой код:
Запись IEEE 754-1985 в качестве ASCII с двойной строкой из 16 байтов
Это продолжение моегооригинальный пост, Но я повторю это для ясности:Согласно стандарту DICOM, тип с плавающей запятой может быть сохранен с использованием п...
Objective-C - Как повысить точность числа с плавающей точкой
Может кто-нибудь, пожалуйста, покажите мне способ установить точность числа с плавающей запятой до желаемой длины. Скажем, у меня есть номер 2504.6. Как видите, здесь точность равна 1. Я хочу установить ее на шесть. Мне это нужно, потому что я ...
Какая библиотека произвольной точности (для скорости) для C ++? [Дубликат]
На этот вопрос уже есть ответ: Лучшая кроссплатформенная (портативная) математическая библиотека произвольной точности [закрыто] [/questions/2568446/the-best-cross-platform-portable-arbitrary-precision-math-library] 5 ответов Мне нужна самая ...