Результаты поиска по запросу "precision"

2 ответа

Конвертировать номер Java в BigDecimal: лучший способ

4 ответа

Показать две цифры после десятичной точки в c ++ [дубликат]

1 ответ

Проверка на равенство с плавающей точкой и дополнительная точность: может ли этот код не сработать?

Обсуждение началось вмой ответ на другой вопрос, Следующий код определяетмашина эпсилон:

ТОП публикаций

3 ответа

Высокая точность чисел с плавающей точкой в Haskell?

Я знаю, что в Haskell есть нативные типы данных, которые позволяют вам иметь действительно большие целые числа, такие вещи, как

1 ответ

Достаточно ли указать тип с плавающей точкой, чтобы гарантировать такие же результаты?

3 ответа

Потеря точности при добавлении двойников?

люди! Я'мы столкнулись с небольшой проблемой: яЯ делаю простое сложение с тремя двойными значениями. Результат имеет меньшую точность, чем используемые з...

2 ответа

Можно ли использовать вычисления Пи Монте-Карло для мирового рекорда?

У меня есть эта случайная функция для расчета пиСтиль Монте-Карло:

2 ответа

Арифметическая ошибка с плавающей точкой

3 ответа

Почему выходные данные inv () и pinv () не равны в Matlab и Octave?

Я заметил, что если A матрица NxN и имеет обратную матрицу. Но то, что выводят функции inv () и pinv (), отличается. - Моя среда - Win7x64 SP1, Matlab R2012a...

3 ответа

Как сохранить точность для программы Fortran MPI портативным способом?

У меня есть программа на Фортране, где я указываю