Результаты поиска по запросу "precision"
Проверка на равенство с плавающей точкой и дополнительная точность: может ли этот код не сработать?
Обсуждение началось вмой ответ на другой вопрос, Следующий код определяетмашина эпсилон:
Высокая точность чисел с плавающей точкой в Haskell?
Я знаю, что в Haskell есть нативные типы данных, которые позволяют вам иметь действительно большие целые числа, такие вещи, как
Потеря точности при добавлении двойников?
люди! Я'мы столкнулись с небольшой проблемой: яЯ делаю простое сложение с тремя двойными значениями. Результат имеет меньшую точность, чем используемые з...
Можно ли использовать вычисления Пи Монте-Карло для мирового рекорда?
У меня есть эта случайная функция для расчета пиСтиль Монте-Карло:
Почему выходные данные inv () и pinv () не равны в Matlab и Octave?
Я заметил, что если A матрица NxN и имеет обратную матрицу. Но то, что выводят функции inv () и pinv (), отличается. - Моя среда - Win7x64 SP1, Matlab R2012a...
Как сохранить точность для программы Fortran MPI портативным способом?
У меня есть программа на Фортране, где я указываю