Результаты поиска по запросу "precision"

6 ответов

fopen / fopen_s и запись в файлы

2 ответа

Можно ли использовать вычисления Пи Монте-Карло для мирового рекорда?

У меня есть эта случайная функция для расчета пиСтиль Монте-Карло [http://math.fullerton.edu/mathews/n2003/montecarlopimod.html]: max=10000000; format long; in = 0; tic for k=1:max x = rand(); y = rand(); if sqrt(x^2 + y^2) < 1 in = in + 1; ...

3 ответа

Почему добавление 0,1 несколько раз остается без потерь?

Я знаю

ТОП публикаций

2 ответа

Math.log2 точность изменилась в Chrome

Я написал программу на JavaScript, которая рассчитывает глубину двоичного дерева на основе количества элементов. Моя программа работала в течение нескольких ...

9 ответов

ArithmeticException выдается во время BigDecimal.divide

4 ответа

длинная двойная точность x86-64

Какова реальная точность long double на 64-битных платформах Intel? 80 бит дополняются до 128 или 128 бит?если прежний, кроме перехода в gmp, есть ли другой ...

3 ответа

Различия в точности расчетов в однопотоковом / многопоточном (OpenMP) режимах

5 ответов

Что такое стандартная (или лучше всего поддерживаемая) библиотека больших чисел (произвольная точность) для Lua?

Я работаю с большими числами, которые я не могу округлить. Используя стандартную математическую библиотеку Lua, кажется, нет удобного способа сохранить точно...

0 ответов

Точность C ++ с плавающей запятой [дубликат]

Возможный дубликат:Примеры неточностей с плавающей точкой

1 ответ

Арифметика с плавающей точкой - оператор по модулю двойного типа

Поэтому я пытаюсь выяснить, почему оператор по модулю возвращает такое большое необычное значение.Если у меня есть код: