Результаты поиска по запросу "precision"
Можно ли использовать вычисления Пи Монте-Карло для мирового рекорда?
У меня есть эта случайная функция для расчета пиСтиль Монте-Карло [http://math.fullerton.edu/mathews/n2003/montecarlopimod.html]: max=10000000; format long; in = 0; tic for k=1:max x = rand(); y = rand(); if sqrt(x^2 + y^2) < 1 in = in + 1; ...
Math.log2 точность изменилась в Chrome
Я написал программу на JavaScript, которая рассчитывает глубину двоичного дерева на основе количества элементов. Моя программа работала в течение нескольких ...
длинная двойная точность x86-64
Какова реальная точность long double на 64-битных платформах Intel? 80 бит дополняются до 128 или 128 бит?если прежний, кроме перехода в gmp, есть ли другой ...
Что такое стандартная (или лучше всего поддерживаемая) библиотека больших чисел (произвольная точность) для Lua?
Я работаю с большими числами, которые я не могу округлить. Используя стандартную математическую библиотеку Lua, кажется, нет удобного способа сохранить точно...
Точность C ++ с плавающей запятой [дубликат]
Возможный дубликат:Примеры неточностей с плавающей точкой
Арифметика с плавающей точкой - оператор по модулю двойного типа
Поэтому я пытаюсь выяснить, почему оператор по модулю возвращает такое большое необычное значение.Если у меня есть код: