Результаты поиска по запросу "floating-point"
Как распространяется ошибка с плавающей точкой при выполнении математических операций в C ++?
Допустим, мы объявили следующие переменные
плавает меньше, чем FLT_MIN. почему FLT_TRUE_MIN?
Пытаясь увидеть, что произойдет в случае недостаточного числа с плавающей точкой, я обнаружил, что могу сделать числа с плавающей точкой намного меньшими, че...
Как найти значение хеш-функции трехмерного вектора?
Я пытаюсь выполнить обнаружение столкновений в широкой фазе с использованием фиксированного размера сетки. Таким образом, для позиции каждого объекта: (x, y,...
Как вы находите ближайшее неравное значение поплавка? [Дубликат]
На этот вопрос уже есть ответ здесь:Как изменить поплавок по его наименьшему приращению (или близко к нему)? 7 ответовA
Как дополнить вывод с плавающей запятой Fortran ведущими нулями?
У меня есть некоторые числа с плавающей запятой, которые мне нужно вывести из программы на Фортране. Допустим, максимальное число может быть 999,9999, и все они неотрицательны. Мне нужно заполнить нулями перед всеми числами меньше 100. Например, ...
Несоответствие с плавающей точкой между компиляторами (Visual Studio 2010 и GCC)
Я пытаюсь решить кросс-платформенную проблему, которая возникает, и я не совсем понимаю, как ее решить. Вот демонстрационная программа: #include <cmath> #include <cstdio> int main() { int xm = 0x3f18492a; float x = *(float*)&xm; x = (sqrt(x) + ...
Можно ли использовать вычисления Пи Монте-Карло для мирового рекорда?
У меня есть эта случайная функция для расчета пиСтиль Монте-Карло [http://math.fullerton.edu/mathews/n2003/montecarlopimod.html]: max=10000000; format long; in = 0; tic for k=1:max x = rand(); y = rand(); if sqrt(x^2 + y^2) < 1 in = in + 1; ...