Результаты поиска по запросу "floating-point"

3 ответа

Как распространяется ошибка с плавающей точкой при выполнении математических операций в C ++?

Допустим, мы объявили следующие переменные

5 ответов

Проблемы сравнения MySQL с плавающей запятой

3 ответа

плавает меньше, чем FLT_MIN. почему FLT_TRUE_MIN?

Пытаясь увидеть, что произойдет в случае недостаточного числа с плавающей точкой, я обнаружил, что могу сделать числа с плавающей точкой намного меньшими, че...

ТОП публикаций

2 ответа

Дробная точность

4 ответа

Как найти значение хеш-функции трехмерного вектора?

Я пытаюсь выполнить обнаружение столкновений в широкой фазе с использованием фиксированного размера сетки. Таким образом, для позиции каждого объекта: (x, y,...

3 ответа

Как вы находите ближайшее неравное значение поплавка? [Дубликат]

На этот вопрос уже есть ответ здесь:Как изменить поплавок по его наименьшему приращению (или близко к нему)? 7 ответовA

2 ответа

Проверьте, находится ли число с плавающей точкой близко к любому значению с плавающей точкой, хранящемуся в массиве

4 ответа

Как дополнить вывод с плавающей запятой Fortran ведущими нулями?

У меня есть некоторые числа с плавающей запятой, которые мне нужно вывести из программы на Фортране. Допустим, максимальное число может быть 999,9999, и все они неотрицательны. Мне нужно заполнить нулями перед всеми числами меньше 100. Например, ...

8 ответов

Несоответствие с плавающей точкой между компиляторами (Visual Studio 2010 и GCC)

Я пытаюсь решить кросс-платформенную проблему, которая возникает, и я не совсем понимаю, как ее решить. Вот демонстрационная программа: #include <cmath> #include <cstdio> int main() { int xm = 0x3f18492a; float x = *(float*)&xm; x = (sqrt(x) + ...

2 ответа

Можно ли использовать вычисления Пи Монте-Карло для мирового рекорда?

У меня есть эта случайная функция для расчета пиСтиль Монте-Карло [http://math.fullerton.edu/mathews/n2003/montecarlopimod.html]: max=10000000; format long; in = 0; tic for k=1:max x = rand(); y = rand(); if sqrt(x^2 + y^2) < 1 in = in + 1; ...