Результаты поиска по запросу "floating-accuracy"

5 ответов

Потеря точности с плавающей запятой c ++: 3015 / 0.00025298219406977296

Эта проблема.Компилятор Microsoft Visual C ++ 2005, 32-разрядная версия Windows XP SP3, 64-разрядный процессор amd.Код:

0 ответов

повышение точности пересечения лучей и эллипсоидов

Мне нужно повысить точность для функции в одном из моихАтмосферное рассеяние фрагмента GLSL который вычисляет пересечение между одиночным лучом и выровненным...

3 ответа

Как распространяется ошибка с плавающей точкой при выполнении математических операций в C ++?

Допустим, мы объявили следующие переменные

ТОП публикаций

3 ответа

Как вы находите ближайшее неравное значение поплавка? [Дубликат]

На этот вопрос уже есть ответ здесь:Как изменить поплавок по его наименьшему приращению (или близко к нему)? 7 ответовA

2 ответа

Почему эти два float64 имеют разные значения?

1 ответ

Почему значение этого плавающего элемента отличается от установленного?

12 ответов

Можно ли получить 0, вычитая два неравных числа с плавающей точкой?

Можно ли получить деление на 0 (или бесконечность) в следующем примере?

1 ответ

Может ли точность с плавающей точкой зависеть от потока?

У меня есть небольшой трехмерный векторный класс в C # 3.0, основанный на struct, которая использует double в качестве базовой единицы.Пример: Y-значение одн...

1 ответ

Проблемы с десятичным знаком с плавающей запятой и десятичной дробью.

8 ответов

Управление и сравнение чисел с плавающей точкой в ​​Java